Budowanie własnej chmury prywatnej wiąże się z wyzwaniami:

· Budżet. Chmury prywatne mogą być bardzo kosztowne - przed przystąpieniem do wdrożenia należy starannie wyliczyć dolną i górną granicę wskaźnika zwrotu z inwestycji (ROI).

· Integracja z chmurą publiczną. Jeżeli potrzebne będą również usługi chmury publicznej, chmurę prywatną należy budować w taki sposób, aby można było łatwo przejść do modelu hybrydowego. Miedzy innymi należy zapewnić bezpieczeństwo systemów i sprawdzić, czy własne aplikacje będzie można uruchamiać w obu chmurach.

· Skala. Chmury prywatne nie zapewniają zazwyczaj takiego efektu skali, jaki mogą osiągać dostawcy chmur publicznych.

·Rekonfiguracja w locie. W procesie implementacji może okazać się koniecznym demontaż dotychczasowej infrastruktury serwerów i innych urządzeń, ciągle będących w użyciu, w celu ich przemieszczenia do chmury. Może to wprowadzić wielkie zakłócenia w codziennym funkcjonowaniu IT.

· Starszy sprzęt. Poza chmurą należy pozostawić starsze serwery. Nie należy też wprowadzać do niej serwerów, które wymagają ręcznego skonfigurowania z chmurą prywatną, ponieważ może się okazać, że niemożliwe jest w ich wypadku zastosowanie automatyzacji i orkiestracji.

· Starzenie się technologii. Złożoność i szybkość zmian technologicznych będzie trudna do opanowania dla każdego działu IT, zwłaszcza w mniejszych organizacjach. Kiedy już zaangażujemy się w chmurę prywatną, trzeba chronić inwestycje, będąc na bieżąco z nowymi wydaniami oprogramowania.

· Lęk przed zmianami. Zespół IT może nie mieć dostatecznej wiedzy o chmurze i musi liczyć się z doszkoleniem. Może też zaistnieć potrzeba stworzenia nowych procedur operacyjnych i zmodernizowania dotychczasowych. Ta stresująca sytuacja powinna być wykorzystana do przekonania zespołu o jego rosnącej roli, przypominając, że w dzisiejszych środowiskach biznesowych potrzebne są nowe umiejętności.