Ten wirtualny superkomputer Google obsłuży każdą aplikację ML

Google wprowadziło do oferty nową linię maszyn wirtualnych mających wydajność superkomputerów, na których można uruchamiać aplikacje wymagające dużej mocy, takie jak duże modele sztucznej inteligencji ( w skrócie LLM) wykorzystujące technologię uczenia maszynowego.

Grafika: Google

Są do wyjątkowo wydajne maszyny wirtualne A3, które zostały zaprezentowane w zeszłym tygodniu na firmowej konferencji Google I/O. Zostały zaprojektowane z myślą o tym, aby mogły obsługiwać aplikacje wykorzystujące technologię maszynowego uczenia, co jest możliwe dzięki temu, że mają do dyspozycji najnowsze procesory graficzne Nvidia oznaczone symbolem H100, których premiera miała miejsce kilka tygodni temu. Mają też do dyspozycji procesory Intel Xeon Scalable czwartej generacji, 2 TB pamięci systemowej i wydajne połączenia NVSwitch oraz NVLink, które obsługują podłączone do nich procesory.

Testy wykazują, że składający się z kilku instancji A3 wirtualny superkomputer ma moc ok. 26 eksaflopsów mocy. Jest to możliwe między innymi dlatego, że Google stosuje innowacyjną architekturę GPU-to-GPU, której nadał nazwę IPU (od słów Infrastructure Processing Unit). Pozwala ona transmitować dane bezpośrednio między procesorami graficznymi z szybkością dochodzącą do 200 Gb/s. Wszystko to powoduje, że maszyna wirtualna A3 ma prawie dziesięć razy większą wydajność od maszyn poprzedniej generacji oznaczonych symbolem A2.

Zobacz również:

  • Superkomputer do obliczeń AI od Nvidia

Z maszyn wirtualnych A3 będzie można korzystać na dwa sposoby: będzie je można uruchamiać samodzielnie albo zamawiać usługę oferującą taką maszynę. W tym drugim przypadku zarządzać nią będzie Google. Uruchamiając ją samodzielnie, użytkownik może to robić w ramach środowisk Google Kubernetes Engine (GKE) i Google Compute Engine (GCE). W przypadku zamówienia takie usługi, maszyna wirtualna działa w ramach firmowej platformy uczenia maszynowego Vertex.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200