Platforma tej firmy jest najlepsza w szkoleniu modeli językowych AI

Testy porównawcze przeprowadzone przez MLCommons wykazały, że platforma sprzętowa (chodzi tu oczywiście głównie o układy GPU) firmy Nvidia nadaje się najlepiej do szkolenia modeli AI.

Układ GPU H100 firmy Nvidia

Chodzi o benchmark MLPerf 4.0, który zbadał wydajność platform szkoleniowych opracowanych przez 17 firm. Benchmark pokazał też, że najnowsze platformy uczenia maszynowego pracują dużo wydajniej od tych, które testowano podczas poprzedniej edycji rankingu. A od tego czasu minęło przecież zaledwie pół roku, co świadczy o tym jak dynamicznie rozwija się ten segment przetwarzania danych.

I tak najnowsze platformy uczenia maszynowego pracują prawie dwa razy szybciej od tych, które testowano sześć miesięcy temu. Jak na taki krótki okres czasu do imponujący wzrost wydajności świadczący o tym, że firmy specjalizujące się w szkoleniu modeli językowych AI nie zasypiały gruszek w popiele i poczyniły w tej dziedzinie olbrzymi postęp.

Zobacz również:

Wielkim, wręcz bezapelacyjnym zwycięzcą testów jest Nvidia, która ustanowiła w pięciu kategoriach oceny(ogółem było ich dziewięć) nowe rekordy wydajności. Być może najbardziej imponujące jest to, że nowe rekordy zostały ustanowione w większości przy użyciu tych samych podstawowych platform sprzętowych, z których Nvidia korzystała rok temu.

W przypadku procesowa graficznego H100, Nvidia zastosowała wiele innowacyjnych technik w celu poprawy wydajności treningu. Różne techniki obejmują optymalizację pełnego stosu, ulepszone nakładanie się wykonywania obliczeń matematycznych i komunikacyjnych, a także inteligentną alokację mocy GPU. To wszystko spowodowało, że platforma szkoleniowa firmy Nvidia bije na głowę konkurencyjne rozwiązania.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200