NVIDIA miażdży benchmarki MLPerf dzięki procesorom graficznym H100 i udowadnia, dlaczego jest niekwestionowanym liderem na rynku sztucznej inteligencji

Procesory graficzne NVIDIA H100 znajdują się w czołówce spektrum, jeśli chodzi o sztuczną inteligencję, a firma po raz kolejny ustanowiła nowe rekordy w testach porównawczych MLPerf.

Wiodąca pozycja firmy NVIDIA w dziedzinie sztucznej inteligencji utrzymuje się w miarę jak procesory graficzne Hopper H100 osiągają rekordową wydajność generatywnej sztucznej inteligencji MLPerf

W najnowszych benchmarkach MLPerf opublikowanych przez firmę NVIDIA firma podkreśla, że ​​ustanowiła kilka nowych rekordów, w których superkomputer Eos ukończył benchmark szkoleniowy oparty na modelu GPT-3 ze 175 miliardami parametrów przetrenowanych na miliardzie tokenów w zaledwie 3,9 minuty. To ogromny wzrost w porównaniu z poprzednim rekordem, w którym superkomputerowi udało się osiągnąć ten sam wynik w 10,9 minuty, co oznacza aż trzykrotny wzrost.

Liczby osiągnięte przez superkomputer są rzeczywiście fenomenalne, ale jaki jest główny powód tego osiągnięcia?

Krótko mówiąc, najnowocześniejsza architektura procesora graficznego Hopper firmy NVIDIA jest połączona z dobrze dopracowanymi zasobami oprogramowania. Superkomputer Eos wykorzystuje obecnie 10 752 procesory graficzne NVIDIA H100 Tensor Core, które zastąpiły dość starsze A100, dlatego przede wszystkim następuje ogromny wzrost wydajności. Co więcej, dzięki dobrze rozwiniętym zasobom oprogramowania, takim jak NeMo firmy NVIDIA , które pomaga w szkoleniu LLM, Team Green zdołał wycisnąć wyjątkową moc ze swojej platformy.

Co więcej, kolejnym rekordowym osiągnięciem firmy NVIDIA wspomnianym w poście są postępy dokonane w zakresie „skalowania systemu”, gdzie dzięki różnym optymalizacjom oprogramowania firmie udało się wykazać współczynnik wydajności na poziomie 93%. 10 752 procesorów graficznych H100 znacznie przekroczyło skalowanie podczas szkolenia AI w czerwcu, kiedy NVIDIA użyła 3584 procesorów graficznych Hopper. Znaczenie wydajnego skalowania jest w branży ogromne, gdyż osiągnięcie dużej mocy obliczeniowej wymaga użycia większej ilości zasobów sprzętowych, a bez odpowiedniego zaplecza programowego, wydajność systemu jest zagrożona w większym stopniu.

Rola firmy NVIDIA w branży sztucznej inteligencji ma ogromne znaczenie, ponieważ firma ma moc dostarczania, przynajmniej na razie, najbardziej wydajnych procesorów graficznych AI znanych ludzkości. Pomijając aspekt finansowy, Team Green szybko pracował nad zasobami oprogramowania, współpracując z klientami, aby zapewnić, że ich portfolio produktów zapewnia optymalną wydajność, zachowując wydajność i stabilność.

Źródło wiadomości: Blog NVIDIA