Procesory graficzne NVIDIA Hopper H200 z doładowaniem, najszybszą na świecie pamięcią HBM3e, superkomputer Grace Hopper Superchip Power Jupiter

NVIDIA ogłosiła wprowadzenie na rynek zupełnie nowego procesora graficznego H200 Hopper, który jest teraz wyposażony w najszybszą na świecie pamięć HBM3e firmy Micron. Oprócz nowych platform AI, NVIDIA ogłosiła także wielkie zwycięstwo w dziedzinie superkomputerów dzięki superchipom Grace Hopper Superchip, które obecnie zasilają superkomputer Exaflop Jupiter.

NVIDIA w dalszym ciągu rozwija dynamikę sztucznej inteligencji dzięki ulepszonym procesorom graficznym Hopper, superchipom Grace Hopper i zwycięstwom superkomputerów

Procesory graficzne NVIDIA H100 to jak dotąd najbardziej poszukiwane układy AI w branży, ale zespół zielonych producentów chce zaoferować swoim klientom jeszcze większą wydajność. Enter, HGX H200, najnowsza platforma HPC i obliczeniowa dla sztucznej inteligencji, napędzana procesorami graficznymi H200 Tensor Core. Te procesory graficzne wykorzystują najnowsze optymalizacje Hoppera zarówno pod względem sprzętu, jak i oprogramowania, zapewniając jednocześnie najszybsze na świecie rozwiązanie pamięci.

Procesory graficzne NVIDIA H200 są wyposażone w rozwiązanie Micron HBM3e o pojemności pamięci do 141 GB i przepustowości do 4,8 TB/s, czyli 2,4 razy większej przepustowości i dwukrotnie większej pojemności w porównaniu z NVIDIA A100. To nowe rozwiązanie pamięci pozwala firmie NVIDIA niemal podwoić wydajność wnioskowania AI w porównaniu z procesorami graficznymi H100 w aplikacjach takich jak Llama 2 (70 miliardów parametrów LLM).

Jeśli chodzi o rozwiązania, procesory graficzne NVIDIA H200 będą dostępne w szerokiej gamie serwerów HGX H200 z konfiguracjami procesorów graficznych 4 i 8. 8-kierunkowa konfiguracja procesorów graficznych H200 w systemie HGX zapewni do 32 PetaFLOPów wydajności obliczeniowej FP8 i 1,1 TB pojemności pamięci.

Karta graficzna NVIDIA H200: doładowana pamięcią HBM3e, dostępna w drugim kwartale 2024 r

Procesory graficzne będą również kompatybilne z istniejącymi systemami HGX H100, co ułatwi klientom modernizację platform. Partnerzy NVIDIA, tacy jak ASUS, ASRock Rack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Wiwynn, Supermicro i Wistron, zaoferują zaktualizowane rozwiązania, gdy procesory graficzne H200 staną się dostępne w drugim kwartale 2024 roku.

Superchipy NVIDIA Grace Hopper o mocy 1-eksaflopowego superkomputera Jowisza

Oprócz ogłoszenia procesora graficznego H200, NVIDIA ogłosiła także zwycięstwo w dziedzinie superkomputera napędzanego superchipami Grace Hopper Superchip (GH200) . Superkomputer, znany jako Jupiter, będzie zlokalizowany w ośrodku Forschungszentrum Jülich w Niemczech w ramach wspólnego przedsięwzięcia EuroHPC i zostanie zlecony firmom Eviden i ParTec. Superkomputer będzie wykorzystywany do nauki o materiałach, badań klimatycznych, odkrywania leków i nie tylko. Jest to także drugi superkomputer zaprezentowany przez firmę NVIDIA w listopadzie, poprzedni to Isambard-AI, oferujący wydajność sztucznej inteligencji na poziomie do 21 eksaflopów.

Pod względem konfiguracji superkomputer Jupiter oparty jest na procesorze BullSequana XH3000 firmy Eviden, który wykorzystuje architekturę w pełni chłodzoną cieczą. Zawiera w sumie 24 000 superchipów NVIDIA GH200 Grace Hopper, które są połączone ze sobą za pomocą firmowego pasma Quantum-2 Infiniband. Biorąc pod uwagę, że każdy procesor Grace zawiera 288 rdzeni Neoverse, w przypadku Jupitera przewidujemy prawie 7 milionów rdzeni ARM po stronie procesora (dokładnie 6 912 000).

Wskaźniki wydajności obejmują 90 eksaflopów szkoleń AI i 1 eksaflopa obliczeń o wysokiej wydajności. Oczekuje się, że superkomputer zostanie zainstalowany w 2024 r. Ogólnie rzecz biorąc, jest to kilka najważniejszych aktualizacji firmy NVIDIA, która w dalszym ciągu przewodzi światu sztucznej inteligencji dzięki swoim potężnym technologiom sprzętowym i programowym.