Nowa Rewolucja AI: NVIDIA GB200 NVL4 z Czterema GPU Blackwell i Dwoma CPU Grace

redakcja | 19 listopada 2024, 09:00

Firma NVIDIA ogÅ‚osiÅ‚a wprowadzenie na rynek dwóch przeÅ‚omowych rozwiÄ…zaÅ„ technologicznych: GB200 NVL4 i H200 NVL, które wyznaczajÄ… nowe standardy w dziedzinie obliczeÅ„ AI i HPC.

NVIDIA H200 NVL – Nowoczesność w Danych

Model H200 NVL oparty na architekturze Hopper jest już dostÄ™pny w szerokiej sprzedaży. DziÄ™ki zastosowaniu kart PCIe, technologia ta pozwala na Å‚Ä…czenie do czterech GPU poprzez domenÄ™ NVLINK, oferujÄ…c przepustowość aż siedmiokrotnie wyższÄ… w porównaniu do standardowego rozwiÄ…zania PCIe.

Najważniejsze parametry techniczne H200 NVL to:

• 1,5-krotnie wiÄ™cej pamiÄ™ci HBM,
• 1,7-krotnie lepsza wydajność w inferencji LLM,
• 1,3-krotny wzrost wydajnoÅ›ci HPC.

GPU zawiera 114 jednostek SM z Å‚Ä…cznÄ… liczbÄ… 14 592 rdzeni CUDA, 456 rdzeni tensorowych oraz osiÄ…ga do 3 TFLOP-ów wydajnoÅ›ci w trybie FP8 (akumulacja FP16). CaÅ‚ość wspiera 80 GB pamiÄ™ci HBM2e z interfejsem 5120-bitowym, a zapotrzebowanie energetyczne wynosi 350 W.

Przeczytaj także:

• Apple rozważa zakoÅ„czenie produkcji przejÅ›ciówki Lightning na gniazdo sÅ‚uchawkowe
• WiFi 8 - Rewolucja Czy Udoskonalenie?
• PlayStation 5 Pro: Niesamowita Wydajność przy Minimalnym Zużyciu Energii

 

GB200 NVL4 – Moc Czterech GPU Blackwell

RozwiÄ…zanie GB200 NVL4 bazuje na nowoczesnej architekturze Blackwell i oferuje podwojonÄ… wydajność CPU oraz GPU w porównaniu do wczeÅ›niejszej wersji GB200. ModuÅ‚ ten integruje:

• cztery GPU Blackwell GB200,
• dwa procesory Grace,
• domenÄ™ NVLINK obsÅ‚ugujÄ…cÄ… do czterech GPU,
• 1,3 TB pamiÄ™ci spójnej (Coherent Memory).

W praktyce oznacza to wzrost wydajności symulacji o 2,2 razy oraz poprawę wydajności w treningu i inferencji o 1,8 razy.

„GB200 NVL4 to rozwiÄ…zanie stworzone z myÅ›lÄ… o wymagajÄ…cych centrach danych, które chcÄ… maksymalnie wykorzystać możliwoÅ›ci AI i HPC.”

Wydajność i Efektywność Energetyczna

Moduł GB200 NVL4 zużywa około 6 kW energii, co wynika z zaawansowanej konstrukcji Superchip o mocy 2700 W. NVIDIA stale udoskonala swoje rozwiązania, co potwierdzają światowe rekordy w MLPerf v4.1 w kategoriach treningu i inferencji.

W najbliższych latach NVIDIA planuje dalsze innowacje, w tym wprowadzenie kolejnych platform, takich jak Blackwell Ultra oraz Rubin, przyspieszajÄ…c rozwój technologii AI do rocznego cyklu wydawniczego.

Podsumowanie

Dzięki GB200 NVL4 i H200 NVL, NVIDIA jeszcze bardziej umacnia swoją pozycję lidera w dziedzinie obliczeń AI i HPC. Te rozwiązania nie tylko zwiększają wydajność, ale także oferują większą elastyczność i skalowalność w zastosowaniach serwerowych.

Śledź nas na google news - Obserwuj to, co ważne w świecie gier!

Komentarze [0]: