Nvidia Grace Hopper Superchip zaprezentowany z myślą o obciążeniach skoncentrowanych na sztucznej inteligencji
Podczas gdy Nvidia nie miała nic dla graczy na swoim przemówieniu na targach Computex 2023, jej prezentacja była pełna produktów skoncentrowanych na sztucznej inteligencji. Wśród nich był Grace Hopper Superchip, połączenie procesora Grace i procesora graficznego Hopper. Będzie on zasilał DGX GH2000 firmy Nvidia i mnóstwo innych usług.
Procesor Grace zawiera 72 rdzenie CPU Arm Neoverse V2, do 480 GB pamięci RAM LPDDR5X (przepustowość pamięci 512 GB/s) i ogromne 117 MB pamięci podręcznej L3. Towarzyszący mu procesor graficzny Hopper można skonfigurować z maksymalnie 96 GB pamięci HBM3 (przepustowość pamięci do 4 TB/s). Nvidia twierdzi, że oferuje on do 67 TFLOPS wydajności FP32. Podobnie, dołączone rdzenie Tensor mogą wykonać 67 TFLOPS FP64.
W połączeniu, Grace Hopper Superchip może zużywać nawet 1000 W mocy, w zależności od konfiguracji. CPU i GPU są połączone za pomocą modułu Nvlink, który działa z prędkością 900 GB/s, czyli 5x szybciej niż PCIe-Gen 5. Spójność pamięci pozwala zarówno wątkom CPU, jak i GPU na wzajemny dostęp do pamięci, umożliwiając nowemu Transformer Engine trenowanie modeli AI 30x szybciej niż istniejące GPU. W porównaniu do rozwiązań opartych na architekturze x86, Grace Hopper Superchip jest od 2,75x do 3,9x szybszy.
Urządzenia zasilane przez Grace Hopper Superchip są już dostępne w wielu regionach, w tym w Stanach Zjednoczonych i Europie. Jeśli ostatnie plotki są prawdziwe, możemy nawet zobaczyć jego okrojoną wersję wraz z następną konsolą Nintendo Switch konsoli.