Na Hot Chips 34 bylo ukázáno mnoho zajímavých novinek. Nvidia poodhalila GPU akcelerátor Hopper H100, Intel pak své Ponte Vecchio. Nebyla to však jediná novinka ze stáje společnosti Nvidia. Ta také představila své CPU s názvem Grace, které je postaveno na architektuře ARMv9. To bude vyráběno u TSMC procesem 4N a bude určeno pro servery a HPC výpočty. Jeden tento čip má 72 jader s podporou pro SVE2, Nested Virtualization, MPAM, SMMU a další technologie. Výsledný produkt ale může mít na jedné desce 144 jader, protože Grace bude nabízen jako dvoučipové řešení s využitím propojení pomocí NVLink-C2C, které nabídne obousměrně rychlost 900 GB/s. Toto rozhraní je 5krát efektivnější než spojení pomocí PCIe.
Grace umožní nejen párování s dalším Grace, ale na pozici druhého čipu může být i GPU Hopper, které využije paměti HBM, v tom případě půjde o variantu Grace Hopper Superchip. Vnitřní sběrnice Nvidia Scalable Coherency Fabric (SCF) pak v obou směrech nabídne rychlost 3,2 TB/s. Ta se stará o přenosy dat mezi NVLink-C2C, CPU jádry, pamětmi a I/O.
Procesor Grace jako takový má 117 MB L3 cache (dvoučipové řešení tedy 234 MB) a operační paměť je zde typu LPDDR5x. Celková kapacita může být až 512 GB, je zde 32 kanálů a maximální rychlost 546 GB/s. Nvidia zdůvodňuje volbu těchto pamětí tím, že jsou energeticky 8krát efektivnější než 8kanálové DDR5 (a stále rychlejší) při stejné ceně, oproti HBM sice mají třetinovou rychlost a stejnou efektivitu, ale zase třetinovou cenu a možnost dosáhnout vyšších kapacit. Dále tu najdeme 68 linek pro PCIe (4 PCIe Gen5 x16 a dva x2).
Ve 144jádrové variantě má procesor spotřebu 500 W TDP, přičemž ve Specrate_int_base nabídne 740 bodů. AMD EPYC 7763 má TDP 280 W, nicméně ve dvojici jsme na 560 W při výkonu 861 bodů. Zde ale musíme počítat s tím, že v případě AMD jde jen o samotná CPU, ale nikoli o spotřebu celého systému včetně pamětí.
