Nvidia Blackwell Ultra GB300 přinese 288 GB paměti HBM3e a 1400W spotřebu
27.12.2024, Milan Šurkala, aktualita
Nvidia přijde v příštím roce s novými akcelerátory Blackwell Ultra v podobě modelu GB300. Novinka má dostat spotřebu až na 1400 W, odměnou ale bude také vyšší výkon a podstatně více paměti HBM3e.
Nvidia dominuje trh s AI a jinými výpočetními akcelerátory. Nyní se na trh dostávají první modely architektury Blackwell, kterou by v příštím roce měla začít nahrazovat architektura Rubin. Počítá se ale i s vylepšením té stávající, Blackwell Ultra. Ta se má objevit např. ve formě serverů GB300, které budou opravdu hodně výkonnými, ale také nenasytnými kusy hardwaru. Skládat se mají z čipů B300 a každý z nich bude vykazovat 1400W TDP. To je opravdu hodně vysoké číslo, přičemž dnešní B200 je na 1000 W. Oproti němu má mít B300 o 50 % vyšší výkon ve výpočtech s datovými typy FP4.
Další novinkou má být navýšení kapacity pamětí HBM3e ze 192 GB na 288 GB, přičemž se přejde z 8vrstvých na 12vrstvé paměti. V rámci serverů se dostane také na nové komunikační rozhraní, ConnectX 7 bude nahrazeno novou generací ConnectX 8 a optické spojení se posune z 800G na 1.6T. Server GB300 NVL72 se 72 těmito čipy bude moci být vybaven záložními bateriemi BBU (Battery Backup Unit), kde jedna vyjde na 300 USD, tento bateriový systém pak by měl vyjít na 1500 USD. Využití tu najdou také superkapacitory, kdy jeden vyjde na 20-25 USD, jenže v jednom serveru jich bude okolo 300.
Prvotní informace také naznačují využití paměťových modulů LPCAMM a spekulovalo se také o tom, že procesory přejdou na slotový design (tedy umožňující vyměnitelnost CPU/GPU). Předpokládá se, že k představení nové generace akcelerátorů dojde na GTC 2025 v březnu, nicméně dodávky patrně nezačnou dříve než koncem příštího roku.