Nvidia Spectrum-X: síťové řešení pro generativní AI se switchem s 51 Tb/s

Generativní AI je v posledním půl roce obrovským tématem. Její trénování ale vyžaduje desítky tisíc vysoce výkonných GPU, na provoz je potřeba také solidní hardware. Jenže aby toto dobře fungovalo, je potřeba tyto počítače také spojit, a to rovněž s možností dosahovat velmi vysokých přenosových rychlostí. Společnost Nvidia tak pro tyto účely přináší nejen výkonná GPU, ale i ono síťové řešení Spectrum-X. To se skládá ze switche Spectrum-4 a DPU BlueField-3. Tato kombinace by měla nabídnout o 70 % vyšší výkon pro výkon systémů AI díky rychlejšímu síťovému spojení. Čip do Nvidia Spectrum-4 se vyrábí procesem TSMC 4N, má rozměry 90×90 mm a spotřebu 500 W.

 

 

Na tomto systému bude postaven např. superpočítač Israel-1 zamířený právě na generativní AI. Využije servery Dell PowerEdge XE968 založené na platformě Nvidia HGX H100 s 8 GPU. Spectrum-4 je ethernetovým switchem, který dokáže dosáhnout extrémně vysoké celkové přenosové rychlosti 51 Tb/s. Spolu s optikou Nvidia LinkX je tak možné vytvářet sítě s mnoha 400GbE spojeními (případně i jinými rychlostmi).

 

Rychlost je tak vysoká, že ve verzi switche SN5600 (velikost 2U) s 256 porty mohou všechny být s rychlostí 200GbE. Pokud byste potřebovali ještě vyšší rychlost 400GbE, dostáváte se max. na 128 portů, a v případě 800GbE pak na stále vysokých 64 portů. To vše do jednoho jediného switche. V případě topologie leaf-spine se dá vytvořit až 16000 portů.

 

Zdroj: techradar.com, nvidia.com