Nvidia a Microsoft postaví obří cloudový superpočítač s A100 a H100

Na poli superpočítačů se má v budoucnosti objevit nové řešení společností Microsoft a Nvidia. Firmy totiž uzavřely několikaleté partnerství, jehož výsledkem by měl být jeden z nejvýkonnějších superpočítačů na světě. Využije infrastrukturu Microsoft Azure a výpočetní akcelerátory s GPU Nvidie. Využití má najít především na trénování algoritmů umělé inteligence a s tím spojených procesů díky softwaru Nvidia AI Enterprise.

 

 

Obrovský výkon mají zajistit desítky tisíc akcelerátorů Nvidia A100 a H100, chybět nebude ani velmi rychlá sběrnice Nvidia Quantum-2 InfiniBand s propustností 400 Gb/s (v dnešních superpočítačích se A100 propojují 200Gb/s variantou tohoto rozhraní). Akcelerovat se zde má např. model Megatron Turing NLG 530B, společností se také dohodly na společné optimalizaci softwaru pro hluboké učení Microsoft DeepSpeed.

 

 

Cenu superpočítače neznáme, ale uvážíme-li, že A100 stojí okolo 10-12 tisíc USD, jen v těchto akcelerátorech (kterých tu budou desítky tisíc) tu budou stovky milionů USD. Nvidia H100 je ještě dražší než A100 (tam se odhadují ceny na 25-35 tisíc USD), takže asi nebudeme daleko od pravdy, pokud budeme předpokládat náklady minimálně na úrovni přes půl miliardy USD jen na GPU, ale klidně to může být i v řádu nižších jednotek miliard USD (pokud těch desítek tisíc GPU bude opravdu několik).

 

Zdroj: reuters.com, nvidia.com