Nvidia DGX Cloud: natrénujte si vlastní AI od 37000 USD měsíčně

Náročné výpočetní úlohy jako např. trénování AI vyžadují velmi výkonný hardware. Dnes se k tomuto účelu často používají např. grafické karty Nvidia H100 a A100. Desítky tisíc takových karet posloužily např. k natrénování chatbota ChatGPT. Ne každý si ale může dovolit koupit extrémně drahý superpočítač s vysokým množstvím těchto karet, a tak tu do hry vstupuje nová služba DGX Cloud. Ta je flexibilní a škálovatelnou službou pro ty, kteří potřebují vysoká výpočetní výkon a chtějí podle svých potřeb např. navyšovat nebo naopak snižovat počet karet, které potřebují využívat.

 

 

Každá instance DGX Cloud, kterou si lze pronajmout, má 8 karet Nvidia H100 nebo A100, přičemž každá karta je vybavena 80 GB paměti. To tedy dělá 640 GB paměti na každou instanci. Využita byla sběrnice s ultra nízkými latencemi, o kterou se postarala Nvidia Networking, což zajišťuje pohodlné škálování systémů. Výsledek se pak tváří jako jedno masivní GPU nezávisle na tom, kolik instancí si uživatel vlastně objedná. Pokud jde o cenu, základní balíček vyjde na 36999 USD (817 tisíc Kč) za měsíc.

 

Zdroj: engadget.com, nvidianews.nvidia.com