AMD slaví úspěchy s akcelerátorem Instinct MI300X, bere 7 % trhu s AI

Dlouho se AMD na poli s trénováním AI příliš nedařilo, to se ale poslední dobou trochu otáčí. Máme tu totiž povedené akcelerátory Instinct MI300 a MI300X, které v některých ohledech nabízí lepší výkony než konkurenční Nvidia, také je mnohem levnější a oproti Nvidii také netrpí s takovými problémy s dostupností. Výsledek kombinace lepší dostupnosti, nižší ceny a velmi dobrého výkonu se tak podepisuje na tom, že se někteří zákazníci obracejí od Nvidie k AMD (např. Oracle). Nvidia tak sice stále drží dominantní podíl na trhu, nicméně AMD už začíná postupně ukusovat svůj díl z koláče. Proslýchá se totiž, že dodalo tolik akcelerátorů Instinct MI300X, že jen ony dokázaly získat 7 % trhu pro AI. Uvážíme-li, že ještě nedávno se odhadovalo, že na všechny ne-Nvidia výrobce zbývá pouhých 5 % trhu, je to velmi pěkný výsledek.

 

AMD u svých akcelerátorů ve srovnání s H100 (které ale budou brzy nahrazeny novými Blackwelly) zmiňuje např. 2,4krát vyšší paměťovou kapacitu, 1,6krát vyšší paměťovou propustnost, 1,3krát vyšší hrubý výkon v FP8 i FP16. Dále srovnává výkony v nasazení na jednotlivých modelech AI a např. v modelu Llama 2 je dle AMD o 20 % výkonnější na jednu kartu a o 40 % lepší v konfiguraci 8 karet. FlashAttention 2 je o 20 % rychlejší na jedné kartě a Bloom 176B pak o 60 % v případě 8kartové konfigurace.

 

Zdroj: wccftech.com