Microsoft uvádí vlastní AI akcelerátor Maia 100 a CPU Cobalt 100 na ARMu
16.11.2023, Milan Šurkala, aktualita
Máme tady další procesor na architektuře ARM, o který se nám tentokrát postarala společnost Microsoft. Ta pro svá datová centra vyvinula novinku Cobalt 100. Má však také i nový AI akcelerátor Maia 100.
V posledních týdnech se skoro každý den objevuje nějaká zpráva o alternativních architekturách procesorů k tradiční x86 a čipech na nich založených, zejména jde o ARM. Dnes se nám o takovou zprávu postarala společnost Microsoft. Ta totiž oznámila, že připravila vlastní hardwarová řešení pro svou cloudovou infrastrukturu, a to jak na poli akcelerace AI, kde by mělo jít o alternativu ke GPU Nvidie i AMD, tak i na procesorovém poli, kde její nové procesory využijí architekturu ARM.
Pokud jde o procesor, tak ten nese označení Azure Cobalt 100 a využívá architekturu ARM Neoverse N2. Má celkem 128 jader a 12kanálový řadič pamětí DDR5, dle společnosti má nabízet o 40 % více výkonu na watt než nynější procesory postavené na ARMu. Microsoft zapracoval na schopnostech řízení výkonu a spotřeby na každém jednotlivém jádře, dokáže tak lépe řídit tyto parametry pro každý virtuální stroj. Nyní jsou tyto procesory testovány pro Microsoft Teams a SQL, v příštím roce by měly být k dispozici zákazníkům. Je patrné, že si architektura ARM opět brousí zuby na další díl cloudového koláče.
Dále tu máme AI akcelerátor Azure Maia 100. Microsoft sice využívá řešení Nvidia H100 a hodlá využít i novou Nvidia H200 nebo AMD Instinct MI300X, nicméně přináší také vlastní čip pro trénování a běh (inferenci) AI modelů. Na těchto čipech poběží některé AI algoritmy v rámci platformy Azure, také ho využije OpenAI. Tento čip má 105 mld. tranzistorů, je vyráběn 5nm technologií u TSMC a podporuje efektivní práci s 8bitovými proměnnými, což má pomoci s výkonem právě v oblasti AI. Microsoft si také vyvinul vlastní širší racky, které využívají vodního chlazení. Přesnější technické údaje o čipech a jejich výkonech nicméně prozatím neznáme.
