AWS představuje ARMový procesor Graviton4 a čip pro trénování AI, Trainium2

Cloudové služby společnosti AWS (Amazon Web Services) už nějakou dobu mohou běhat i na jejích vlastních procesorech Graviton. Ty jsou založeny na architektuře ARM, díky čemuž nabízí velmi dobrý poměr výkonu a spotřeby. AWS nyní představuje jejich další generaci Graviton4, který proti té minulé přináší o 75 % vyšší paměťovou propustnost, o 50 % více jader, nicméně výpočetní výkon se zvýšil jen o 30 %. Společnost AWS dle svých slov nabízí přes 150 různých typů instancí Amazon EC2 založených na těchto procesorech, přičemž vyrobila už více než 2 miliony těchto procesorů, které slouží více než 50 tisícům zákazníků. Mezi těmi nejvýznačnějšími jsou Datadog, DirecTV, Discovery, Formula 1 (F1), NextRoll, Nielsen, Pinterest, SAP, Snowflake, Sprinklr, Stripe nebo Zendesk. Na Gravitonech běží i vlastní služby Amazonu jako Aurora, ElastiCache, EMR, MemoryDB, OpenSearch, Relational Database Service, Fargate nebo Lambda.

 

AWS dále představil také nový čip Trainium2. Ten je určen pro trénování základních modelů (FM) a LLM, přičemž nová generace 4krát zvyšuje rychlost trénování a má 3krát větší paměťovou kapacitu. Instance Amazon EC2 Trn2 budou obsahovat 16 takových čipů a AWS plánuje vytvořit EC2 UltraClustery, které zákazníkům nabídnou možnost zajistit si až 100 tisíc takových čipů pro výpočetní výkon 65 ExaFlops s využití síťové infrastruktury AWS Elastic Fabric Adapter (EFA). Takový systém umožní natrénovat LLM s 300 miliardami parametrů v řádu týdnů místo měsíců.

 

AWS nicméně bude spoléhat i na konkurenční řešení založené na čipech Nvidia GH200. Bude totiž jednou z prvních společností, která na nich postaví svá výpočetní centra. Zde připomeňme, že řešení Nvidie kombinuje výkonná GPU Hopper s procesorem Grace, který je rovněž postaven na architektuře ARM.

 

Zdroj: zdnet.com, aboutamazon.com