Aktuality  |  Články  |  Recenze
Doporučení  |  Diskuze
Grafické karty a hry  |  Procesory
Storage a RAM
Monitory  |  Ostatní
Akumulátory, EV
Robotika, AI
Průzkum vesmíru
Digimanie  |  TV Freak  |  Svět mobilně

AWS představuje ARMový procesor Graviton4 a čip pro trénování AI, Trainium2

29.11.2023, Milan Šurkala, aktualita
AWS představuje ARMový procesor Graviton4 a čip pro trénování AI, Trainium2
AWS (Amazon Web Services) představuje novou generaci procesoru Graviton4, který je postavený na architektuře ARM. Zvyšuje výkon, což se týká i další novinky, trénovacího procesoru pro AI, Trainium2.
Cloudové služby společnosti AWS (Amazon Web Services) už nějakou dobu mohou běhat i na jejích vlastních procesorech Graviton. Ty jsou založeny na architektuře ARM, díky čemuž nabízí velmi dobrý poměr výkonu a spotřeby. AWS nyní představuje jejich další generaci Graviton4, který proti té minulé přináší o 75 % vyšší paměťovou propustnost, o 50 % více jader, nicméně výpočetní výkon se zvýšil jen o 30 %. Společnost AWS dle svých slov nabízí přes 150 různých typů instancí Amazon EC2 založených na těchto procesorech, přičemž vyrobila už více než 2 miliony těchto procesorů, které slouží více než 50 tisícům zákazníků. Mezi těmi nejvýznačnějšími jsou Datadog, DirecTV, Discovery, Formula 1 (F1), NextRoll, Nielsen, Pinterest, SAP, Snowflake, Sprinklr, Stripe nebo Zendesk. Na Gravitonech běží i vlastní služby Amazonu jako Aurora, ElastiCache, EMR, MemoryDB, OpenSearch, Relational Database Service, Fargate nebo Lambda.
 
AWS dále představil také nový čip Trainium2. Ten je určen pro trénování základních modelů (FM) a LLM, přičemž nová generace 4krát zvyšuje rychlost trénování a má 3krát větší paměťovou kapacitu. Instance Amazon EC2 Trn2 budou obsahovat 16 takových čipů a AWS plánuje vytvořit EC2 UltraClustery, které zákazníkům nabídnou možnost zajistit si až 100 tisíc takových čipů pro výpočetní výkon 65 ExaFlops s využití síťové infrastruktury AWS Elastic Fabric Adapter (EFA). Takový systém umožní natrénovat LLM s 300 miliardami parametrů v řádu týdnů místo měsíců.
 
AWS nicméně bude spoléhat i na konkurenční řešení založené na čipech Nvidia GH200. Bude totiž jednou z prvních společností, která na nich postaví svá výpočetní centra. Zde připomeňme, že řešení Nvidie kombinuje výkonná GPU Hopper s procesorem Grace, který je rovněž postaven na architektuře ARM.
 


Autor: Milan Šurkala
Vystudoval doktorský program v oboru informatiky a programování se zaměřením na počítačovou grafiku. Nepřehlédněte jeho seriál Fotíme s Koalou o základech fotografování.