Samsung HBM-PIM: umělá inteligence v pamětech pro vyšší výkon

Odpověď zní tak, že spíše než o paměti navazující na HBM2 či HBM2e jde o novou vývojovou větev, která využívá rovněž novou architekturu a v ní umělou inteligenci. PIM zde znamená zkratku pro Processing-in-Memory, čili je zřejmé, že nepůjde jen o paměťové čipy, ale že ty v sobě ponesou také logické obvody, na nichž bude pracovat právě systém umělé inteligence. A ten má posloužit k navýšení výkonu/propustnosti na více než dvojnásobek při snížení spotřeby o 70 procent. To tak vypadá velice zajímavě i vzhledem k tomu, co se o vývoji pamětí typu HBM tvrdilo dříve. 

 

 

Obavy měla především NVIDIA, dle níž zcela reálně hrozilo, že paměti HBM brzy dospějí ke stavu, kdy už budou příliš energeticky náročné a jejich nasazení bude velice problematické. To ale bylo před řadou let.

 

Nicméně v souvislosti s paměťmi HBM-PIM se mluví zatím pouze o využití v AI systémech, čili jde o paměti s AI pro High-Performance Computing spojený s umělou inteligencí, její trénování či už samotný provoz. Ve výsledku také nejde o skutečné navýšení propustnosti jako takové, ale o zvýšení celkové efektivity s ohledem na objem přenášených dat. 

 

Samsung zde mluví o pozměnění klasického von Neumannova schématu, v němž je zcela jasně oddělen procesor a paměti, což ovšem vyžaduje, aby data neustále proudila tam a zpět, což může tvořit úzké hrdlo. Je tak už vcelku jasné, odkud vítr vane. Nové HBM-PIM obsahují rovněž AI engine optimalizovaný pro paměti typu DRAM, a to v každém paměťovém banku. Ten dokáže zpracovávat data tak, aby zefektivnil celý systém a umožnil v důsledku snížení objemu přenášených dat při stejné vykonané práci. Samsung to srovnává se svými moderními HBM2 Aquabolt, vedle nich dokáží HBM-PIM poskytnou dvojnásobný výkon při snížení spotřeby o 70 procent. Navíc prý nejsou potřeba žádné hardwarové ani softwarové úpravy, což umožní rychlejší integraci do existujících systémů. 

 

Je ale otázka, zda se něco takového může využít třeba i na grafických kartách, kde se přeci jen pracuje s jinými daty. O tom se ovšem zpráva Samsungu vůbec nezmiňuje. Z jiných zdrojů však zjistíme alespoň to, že každé pouzdro pamětí HBM-PIM by mělo disponovat AI logikou s výkonem 1,2 TFLOPS, a to v FP16.