Společnost Graphcore nás už před dvěma lety zaujala svými 7nm čipy Colossus MK2 GC200, které jsou tvořeny 59,4 miliardami tranzistorů. Těch je tak ještě o pět miliard více než na čipu NVIDIA A100 tvořeném stejným procesem, a přitom na ploše 823 mm2, která je o tři milimetry čtvereční menší. To je pochopitelně zřejmý výsledek odlišnosti návrhu, neboť dva různé čipy pochopitelně nevyužijí dostupnou plochu zcela stejně, aby měly stejnou reálnou tranzistorovou hustotu.
Co tu ale máme nyní? Graphcore se tu nesnaží obejít výrobní omezení s využitím technologie TSMC 3D WoW, čili Wafer-on-Wafer, která je součástí souboru 3D Fabric. Spíše se ji snaží využít k tomu, aby výsledná IPU mohla poskytnout vyšší výkon díky narostlým taktům.
Technologie WoW umožní na sebe umístit dva čipy, které jsou propojeny pomocí vertikálních spojů TSV na různých místech. Nejde tu tak přitom o to, aby se šetřilo místem na čipovém pouzdru. Jde o výhody, které plynou z toho, že dva čipy mohou být propojeny v podstatě na libovolných místech, a to pomocí velice krátkých datových/napájecích cest. Jde tak ve své podstatě o to samé jako v případě pamětí V-Cache firmy AMD, ovšem v mnohem větším měřítku a zde i za jiným účelem.
V případě IPU Bow tu ale nemáme dva výkonné výpočetní čipy na sobě. To je pouze ten vrchní, který je v podstatě stejný jako GC200 (a stále jde o 7nm křemík), ale pod sebou má další čip, jenž slouží pro jeho napájení. To je ve výsledku dle výrobce mnohem efektivnější, což umožní, aby Bow pracoval na vyšší frekvenci než starší čipy, a sice na 1,8 GHz oproti 1,325 GHz. Tím je tedy vyšší i výkon.
Doprovodné video nám toho moc neřekne, a tak můžeme pátrat dále o tom, co Bow nabídne.
Že jsou nové čipy jsou do velké míry založeny na starých GC200, mají i stejný účel, a sice provozovat AI systémy. Nepotřebují přitom žádnou externí paměť, čili ani DDRx a ani HBM. Vystačí si s vlastní 9 MB paměti SRAM, která je rozdělena mezi celkem 1472 IPU-Tiles. Ty tedy tvoří jednak IPU jádro a pak přidělená část paměti. Jeden Bow je schopen najednou zpracovávat 8832 vláken a nabídne výkon 350 TeraFLOPS.
Graphcore bude prodávat přímo výsledné stroje Bow-2000 IPU Machine, které tvoří čtyři IPU s celkovým výkonem 1,4 PetaFLOPS. Zákazníci žádající ještě vyšší výkon si mohou tyto stroje stavět do klastrů zvaných Bow Pods, které mohou čítat mezi 16 a 1025 procesory, čili v takovém případě už půjde spíše o AI superpočítač s výkonem kolem 350 PetaFLOPS.
