NVIDIA napomíná Intel: Xeon Phi nejsou v hlubokém učení rychlejší než GPU
18.8.2016, Jan Vítek, aktualita
Intel na akci ISC High Performance s radostí troubil do světa, že v disciplíně hlubokého učení nemají jeho Xeon Phi "Knights Landing" v současných GPU konkurenci. NVIDIA nyní jeho tvrzení vyvrací a přidává otcovské napomenutí.
Intel na ISC High Performance zveřejnil následující slide z prezentace, který porovnává jeho akcelerátory Xeon Phi z nejnovější generace Knights Landing s aktuálními nejmenovanými GPU. Je ale naprosto jasné, o jaká GPU má jít, neboť umělou inteligencí se v poslední době zabývá především NVIDIA, která jí značně přizpůsobila i architekturu své nejnovější grafické generace Pascal.
Intel se ve srovnání snaží sdělit především tři věci, které se týkají výkonu akcelerátorů Xeon Phi. Dle něj jsou Xeon Phi v hlubokém učení 2,3x rychlejší než GPU, vedle toho poskytují o 38 % lepší škálování s rostoucím počtem akcelerátorů a pak toto škálování nabízí až do počtu 128 výpočetních uzlů, což prý GPU neumožňují. Celkové sdělení je tak to, že Xeon Phi jsou prostě v hlubokém učení lepší než GPU, což NVIDII pochopitelně nenechalo chladnou.
NVIDIA tak reagovala článkem na svém blogu, kde Intel nepřímo označila za nováčka v této oblasti a uvedla, že je pochopitelné, když si takový nováček není vědom toho, jak bouřlivý vývoj umělá inteligence v tomto období zažívá. Přímo s potěšením pak ohlásila, že Intel při svém nedávném srovnání používal více než rok staré benchmarky a pokud by použil nové z dubna 2016, získal by zcela jiné výsledky. Vypadá to tak, že NVIDIA nachytala Intel na švestkách, a v takovém případě jí jistou samolibost můžeme tolerovat. Vše osvětlí následující tabulka:
Dle starých benchmarků z března roku 2015 tak benchmark na čtyřech Maxwellech skutečně trval 25 hodin a na čtyřech serverech s Xeon Phi pouze 10,5 hodin, ale dle nových benchmarků z dubna 2016 má být ten samý systém s Maxwelly cca 1,3x rychlejší než Xeon Phi. K tomu přidala ještě výsledky čtyř TITAN X generace Pascal, které jsou už 1,9x rychlejší a systém DGX-1 vybavený osmi Tesla P100 se 16 GB paměti HBM2 je 5,3x rychlejší. V článku se ale nikde nedočteme, zda má výkon Xeon Phi s novými benchmarky zůstat stejný, nebo jak to v tomto ohledu je. Nicméně NVIDIA uvádí, že těchto pokroků bylo dosaženo zlepšením jednak architektury a jednak softwarové výbavy.
NVIDIA stejně tak napadá informaci o škálování s využitím 128 Xeon Phi, které prý GPU nedokáží napodobit. Zde se brání testy Deep Speech provedenými společností Baidu, které ukazují i téměř lineární škálování s využitím právě 128 GPU. NVIDIA také více věří ve výhody silných výpočetních uzlů, jako je právě systém DGX-1 využívající osm čipů Tesla P100 v porovnání se slabšími servery s akcelerátorem Xeon Phi. Uvádí, že jeden DGX-1 nabízí vyšší výkon než 21 serverů s akcelerátorem Xeon Phi, přičemž vychází již z uvedeného srovnání z tabulky, kde je DGX-1 5,3x rychlejší než čtyři servery s Xeon Phi.
Nakonec NVIDIA Intelu doporučila, že i když je dobře, že se nyní věnuje i hlubokému učení, měl by se rovněž snažit si nejdříve srovnat fakta, než je vypustí do světa.
Zdroj: NVIDIA
Intel se ve srovnání snaží sdělit především tři věci, které se týkají výkonu akcelerátorů Xeon Phi. Dle něj jsou Xeon Phi v hlubokém učení 2,3x rychlejší než GPU, vedle toho poskytují o 38 % lepší škálování s rostoucím počtem akcelerátorů a pak toto škálování nabízí až do počtu 128 výpočetních uzlů, což prý GPU neumožňují. Celkové sdělení je tak to, že Xeon Phi jsou prostě v hlubokém učení lepší než GPU, což NVIDII pochopitelně nenechalo chladnou.
NVIDIA tak reagovala článkem na svém blogu, kde Intel nepřímo označila za nováčka v této oblasti a uvedla, že je pochopitelné, když si takový nováček není vědom toho, jak bouřlivý vývoj umělá inteligence v tomto období zažívá. Přímo s potěšením pak ohlásila, že Intel při svém nedávném srovnání používal více než rok staré benchmarky a pokud by použil nové z dubna 2016, získal by zcela jiné výsledky. Vypadá to tak, že NVIDIA nachytala Intel na švestkách, a v takovém případě jí jistou samolibost můžeme tolerovat. Vše osvětlí následující tabulka:
Dle starých benchmarků z března roku 2015 tak benchmark na čtyřech Maxwellech skutečně trval 25 hodin a na čtyřech serverech s Xeon Phi pouze 10,5 hodin, ale dle nových benchmarků z dubna 2016 má být ten samý systém s Maxwelly cca 1,3x rychlejší než Xeon Phi. K tomu přidala ještě výsledky čtyř TITAN X generace Pascal, které jsou už 1,9x rychlejší a systém DGX-1 vybavený osmi Tesla P100 se 16 GB paměti HBM2 je 5,3x rychlejší. V článku se ale nikde nedočteme, zda má výkon Xeon Phi s novými benchmarky zůstat stejný, nebo jak to v tomto ohledu je. Nicméně NVIDIA uvádí, že těchto pokroků bylo dosaženo zlepšením jednak architektury a jednak softwarové výbavy.
NVIDIA stejně tak napadá informaci o škálování s využitím 128 Xeon Phi, které prý GPU nedokáží napodobit. Zde se brání testy Deep Speech provedenými společností Baidu, které ukazují i téměř lineární škálování s využitím právě 128 GPU. NVIDIA také více věří ve výhody silných výpočetních uzlů, jako je právě systém DGX-1 využívající osm čipů Tesla P100 v porovnání se slabšími servery s akcelerátorem Xeon Phi. Uvádí, že jeden DGX-1 nabízí vyšší výkon než 21 serverů s akcelerátorem Xeon Phi, přičemž vychází již z uvedeného srovnání z tabulky, kde je DGX-1 5,3x rychlejší než čtyři servery s Xeon Phi.
Nakonec NVIDIA Intelu doporučila, že i když je dobře, že se nyní věnuje i hlubokému učení, měl by se rovněž snažit si nejdříve srovnat fakta, než je vypustí do světa.
Zdroj: NVIDIA
