Simultaneous Multi-Threading (SMT) a Hyper-Threading (HT) jsou technologie, které umožňují běh dvou vláken na jednom jádru procesoru. Nyní se objevil zajímavý test vlivu na výkon i spotřebu.
reklama
19.9.2023, Milan Šurkala, aktualita
A je to tady: příští MS Xbox bude mít ARM64 procáky.
- unikly slajdy že se v 2022 MS rozhodoval mezi ARM64 a Zen 6 pro CPU část
- dále že MS uvažuje i o levném herním handheldu (asi konkurence Nintenda Switch)
- přičemž rozhodnutí již padlo na začátku tohoto roku
Jako upřímně, letošní Cortex X4 má o 31% vyšší IPC jak Zen 4, takže ani Zen 5 jej nepřekoná, takže v MS by museli být padlí na hlavu pokud by si vybrali Zen 6 kterej za 3 roky sotva dorovná letošní X4. V době Zen 6 (2026 už bude venku Cortex X7, kterej bude mít nejméně o 30% vyšší IPC už tak vynikající X4, Mimochodem X7 bude mít IPC o cca 70% vyšší než Zen 4, což udělá ze všech x86 neprodejné střepy).
K tomu ARM má standardně 2048-bit SVE2 vektory, k tomu všechny tranzistory pro max výkon v 64-bit, ani jeden tranzistor není vyplýtván na 32-bit zpětnou kompatibilitu, ARM je moderní RISC s vymakaným Weak memory modelem, žádný překlad CISC-to-RISC, žádný předpotopní Strong memory model jako u x86.
V MS by museli být padlí na hlavu kdyby zůstali na x86, ikdyby jim AMD ten Zen 6 dala zadarmo. Pokud PS6 bude mít ARM, což vzhledem k tomu že Sony vydalo herní handheld s ARM CPU tak je považováno za jisté, tak by měl PS6 ARM výrazně lepší vlastnosti ve spotřebě a výkonu než x86 Xbox. V této situaci by byl Zen 6 zadarmo drahý, což si MS v nabyté konkurenci nemůže dovolit. Navíc serverová dizize MS Azure taky přechází na ARM servery, Win10 for ARM a Win11 for ARM taky už dávno existují, takže zůstat na chcípající x86 když všichni včetně Sony a Applu budou na lepším ARMu by byla sebevražda.
To co říkám už 3 roky tak je tady, Nevyhnutelně CISC x86 už brzy chcípne a otevřený a výkonnější RISC ARM vyhraje.
- unikly slajdy že se v 2022 MS rozhodoval mezi ARM64 a Zen 6 pro CPU část
- dále že MS uvažuje i o levném herním handheldu (asi konkurence Nintenda Switch)
- přičemž rozhodnutí již padlo na začátku tohoto roku
Jako upřímně, letošní Cortex X4 má o 31% vyšší IPC jak Zen 4, takže ani Zen 5 jej nepřekoná, takže v MS by museli být padlí na hlavu pokud by si vybrali Zen 6 kterej za 3 roky sotva dorovná letošní X4. V době Zen 6 (2026 už bude venku Cortex X7, kterej bude mít nejméně o 30% vyšší IPC už tak vynikající X4, Mimochodem X7 bude mít IPC o cca 70% vyšší než Zen 4, což udělá ze všech x86 neprodejné střepy).
K tomu ARM má standardně 2048-bit SVE2 vektory, k tomu všechny tranzistory pro max výkon v 64-bit, ani jeden tranzistor není vyplýtván na 32-bit zpětnou kompatibilitu, ARM je moderní RISC s vymakaným Weak memory modelem, žádný překlad CISC-to-RISC, žádný předpotopní Strong memory model jako u x86.
V MS by museli být padlí na hlavu kdyby zůstali na x86, ikdyby jim AMD ten Zen 6 dala zadarmo. Pokud PS6 bude mít ARM, což vzhledem k tomu že Sony vydalo herní handheld s ARM CPU tak je považováno za jisté, tak by měl PS6 ARM výrazně lepší vlastnosti ve spotřebě a výkonu než x86 Xbox. V této situaci by byl Zen 6 zadarmo drahý, což si MS v nabyté konkurenci nemůže dovolit. Navíc serverová dizize MS Azure taky přechází na ARM servery, Win10 for ARM a Win11 for ARM taky už dávno existují, takže zůstat na chcípající x86 když všichni včetně Sony a Applu budou na lepším ARMu by byla sebevražda.
To co říkám už 3 roky tak je tady, Nevyhnutelně CISC x86 už brzy chcípne a otevřený a výkonnější RISC ARM vyhraje.
Odpovědět0 10
Nebudu komentovat tu posedlost ARMem, nicméně tu prosím nespamujte duplicitní komentáře pod různé články - budu to mazat, jako jsem teď smazal tento komentář, který jste dal i pod aktualitu o novém ovladači Xbox.
Odpovědět5 0
A nenapadlo vás, že než jsem dopsal tento komentář zde, tak se objevil nový článek o Xboxu kam se hodil tematicky mnohem víc?
Jinak to není posedlost ARMem, to je posedlost něčím lepším. Když vymyslíš novou architekturu RISC-Polívka a bude to technicky lepší než ta x86 sračka z 1978, a navíc to bude otevřená platforma pro všechny jako ARM a RISC-V (a ne uzavřená jako monopolní Intelem vlastněná x86), tak budu klidně psát a propagovat RISC-Polívka. Někdy si říkám co vede inteligentní lidi a zejména Linuxáky k tomu, že se do roztrhání těla perou za nejodpornější monopol co kdy v IT byl: x86.
Jinak to není posedlost ARMem, to je posedlost něčím lepším. Když vymyslíš novou architekturu RISC-Polívka a bude to technicky lepší než ta x86 sračka z 1978, a navíc to bude otevřená platforma pro všechny jako ARM a RISC-V (a ne uzavřená jako monopolní Intelem vlastněná x86), tak budu klidně psát a propagovat RISC-Polívka. Někdy si říkám co vede inteligentní lidi a zejména Linuxáky k tomu, že se do roztrhání těla perou za nejodpornější monopol co kdy v IT byl: x86.
Odpovědět0 6
Tak to napíšu jinak a více jasně. Pokud budete spamovat (a je úplně jedno o čem), dostanete ban. Tak jednoduché to je.
Odpovědět0 0
OK, není problém.
A bude taky banovat lidi za nadávky? Protože tohle se tu děje docela často a nepřijde mi to jako součást slušné konverzace.
A bude taky banovat lidi za nadávky? Protože tohle se tu děje docela často a nepřijde mi to jako součást slušné konverzace.
Odpovědět0 1
tak já četl jen únik že se mrkvosoft rozhoduje mezi arm a zen6, ale každý čte to samé jinak, vid.
A jestli to říkáte už tři roky že x86 do roka chcípne, u koho že jsem to viděl 😆
A jestli to říkáte už tři roky že x86 do roka chcípne, u koho že jsem to viděl 😆
Odpovědět4 1
jo už jsem si vzpomněl, Musk je taková slibotechna, už myslím tři roky taky říká, tesla bude mít příští rok sae level 5. Hold ale neřekl který příští rok.
Odpovědět0 0
No predsa budúci rok. :)
Odpovědět1 0
Jestli mne srovnáváte s Elonem Muskem, jakožto jedním z nejschopnější, nejchytřejších a nejbohažších lidí na světě, tak to beru jako jednoznačně jako kompliment.
Odpovědět0 1
ano srovnávám, ale jen tu vlastnost, že je krutě naivní a vůbec není schopen odhadnout termím, a to nemyslím že by se dupnul o měsíce ale roky!!!!!!!!!!!!!!!!!!!!!!!!!!
Odpovědět0 0
Nejlepší způsob jak přepovědět budoucnost je ji sám vytvořit/vynalézt. To přesně dělá Elon.
Když vyvíjíš něco úplně nového, tak prostě vždy trvá déle, protože narážíš na problémy které lidstvo do té doby nevidělo. Když naše firma vyvíjela motor pro Nissan, tak po roce vývoje jsme museli přijít zpátky za zákazníkem že to bude trvat minimálně o rok dýl a potřebujeme na to o 50% víc peněz, kvůli hromadě nových věcí co se museli vyvinout. A světe div se Nissan ty prašule nejen dal, ale ještě byl rád, protože tím získal zásadní konkurenční výhodu - získal patenty a konkurence pak má násobně těžší implementovat stejnou technologii (nebo si musí koupit od Nissanu práva na ty jeho patenty).
To nemá s naivitou nic společného. Elon dělá pragmatický kalkul. Já dělám s ARM vs. x86 úplně to samé. Pokud velké korporáty jako Apple, Google, MS, Oracle, Amazon začínají nasazovat masivně CPU na bázi ARMu, tak tě můžu ubezpečit že to nedělají aby na tom prodělali.
Když vyvíjíš něco úplně nového, tak prostě vždy trvá déle, protože narážíš na problémy které lidstvo do té doby nevidělo. Když naše firma vyvíjela motor pro Nissan, tak po roce vývoje jsme museli přijít zpátky za zákazníkem že to bude trvat minimálně o rok dýl a potřebujeme na to o 50% víc peněz, kvůli hromadě nových věcí co se museli vyvinout. A světe div se Nissan ty prašule nejen dal, ale ještě byl rád, protože tím získal zásadní konkurenční výhodu - získal patenty a konkurence pak má násobně těžší implementovat stejnou technologii (nebo si musí koupit od Nissanu práva na ty jeho patenty).
To nemá s naivitou nic společného. Elon dělá pragmatický kalkul. Já dělám s ARM vs. x86 úplně to samé. Pokud velké korporáty jako Apple, Google, MS, Oracle, Amazon začínají nasazovat masivně CPU na bázi ARMu, tak tě můžu ubezpečit že to nedělají aby na tom prodělali.
Odpovědět0 1
To budes asi pracovat u MS ve vyvoji konzoli, nebo ve vrcholocem vedeni firmy, kdyz vis, ze uz je rozhodnuto, ze prisi XBox bude postaven na Armu64.
A muzes nam prozradit i to, kdo to uzasne APU s armem a vykonnou grafikou pro vas bude navrhovat a vyrabet?
A muzes nam prozradit i to, kdo to uzasne APU s armem a vykonnou grafikou pro vas bude navrhovat a vyrabet?
Odpovědět1 0
Najmou pár inženýrů, koupí is IP na RDNA5 od AMD, koupí si IP na 64-bit ARM X5 jádra a nechají si to vyrobit u TSMC sami.
Tak jako to dělali v Annapurna Labs když začali dělat 64-jádrové ARM Graviton 2, koupili si IP od ARMu a nechávají si to vyrábět u TSMC sami. Stejně to udělali inženýři co utekli z Intelu do Ampere, prostě si koupili licenci na jádra N1 a nechali si vyrobit u TSMC 128-jádrovou Altru Max.
Jinak v Annapurna Labs bylo původně tuším 12 inženýrů. Ono splácnout dohromady IP není zase takovej problém.
Tak jako to dělali v Annapurna Labs když začali dělat 64-jádrové ARM Graviton 2, koupili si IP od ARMu a nechávají si to vyrábět u TSMC sami. Stejně to udělali inženýři co utekli z Intelu do Ampere, prostě si koupili licenci na jádra N1 a nechali si vyrobit u TSMC 128-jádrovou Altru Max.
Jinak v Annapurna Labs bylo původně tuším 12 inženýrů. Ono splácnout dohromady IP není zase takovej problém.
Odpovědět0 3
Když vidím problémy u Intelu, tak bych to tak jednoduše neviděl.
Odpovědět1 0
Když vidím Annapurna Labs a Ampere, tak je to důkaz že to je jednoduché.
To je ostatně síla otevřené platformy: koupíš si licenci na ISA nebo rovnou celý ARM CPU a necháš si to vyrobit u TSMC za pár dolarů. Tohle přeně dělá Amazon a Google. A jen otázka času než si MS a další korporáty začnou dělat vlastní CPU místo aby se nechali vydírat x86 monopolem.
Tohle na x86 nikdy neuděláš, protože ti Intel neprodá ani tu licenci na CPU natož aby ti prodal licenci na celý CPU.
To je ostatně síla otevřené platformy: koupíš si licenci na ISA nebo rovnou celý ARM CPU a necháš si to vyrobit u TSMC za pár dolarů. Tohle přeně dělá Amazon a Google. A jen otázka času než si MS a další korporáty začnou dělat vlastní CPU místo aby se nechali vydírat x86 monopolem.
Tohle na x86 nikdy neuděláš, protože ti Intel neprodá ani tu licenci na CPU natož aby ti prodal licenci na celý CPU.
Odpovědět0 2
Chápu to tak, že minimální přínos výkonu spotřebuje minimum příkonu navíc.
Odpovědět0 0
Chápu, že takhle může řada lidí ten článek ve vztahu k Intelu a SMT pochopit, a to je to, co mi na něm vadí.
Reálně je ale jinak. U toho Intelu SMT zvyšuje maximální výkon o téměř 19%, což je asi 4x větší přírůstek, než jaký přinášely nové generace Intel procesorů ještě před pár lety, když bylo AMD v háji a Intel tedy neměl konkurenci. A zároveň zapnutí SMT aspoň trochu zachraňuje mizernou efektivitu toho Intel procesoru. Bez zapnutí SMT by totiž byla ještě o 15% horší. Není to tedy tak, že Intel má zázračnou technologii, která přidává výkon zadarmo, ale je to právě naopak. Vypnutí SMT sníží výkon, ale nepřinese žádnou úsporu spotřeby. Což je jednoznačně konstrukční problém.
AMD má implementaci SMT zjevně lepší, protože zapnutí přidá téměř 27% výkonu. Přitom spotřeba stoupne úměrně výkonu, což je celkem očekávané, standardní chování.
Reálně je ale jinak. U toho Intelu SMT zvyšuje maximální výkon o téměř 19%, což je asi 4x větší přírůstek, než jaký přinášely nové generace Intel procesorů ještě před pár lety, když bylo AMD v háji a Intel tedy neměl konkurenci. A zároveň zapnutí SMT aspoň trochu zachraňuje mizernou efektivitu toho Intel procesoru. Bez zapnutí SMT by totiž byla ještě o 15% horší. Není to tedy tak, že Intel má zázračnou technologii, která přidává výkon zadarmo, ale je to právě naopak. Vypnutí SMT sníží výkon, ale nepřinese žádnou úsporu spotřeby. Což je jednoznačně konstrukční problém.
AMD má implementaci SMT zjevně lepší, protože zapnutí přidá téměř 27% výkonu. Přitom spotřeba stoupne úměrně výkonu, což je celkem očekávané, standardní chování.
Odpovědět4 0
nějak jsem zapomněl spotřebu, ale opravdu je to tak. U 5900x mám vyplé smt, tak myslím že žere tak 1/2 TDP, Amd to nemá jako intel, že žere jako tank. A TDP u něho prakticky nic neznamená, pc z intelem už jsem dlouho nikomu nestavěl. Momentálně bych ho ani nedoporučil, ani nevím jak bych vybíral chladič.
Odpovědět3 0
Proč je ten název článku tak krkolomný a zavádějící. Působí to na mě, že intel zvyšuje spotřebu málo a amd hodně a přitom v tom článku je to v absolutních číslech obráceně. Neznělo by výstižněji "SMT od AMD je lepší a úspornější". Jinak děkuji za článek.
Odpovědět2 0
Jak obráceně? AMD ji s SMT zvýšilo o 2,65 W, Intel o 0,81 W. Intel tedy nezvyšuje spotřebu tolik jako AMD, ten nárůst je výrazně nižší (a to jak absolutně, tak i procenty). Tedy jak je v nadpisu. Přesto je AMD lepší, protože si i s HT bere 11 W, zatímco Intel skoro 25 W. Tedy opět jak je v nadpisu. Takže co je tam špatně?
Odpovědět0 0
To byl buď hodně špatný den, nebo opravdu mistrovský kousek procentové demagogie.
Intel žere jak tank i bez zátěže, protože zřejmě nevypíná momentálně nevyužívané zdvojené bloky výpočetních jáder. Po jejich zatížení se tedy jejich spotřeba nijak zásadně nezvýší. Tak ho pochválíme, že mu se zátěží neroste spotřeba.
AMD má zjevně podstatně vyladěnější procesor, nepoužívané obvody podle všeho důsledně vypíná a má tedy poloviční spotřebu, než Intel. Když se zvýší zátěž, tak se bloky zapnou a spotřebovávají víc energie. Absolutní nárůst je tedy vyšší, než u Intelu, a ještě se poměřuje k polovičnímu základu. Stejný absolutní přírůstek tedy dá 2x vyšší procentní nárůst a proto je potřeba lepší procesor důkladně poplivat. A nejlíp hned v titulku, aby ti méně chápaví nezačali přemýšlet, jaká je vlastně pravda. To je opravdu demagogický majststrštyk.
Intel žere jak tank i bez zátěže, protože zřejmě nevypíná momentálně nevyužívané zdvojené bloky výpočetních jáder. Po jejich zatížení se tedy jejich spotřeba nijak zásadně nezvýší. Tak ho pochválíme, že mu se zátěží neroste spotřeba.
AMD má zjevně podstatně vyladěnější procesor, nepoužívané obvody podle všeho důsledně vypíná a má tedy poloviční spotřebu, než Intel. Když se zvýší zátěž, tak se bloky zapnou a spotřebovávají víc energie. Absolutní nárůst je tedy vyšší, než u Intelu, a ještě se poměřuje k polovičnímu základu. Stejný absolutní přírůstek tedy dá 2x vyšší procentní nárůst a proto je potřeba lepší procesor důkladně poplivat. A nejlíp hned v titulku, aby ti méně chápaví nezačali přemýšlet, jaká je vlastně pravda. To je opravdu demagogický majststrštyk.
Odpovědět6 0
"Stejný absolutní přírůstek tedy dá 2x vyšší procentní nárůst a proto je potřeba lepší procesor důkladně poplivat."
Kdo tu plive na lepší procesor? AMD je přece lepší a je to i v titulku.
Kdo tu plive na lepší procesor? AMD je přece lepší a je to i v titulku.
Odpovědět0 0
Fanatikům AMD se člověk nezavděčí.
Hlavně to vypínání bloků u AMD je těžká spekulace, kterou zřejmě převzali z mé analýzy Apple A17. Začal s tím Apple a teď to mají i nejnovější Cortexy. AMD vypínání bloků podle mne vůbec nemá, to mají jen opravdu velké jádra pro ultra-low spotřebu v mobilech (a zcela jistě to probouzení a uspávání bloků má penalizaci IPC).
Ještě před vypínáním bloků jsou techniky jako omezení spekulací když CPU detekuje příliš velkou spotřebu (bez adekvátního IPC), tedy když prediktory se přestanou trefovat. To výrazně omezuje spotřebu, mnohem víc než vypínání bloků (protože dynamický leakage je mnohem větší než statický leakage, jak víme) a reakce CPU je okamžitá, tedy penalta na IPC minimální. Cortexy to začali propagovat v PR materiálech u V1 a N2 jader a Apple to má už hromadu let před Cortexy. Tohle už AMD asi v nějaké jednoduché formě má. A nejspíš i Intel.
Vysvětlení spotřeby u Intel Golden Cove je dle mého agresivní nastavení toho limiteru spekulací, a proto není velký rozdíl mezi ST a HT spotřebou. Ale těch možností je tam mnohem víc a všechno jsou to těžké spekulace. Odpoveď znají jen inženýři Intelu.
Hlavně to vypínání bloků u AMD je těžká spekulace, kterou zřejmě převzali z mé analýzy Apple A17. Začal s tím Apple a teď to mají i nejnovější Cortexy. AMD vypínání bloků podle mne vůbec nemá, to mají jen opravdu velké jádra pro ultra-low spotřebu v mobilech (a zcela jistě to probouzení a uspávání bloků má penalizaci IPC).
Ještě před vypínáním bloků jsou techniky jako omezení spekulací když CPU detekuje příliš velkou spotřebu (bez adekvátního IPC), tedy když prediktory se přestanou trefovat. To výrazně omezuje spotřebu, mnohem víc než vypínání bloků (protože dynamický leakage je mnohem větší než statický leakage, jak víme) a reakce CPU je okamžitá, tedy penalta na IPC minimální. Cortexy to začali propagovat v PR materiálech u V1 a N2 jader a Apple to má už hromadu let před Cortexy. Tohle už AMD asi v nějaké jednoduché formě má. A nejspíš i Intel.
Vysvětlení spotřeby u Intel Golden Cove je dle mého agresivní nastavení toho limiteru spekulací, a proto není velký rozdíl mezi ST a HT spotřebou. Ale těch možností je tam mnohem víc a všechno jsou to těžké spekulace. Odpoveď znají jen inženýři Intelu.
Odpovědět0 10
AMD technologii vypínání částí CPU ohlásila s prvním ZEN 1. Jen nějak neměla důvod ji od té doby připomínat.
Odpovědět3 0
Víš kutile, ono je rozdíl powergating celého CPU jádra u Zen1, a powergaint výpočetních bloků uvnitř jádra.
(smajlík s očima nahoru)
(smajlík s očima nahoru)
Odpovědět0 3
jen pro představu 🙄 .
a moje pravděpodobnější představa, než konec x86 do roka.
Son_of_the_bit dostane do roka na tomto serveru ban za spamování.
a moje pravděpodobnější představa, než konec x86 do roka.
Son_of_the_bit dostane do roka na tomto serveru ban za spamování.
Odpovědět1 0
Záleží zda SHW chcel zůstat technicky relevantní server pro lidi se znalostmi nebo být ekvivalent Blesku.
Ikdyž upřímně, sem chodí komentovat stejný lidi jako na ostatních webech, takže čtěnáři AMDBlesku.
Ikdyž upřímně, sem chodí komentovat stejný lidi jako na ostatních webech, takže čtěnáři AMDBlesku.
Odpovědět0 2
Ano, uznávám, že jsem se s tím pliváním nechal trochu unést :-( a omlouvám se za to. Nějak mne rozpálila ta nesmyslná interpretace výsledků. A nejde o nějaké fandovství, jak tvrdí Son_of_the:_bit, ale o technickou podstatu problému.
Normální režim u procesorů se SMT je s aktivním SMT a nemá smysl ho vypínat. Až na výjimky, kdy OS místo přednostního zaplňování volných fyzických jader posílá v nevytíženém procesoru úlohy na virtuální jádra. Problém je to hlavně u jednojádrově náročných procesů, jako jsou třeba špatně optimalizované hry, které nevyužijí celkový výkon CPU. A i v takových případech je to jen berlička na dobu, než výrobce procesoru s autory OS vyřeší korektní fungování plánovače procesů.
U procesorů se SMT má tedy smysl právě opačný pohled, než je ten prezentovaný v článku. Podstatné je, kolik ztratím z maximálního výkonu, když vypnu SMT, a jestli tím případně něco získám na snížení spotřeby. U Ryzenu se vypnutím SMT sníží maximální výkon a úměrně tomu i spotřeba, což je celkem očekávané a korektní chování. Ale SMT nemá smysl vypínat, protože zpracování výpočetně náročné úlohy spotřebuje stejné množství energie a bude trvat zbytečně déle.
U toho Intelu dojde vypnutím SMT taky ke snížení výkonu, ale spotřeba se téměř nezmění a efektivita procesoru tedy klesne. Což je poněkud překvapivé chování a nedává konstruktérům Intelu zrovna dobré vysvědčení. Vypínání SMT u Intelu je tedy nesmysl nejen z pohledu výkonu a času zpracování, ale i z pohledu spotřeby.
Mimochodem SMT není žádná technologie AMD, ale obecné označení pro mechanismus umožňující lepší využití zdrojů jádra, tím že se navenek jádro tváří jako více jader a ta další virtuální jádra využívá zdroje, které zrovna nejsou vytížena zpracováním požadavků prvního jádra (viz odkaz dole). HT je (v podstatě marketingové) označení implementací SMT v procesorech Intel. Koncept SMT byl prvně implementován roku 1968 v počítačích IBM, tedy dávno před vznikem x86 procesorů.
Tvrzení, že je SMT na ústupu, se mi zdá dost odvážné. Zrovna výsledky v článku zmíněných testů ukazují, jak užitečný ten koncept je. U Ryzenu získáte přidáním trochy křemíku čtvrtinu výkonu navíc. U Intelu získáte 18% výkonu a ještě o něco zlepšíte jeho mizernou efektivitu. Nejsem konstruktér CPU, ani jsem to nějak moc nestudoval, ale troufnu si odhadnout, že (ne)užitečnost SMT bude záviset na celkové koncepci procesoru. U jednoduchých jader typu ARM (RISC), která jsou na úrovni paralelismu vykonávání (jednoduchých) instrukcí schopna vytížit většinu zdrojů, které má jádro k dispozici, zavedení SMT asi moc smysl nedává. U x86 jader, která mají zřejmě různorodější instrukční soubor i zdroje, SMT zjevně smysl dává.
To že Intel do svých malých jader SMT nedává a u velkých je někde vypíná, podle mne neukazuje slabost SMT konceptu, ale spíš konstrukční slabost (a obchodní sílu) Intelu. Podle zveřejněných testů nejsou malá jádra efektivnější (výkon/spotřeba), ale zabírají méně křemíku. Už si nepamatuji, jak vychází porovnání P a E jader Intelu z pohledu výkon/plocha křemíku, ale myslím, že to nebylo to, co Intel trápilo nejvíc.
Když AMD začalo procesorům přidávat jádra a díky čipletům jich tam mohlo dát opravdu hodně, měl Intel velký problém. Při nižší kvalitě svých výrobních procesů a velikosti jader nedokázal do svých monolitů dostat stejný počet jader při rozumné výtěžnosti. A naprostá většina uživatelů se při koupi nerozhoduje podle výkonů v testech, ale podle jednoduchých čísel ve specifikacích, jako je třeba právě počet jader. Tak místo velkých jader se SMT začali dělat ty malá, kterých se vejde víc. Když se ukázalo, že Windows, jako majoritní x86 operační systém, i některé aplikace mají s různorodostí jader problém, začal to Intel řešit vypínáním toho, co mají velká jádra navíc. Ale nejsem si jist jestli i SMT patří do téhle kategorie. Intel SMT u svých procesorů vypínal odjakživa, protože tím rozšiřoval nabídku a nutil lidi, aby mu za SMT připlatili.
https://sk.wikipedia.org/wiki/Simult%C3%A1nny_multithreading
Normální režim u procesorů se SMT je s aktivním SMT a nemá smysl ho vypínat. Až na výjimky, kdy OS místo přednostního zaplňování volných fyzických jader posílá v nevytíženém procesoru úlohy na virtuální jádra. Problém je to hlavně u jednojádrově náročných procesů, jako jsou třeba špatně optimalizované hry, které nevyužijí celkový výkon CPU. A i v takových případech je to jen berlička na dobu, než výrobce procesoru s autory OS vyřeší korektní fungování plánovače procesů.
U procesorů se SMT má tedy smysl právě opačný pohled, než je ten prezentovaný v článku. Podstatné je, kolik ztratím z maximálního výkonu, když vypnu SMT, a jestli tím případně něco získám na snížení spotřeby. U Ryzenu se vypnutím SMT sníží maximální výkon a úměrně tomu i spotřeba, což je celkem očekávané a korektní chování. Ale SMT nemá smysl vypínat, protože zpracování výpočetně náročné úlohy spotřebuje stejné množství energie a bude trvat zbytečně déle.
U toho Intelu dojde vypnutím SMT taky ke snížení výkonu, ale spotřeba se téměř nezmění a efektivita procesoru tedy klesne. Což je poněkud překvapivé chování a nedává konstruktérům Intelu zrovna dobré vysvědčení. Vypínání SMT u Intelu je tedy nesmysl nejen z pohledu výkonu a času zpracování, ale i z pohledu spotřeby.
Mimochodem SMT není žádná technologie AMD, ale obecné označení pro mechanismus umožňující lepší využití zdrojů jádra, tím že se navenek jádro tváří jako více jader a ta další virtuální jádra využívá zdroje, které zrovna nejsou vytížena zpracováním požadavků prvního jádra (viz odkaz dole). HT je (v podstatě marketingové) označení implementací SMT v procesorech Intel. Koncept SMT byl prvně implementován roku 1968 v počítačích IBM, tedy dávno před vznikem x86 procesorů.
Tvrzení, že je SMT na ústupu, se mi zdá dost odvážné. Zrovna výsledky v článku zmíněných testů ukazují, jak užitečný ten koncept je. U Ryzenu získáte přidáním trochy křemíku čtvrtinu výkonu navíc. U Intelu získáte 18% výkonu a ještě o něco zlepšíte jeho mizernou efektivitu. Nejsem konstruktér CPU, ani jsem to nějak moc nestudoval, ale troufnu si odhadnout, že (ne)užitečnost SMT bude záviset na celkové koncepci procesoru. U jednoduchých jader typu ARM (RISC), která jsou na úrovni paralelismu vykonávání (jednoduchých) instrukcí schopna vytížit většinu zdrojů, které má jádro k dispozici, zavedení SMT asi moc smysl nedává. U x86 jader, která mají zřejmě různorodější instrukční soubor i zdroje, SMT zjevně smysl dává.
To že Intel do svých malých jader SMT nedává a u velkých je někde vypíná, podle mne neukazuje slabost SMT konceptu, ale spíš konstrukční slabost (a obchodní sílu) Intelu. Podle zveřejněných testů nejsou malá jádra efektivnější (výkon/spotřeba), ale zabírají méně křemíku. Už si nepamatuji, jak vychází porovnání P a E jader Intelu z pohledu výkon/plocha křemíku, ale myslím, že to nebylo to, co Intel trápilo nejvíc.
Když AMD začalo procesorům přidávat jádra a díky čipletům jich tam mohlo dát opravdu hodně, měl Intel velký problém. Při nižší kvalitě svých výrobních procesů a velikosti jader nedokázal do svých monolitů dostat stejný počet jader při rozumné výtěžnosti. A naprostá většina uživatelů se při koupi nerozhoduje podle výkonů v testech, ale podle jednoduchých čísel ve specifikacích, jako je třeba právě počet jader. Tak místo velkých jader se SMT začali dělat ty malá, kterých se vejde víc. Když se ukázalo, že Windows, jako majoritní x86 operační systém, i některé aplikace mají s různorodostí jader problém, začal to Intel řešit vypínáním toho, co mají velká jádra navíc. Ale nejsem si jist jestli i SMT patří do téhle kategorie. Intel SMT u svých procesorů vypínal odjakživa, protože tím rozšiřoval nabídku a nutil lidi, aby mu za SMT připlatili.
https://sk.wikipedia.org/wiki/Simult%C3%A1nny_multithreading
Odpovědět3 0
Například IBM Power 9 a 10 (začalo to tuším už u Power 8) má jádra dělena na 4 podčásti, tam by ani nebylo možné SMT nějak vypnout.
Odpovědět1 0
SMT má svoje pro a proti:
- jednoznačný přínos má pro in-order jádra v GPU pro parallel computing
- u CPU jsou jeho benefity rozpoluplné
- u malých CPU jader není problém z kodu extrahovat ILP (instruction level parallelism), takže se moc nevyplatí
- u velkých jader kde SMT dává největší benefity zase chceme maximální ST výkon, takže to poslední co chceš je znížit ST výkon na půlku díky SMT
U CPU má smysl spíš Asymetrický SMT, kdy CPU umí řídit priority jednotlivých vláken. První vlákno je prioritní a druhé vlákno běží z toho co na něj zbyde. Ale nikdo to zatím nedělá protože dynamicky alokovat struktury uvnitř CPU nebude až tak jednoduchá záležitost, když výrobci jsou rádi že zvládli primitivní 2-way SMT co máme dnes. Nicméně do budoucna je ASMT jedna z oblastí kde se dá dosáhnout výrazného zlepšení.
- jednoznačný přínos má pro in-order jádra v GPU pro parallel computing
- u CPU jsou jeho benefity rozpoluplné
- u malých CPU jader není problém z kodu extrahovat ILP (instruction level parallelism), takže se moc nevyplatí
- u velkých jader kde SMT dává největší benefity zase chceme maximální ST výkon, takže to poslední co chceš je znížit ST výkon na půlku díky SMT
U CPU má smysl spíš Asymetrický SMT, kdy CPU umí řídit priority jednotlivých vláken. První vlákno je prioritní a druhé vlákno běží z toho co na něj zbyde. Ale nikdo to zatím nedělá protože dynamicky alokovat struktury uvnitř CPU nebude až tak jednoduchá záležitost, když výrobci jsou rádi že zvládli primitivní 2-way SMT co máme dnes. Nicméně do budoucna je ASMT jedna z oblastí kde se dá dosáhnout výrazného zlepšení.
Odpovědět0 2
Bylo by mozne nejak vic popsat myslenkove pochody vedoyci k tvrzeni, ze SMT snizuje ST vykon jadra na polovinu ? A pokud mozno to dolozit odkazy na nejake zdroje a nejlepe i testy, ktere to prokazuji?
A bylo by asi i dobre rict, jaky prirustek vykonu diky SMT by byl nerozpiruplny a proc je +27% rozporuplnych.
A bylo by asi i dobre rict, jaky prirustek vykonu diky SMT by byl nerozpiruplny a proc je +27% rozporuplnych.
Odpovědět1 0
ST výkon zapnutím SMT samozřejmě klesne na polovinu (+ polovina přírůstku z toho SMT).
Pokud SMT přidá 30% MT výkonu, tak ST výkon klesne na 65% (50+15%).
Jsou aplikace kde pokles ST výkonu na 65% je naprosto zásadní problém. Kvůli tomu ti třeba padne FPS ve hře nebo začne lagovat. Naopak benchmark ti vyhodí vysoké FPS protože se ti rychleji spočítala fyzika s velkým počtem vláken díky SMT. Záleží taky na enginu hry.
Další věc na zamyšlení je, že investice do IPC není malá. Abys zvýšil IPC o 35% tak musíš zpravidla investovat cca o 50% víc tranzistorů (a někdy i mnohem víc viz. Zen 4 má o 50% víc tranzistorů ale IPC se zvýšilo jen o 14%). A tím SMT to potom degraduješ o 35% jen to fikne. Takže by bylo mnohem efektivnější pro MT výkon vzít Zen 3 a vyrobit jej na 5nm s 50% více jádry (a vypnout mu SMT). A mělo by to větší MT výkon než Zen 4 se SMT. A to je důvod nasazení středně velkých jáder bez HT, jako to dělá Intel a ARM/Apple. Apple má obří jádra pro max ST výkon a bleskovou odezvu systému a o background balast se starají E-core které berou 400 mW ale mají IPC jako Skylake/Zen2. Ale tento Applí ultimátní přístup je úplně opačná strategie (plýtvá tranzistory).
Co smysl dává je Asymetrický SMT, který by uměl řídit priority vláken podle požadavků OS. Ale to zatím nikdo neumí. Nicméně podezírám Applí velká jádra z toho, že když vidí doslova několik tisíc instrukcí dopředu, tak už může vidět části kódu které jdou paralelizovat (resp. programátor by to mohl dát do separátního vlákna, ale z lenosti to neudělá, resp. nejde ztrácet čas s každou kravinou v separátním vlákně ikdyž by to šlo) tak tyto části kódu tyto obří jádra vidí a provedou s nimi spekulativní výpočet a defakto tím vytíží jednotku jako SMT (ale potřebuješ na to obří datové struktury a proto má Apple tu obří 320 kB L1 cache). Tohle je zdroj umožňující ještě hodně zvyšovat IPC, ale samozřejmě prediktory se musí trefovat což pro datově nezávislé výpočty v hlavní smyčce není problém (pravděpodobnost 100%). Z tohodle podezírám Apple.
Pokud SMT přidá 30% MT výkonu, tak ST výkon klesne na 65% (50+15%).
Jsou aplikace kde pokles ST výkonu na 65% je naprosto zásadní problém. Kvůli tomu ti třeba padne FPS ve hře nebo začne lagovat. Naopak benchmark ti vyhodí vysoké FPS protože se ti rychleji spočítala fyzika s velkým počtem vláken díky SMT. Záleží taky na enginu hry.
Další věc na zamyšlení je, že investice do IPC není malá. Abys zvýšil IPC o 35% tak musíš zpravidla investovat cca o 50% víc tranzistorů (a někdy i mnohem víc viz. Zen 4 má o 50% víc tranzistorů ale IPC se zvýšilo jen o 14%). A tím SMT to potom degraduješ o 35% jen to fikne. Takže by bylo mnohem efektivnější pro MT výkon vzít Zen 3 a vyrobit jej na 5nm s 50% více jádry (a vypnout mu SMT). A mělo by to větší MT výkon než Zen 4 se SMT. A to je důvod nasazení středně velkých jáder bez HT, jako to dělá Intel a ARM/Apple. Apple má obří jádra pro max ST výkon a bleskovou odezvu systému a o background balast se starají E-core které berou 400 mW ale mají IPC jako Skylake/Zen2. Ale tento Applí ultimátní přístup je úplně opačná strategie (plýtvá tranzistory).
Co smysl dává je Asymetrický SMT, který by uměl řídit priority vláken podle požadavků OS. Ale to zatím nikdo neumí. Nicméně podezírám Applí velká jádra z toho, že když vidí doslova několik tisíc instrukcí dopředu, tak už může vidět části kódu které jdou paralelizovat (resp. programátor by to mohl dát do separátního vlákna, ale z lenosti to neudělá, resp. nejde ztrácet čas s každou kravinou v separátním vlákně ikdyž by to šlo) tak tyto části kódu tyto obří jádra vidí a provedou s nimi spekulativní výpočet a defakto tím vytíží jednotku jako SMT (ale potřebuješ na to obří datové struktury a proto má Apple tu obří 320 kB L1 cache). Tohle je zdroj umožňující ještě hodně zvyšovat IPC, ale samozřejmě prediktory se musí trefovat což pro datově nezávislé výpočty v hlavní smyčce není problém (pravděpodobnost 100%). Z tohodle podezírám Apple.
Odpovědět0 1
Možná sis toho nevšimnul, ale ptal jsem se na to, na základě jakých úvah a zdrojů jsi dospěl k názoru, že se zapnutím SMT sníží výkon jádra na polovinu. Oceňuji, že jsi tu polovinu navýšil o polovinu %-ního přírůstku maximálního výkonu procesoru po zapnutí SMT, ale ani tak asi nelze zdůvodnění slovem "samozřejmě" považovat za zdůvodnění.
Taky jsem se ptal, proč je zvýšení maximálního výkonu CPU v důsledku zapnutí SMT o 27% rozporuplné a jaký přírůstek by byl podle tebe nerozporuplný.
Taky jsem se ptal, proč je zvýšení maximálního výkonu CPU v důsledku zapnutí SMT o 27% rozporuplné a jaký přírůstek by byl podle tebe nerozporuplný.
Odpovědět1 0
Ty neumíš číst?
Ještě jednou:
1) Zen 4 má o 50% víc tranzistorů a IPC zvednul o 14%.
2) zapnutím SMT u toho Zen 4 zvýšíš MT výkon o 27%, ale snížíš výkon/vlákno na 63% (snížíš o 37%).
3) Pokud ti jde o MT výkon v serverech, tak je lepší navrhnout střední e-core s o 37% nižším IPC jak Zen 4 a dát jich tam 2x tolik
4) Protože to e-core s nižším IPC a bez SMT bude zabírat 1/4 plochy toho velkého jádra.
5) tudíž server s e-core bude mít 2x větší výkon ze stejné plochy křemíku
6) protože ARM nemusí emulovat CISC a taky nemusí udržovat kompatibilitu se 16-bit a 32-bit mody, tak jako musí x86, tak jeho jádra jsou ještě o dost menší než ty Intelí e-core při stejném IPC. Proto x86 nikdy nemůže nad ARMem vyhrát v serverech. To by x86 muselo změnit kodování na RISC a při té příležitosti zahodit 16 a 32-bit kompatibilitu (AMD se o to kdysi poukoušelo u K6 s jejich RISC86). Prostě CISC bude furt zastaralý CISC, tak jako Trabant s dvoutaktním motorem bude pořád Trabant s dvoutaktním motorem ikdybys tam dal místo karburátoru přímé vstřikování TDI a klimatizaci.
Ještě jednou:
1) Zen 4 má o 50% víc tranzistorů a IPC zvednul o 14%.
2) zapnutím SMT u toho Zen 4 zvýšíš MT výkon o 27%, ale snížíš výkon/vlákno na 63% (snížíš o 37%).
3) Pokud ti jde o MT výkon v serverech, tak je lepší navrhnout střední e-core s o 37% nižším IPC jak Zen 4 a dát jich tam 2x tolik
4) Protože to e-core s nižším IPC a bez SMT bude zabírat 1/4 plochy toho velkého jádra.
5) tudíž server s e-core bude mít 2x větší výkon ze stejné plochy křemíku
6) protože ARM nemusí emulovat CISC a taky nemusí udržovat kompatibilitu se 16-bit a 32-bit mody, tak jako musí x86, tak jeho jádra jsou ještě o dost menší než ty Intelí e-core při stejném IPC. Proto x86 nikdy nemůže nad ARMem vyhrát v serverech. To by x86 muselo změnit kodování na RISC a při té příležitosti zahodit 16 a 32-bit kompatibilitu (AMD se o to kdysi poukoušelo u K6 s jejich RISC86). Prostě CISC bude furt zastaralý CISC, tak jako Trabant s dvoutaktním motorem bude pořád Trabant s dvoutaktním motorem ikdybys tam dal místo karburátoru přímé vstřikování TDI a klimatizaci.
Odpovědět0 1
No já jsem si z toho testu odnesl informaci, že jádro AMD se zapnutým 2 vláknem má menší spotřebu, než jádro Intelu s 1 vláknem. To není správa pro Intel se kterou by se mohl pochlubit.
Odpovědět6 0
Zajímá Vás tato diskuze? Začněte ji sledovat a když přibude nový komentář, pošleme Vám e-mail.
Nový komentář k článku
Pro přidání komentáře se přihlaste (vpravo nahoře). Pokud nemáte profil, zaregistrujte se pro využívání dalších funkcí.
Doporučujeme z našich magazínů
reklama
reklama
reklama
Z dalších serverů
reklama
reklama
reklama