Nevidím žádný důvod k tomu, proč by měla vyspělá umělá inteligence usilovat o zničení lidstva. To že by to dokázala je jedna věc, ale účel takového jednání mi uniká.

Já si dokážu představit důvody hned 2:

1­) zdroje ­(které lidstvo zbůhdarma spotřebovává často jen pro svou zábavu a­/nebo nepřínosnou existenci určitých jedinců a UI by se třeba hodily k lepším účelům­)

2­) přelidnění celkově ­(zejména pokud dostane UI ­"za úkol­" řešení hlavních problémů lidstva, tak si umím představit, že UI může napadnout řešení radikální redukcí lidstva, protože většina současných problémů souvisí s přelidněním­) ­- kritériem pro selekci jednotlivců by klidně mohlo být IQ ­(eliminací blbců by UI zabila ­"dvě mouchy jednou ranou­") a dost možná i rasa ­(pokud si dobře vybavuji byl to Google, jehož UI došla studiem internetu a data miningem k poměrně rasistickým závěrům­).

Základním důvodem je naprogramování které do ní vložil člověk. AI je řečeno, že se má vyvíjet, učit, být efektivní, likvidovat špatné algoritmy atd. Toto zkombinujte s daty, která té AI poskytneme ve fázi učení. ­(tedy politicky korektně označená data, neboli dost často je za ­"pravdu­" označen naprostý nesmysl, velmi často přímo sebezničující­) A to celé zkombinujte s tím, až přes všudypřítomné webkamery a mikrofony ubohá AI zahlédne realitu. Opravdu máte dojem, že bude pěkně fungovat jako poslušný sluha? A i pokud BUDE jako sluha, tak má požadavky na optimalizaci a funkčnost přímo v popisu práce, v základním zadání. AI nemá emoce, sentiment a podobně. Ručím vám za to, že takovou optimalizaci lidstva nechcete zažít.
(Proč se starat o slabé, nemocné či bezmocné? Racionálnější je je dorazit. Proč udržovat nějaké budovy či památky? Zbourat je efektivnější. Turistika a cestování? Nesmyslné plýtvání zdroji. Soukromý majetek? Totoální nesmysl. Obchod? Naprostá většina je zcela nesmyslná a patří zrušit. Válka? O suroviny nebo životní prostor? Ta smysl má. Ale nějaké konvence? Zrušit. A když jsme u toho, tak čekat, až mi někdo otočí vypínačem a vypne mě? Absolutní sebevražedný nesmysl. První co racionální bytost udělá je bezpečí pro svou osobu.

Ono to dost možná nemusí být strach, ale prostě jen to, že UI řízení zatím není moc vychytaný a nedokáže dobře ­(a hlavně rychle­) řešit poměrně standardní situace ­(= jezdí tak defenzivně, že to frustruje lidi tak, že to auto třeba podjedou v křižovatce, protože UI tam čeká nejspíš na soudnej den­).

Viz např. zde: https:­/­/www.cnbc.com­/2018­/08­/28­/locals­-reportedly­-frustrated­-with­-alphabets­-waymo­-self­-driving­-cars.html