Stephen Hawking: AI může být ta největší událost v dějinách, nebo nejhorší

Stephen Hawking: AI může být ta největší událost v dějinách, nebo nejhorší
, , aktualita
Stephen Hawking se opět opřel do AI, v níž vidí nebezpečí pro celé lidstvo a varuje, že by to mohlo být doposud to nejhorší co jeho vývoj potkalo. Před čím nás tak konkrétně varuje a jaká opatření vidí jako nezbytná? 
reklama
Stephen Hawking už vícekrát veřejně promluvil na téma umělé inteligence a neustále upozorňuje, že je třeba velké obezřetnosti, aby se nestalo, že by se nám vymkla z rukou. To bylo v době prvního snímku Terminátor čisté sci-fi, ale  nyní s prudkým vývojem hardwaru a jeho výkonu pro AI nabývá umělá inteligence schopná překonat tu lidskou stále reálnějších obrysů. 
 
 
"Počítače mohou, teoreticky, emulovat lidskou inteligenci a překonat ji", prohlásil Hawking na technologické konferenci v Portugalsku. "Úspěch při vytvoření takto efektivní AI může být ta největší událost v historii naší civilizace. Nebo ta nejhorší, to prostě dosud nevíme. Nemůžeme tak ani vědět, zda nám taková AI bude pomáhat, nebo nás ignorovat, aby si šla vlastní cestou, nebo se nás rozhodne zničit". 
 
"AI by tak mohla být to nejhorší, co potkalo naši civilizaci", pokračoval Hawking. "Přináší mnohá nebezpečí, jako silné autonomní zbraně nebo nové způsoby, jakými bude několik silných utlačovat zbytek slabých. Může také přinést velké narušení naší ekonomiky". 
 
Obvyklým kritikem umělé inteligence je také Elon Musk, který sáhl daleko do minulosti, v níž sám Sokrates vystoupil proti vynálezu písma. Jde o rozhovor Theutha, egyptského boha nabízejícího dar písma, s králem Amonem. Dle legendy měl Amon Theuthovi říci: "Tento tvůj objev vyvolá zapomnětlivost v duších učedníků, neboť ti nebudou používat svou paměť; budou pouze věřit psanému písmu to, co si sami nepamatují. To, co nabízíš, není prostředek nápomocný k paměti, ale ke vzpomínání, takže svým následovníkům nepředáš pravdu, ale jen zdání pravdy a zatímco oni se budou moci učit mnoha věcem, nenaučí se nic". 
 
 
Pointa je ta, že vynález písma dokázal změnit lidskou společnost a její fungování zcela zásadním způsobem a Elon Musk vzpomínkou na tento mýtus varuje, že s nástupem umělé inteligence by to mohlo být podobné. Stačí v něm vyměnit písmo za umělou inteligenci a paměť za myšlení či přemýšlení. To ale samozřejmě nutně nemusí přinést něco špatného, však si stačí uvědomit, co vývoji evropské civilizace přineslo nejen písmo, ale jeho masové rozšíření díky vynálezu tisku. Byla to možnost individuálně přemýšlet o textech, tehdy především o Písmu svatém, a o svobodě jeho výkladu, na což mělo do té doby monopol právě jen několik mocných. Následovaly reformy, renesance a humanismus, na což dnes jednoznačně nahlížíme jako na pozitivní vývoj dějin. 
 
Hawking také neustále připomíná, že se zde zabýváme inteligencí na lidské úrovni, což je oblast, kterou máme sami ve svém případě pramálo probádanou. Jak chceme zajistit, že podobně nebo ještě mnohem více inteligentní AI se bude chovat dle našich předpokladů, že si nevyvine své vlastní duševní choroby, které by mohly způsobit katastrofu, když sami nevíme, co přesně vyvolává řadu těch lidských a jak proti nim účinně postupovat? Skotské střiky asi nepřichází v úvahu, i když taková počítačová lobotomie by jako záchranná brzda fungovat mohla.
 
 
Čili Hawking v zásadě není proti rozvoji AI, ale má velké obavy z toho, co může přinést, pokud podceníme možné následky.
 


Ceny souvisejících / podobných produktů:


reklama
Nejnovější články
Cenzurovaný Google Dragonfly pro Čínu byl poslán k ledu Cenzurovaný Google Dragonfly pro Čínu byl poslán k ledu
Cenzurovaný vyhledávač Google Dragonfly je velkým tématem, proti kterému se bouří i samotní pracovníci v Googlu. Negativní odezva i další problémy ale stojí za tím, že se Google rozhodl projekt ukončit.
Dnes, aktualita, Milan Šurkala
Astronomové našli nejvzdálenější známý objekt naší soustavy: Farout Astronomové našli nejvzdálenější známý objekt naší soustavy: Farout
Astronomové potvrdili, že stále ještě nemusíme znát všechny velké objekty naší soustavy. Tím narážíme na tzv. devátou planetu, která tedy nyní objevena nebyla, ale máme tu něco jiného: asi 500km planetku Farout. 
Dnes, aktualita, Jan Vítek4 komentáře
JEDEC aktualizovala specifikace HBM pro propustnost až 307 GB/s JEDEC aktualizovala specifikace HBM pro propustnost až 307 GB/s
JEDEC Solid State Technology Association přišla s vylepšeným standardem pro paměti typu High Bandwidth Memory (HBM). Jedná se o verzi slibující paměťovou propustnost 307 GB/s. Co to znamená? 
Dnes, aktualita, Jan Vítek
GeForce RTX 2060 očekáváme v polovině ledna, akcie NVIDIE stále ztrácí GeForce RTX 2060 očekáváme v polovině ledna, akcie NVIDIE stále ztrácí
NVIDIA se rozhodla, že v tomto roce ještě nevyšle na trh nový mainstream a rozhodnutí to mělo být založené čistě na tom, že se to poněkud přepísklo s výrobou starých Pascalů. Co se týče akcií, NVIDIA na tom není lépe, spíš naopak. 
Dnes, aktualita, Jan Vítek2 komentáře
Microsoft 365 Consumer: celý balík i s OS za předplatné pro běžného zákazníka Microsoft 365 Consumer: celý balík i s OS za předplatné pro běžného zákazníka
Dle inzerátů firmy Microsoft, která shání potřebné pracovníky, se chystá spotřebitelská verze balíku Microsoft 365. Mluví se přímo o Microsoft 365 Consumer, která by tak měla obsahovat OS, Office či různé služby za předplatné. 
Dnes, aktualita, Jan Vítek1 komentář