Stephen Hawking: AI může být ta největší událost v dějinách, nebo nejhorší

Stephen Hawking: AI může být ta největší událost v dějinách, nebo nejhorší
, , aktualita
Stephen Hawking se opět opřel do AI, v níž vidí nebezpečí pro celé lidstvo a varuje, že by to mohlo být doposud to nejhorší co jeho vývoj potkalo. Před čím nás tak konkrétně varuje a jaká opatření vidí jako nezbytná? 
reklama
Stephen Hawking už vícekrát veřejně promluvil na téma umělé inteligence a neustále upozorňuje, že je třeba velké obezřetnosti, aby se nestalo, že by se nám vymkla z rukou. To bylo v době prvního snímku Terminátor čisté sci-fi, ale  nyní s prudkým vývojem hardwaru a jeho výkonu pro AI nabývá umělá inteligence schopná překonat tu lidskou stále reálnějších obrysů. 
 
 
"Počítače mohou, teoreticky, emulovat lidskou inteligenci a překonat ji", prohlásil Hawking na technologické konferenci v Portugalsku. "Úspěch při vytvoření takto efektivní AI může být ta největší událost v historii naší civilizace. Nebo ta nejhorší, to prostě dosud nevíme. Nemůžeme tak ani vědět, zda nám taková AI bude pomáhat, nebo nás ignorovat, aby si šla vlastní cestou, nebo se nás rozhodne zničit". 
 
"AI by tak mohla být to nejhorší, co potkalo naši civilizaci", pokračoval Hawking. "Přináší mnohá nebezpečí, jako silné autonomní zbraně nebo nové způsoby, jakými bude několik silných utlačovat zbytek slabých. Může také přinést velké narušení naší ekonomiky". 
 
Obvyklým kritikem umělé inteligence je také Elon Musk, který sáhl daleko do minulosti, v níž sám Sokrates vystoupil proti vynálezu písma. Jde o rozhovor Theutha, egyptského boha nabízejícího dar písma, s králem Amonem. Dle legendy měl Amon Theuthovi říci: "Tento tvůj objev vyvolá zapomnětlivost v duších učedníků, neboť ti nebudou používat svou paměť; budou pouze věřit psanému písmu to, co si sami nepamatují. To, co nabízíš, není prostředek nápomocný k paměti, ale ke vzpomínání, takže svým následovníkům nepředáš pravdu, ale jen zdání pravdy a zatímco oni se budou moci učit mnoha věcem, nenaučí se nic". 
 
 
Pointa je ta, že vynález písma dokázal změnit lidskou společnost a její fungování zcela zásadním způsobem a Elon Musk vzpomínkou na tento mýtus varuje, že s nástupem umělé inteligence by to mohlo být podobné. Stačí v něm vyměnit písmo za umělou inteligenci a paměť za myšlení či přemýšlení. To ale samozřejmě nutně nemusí přinést něco špatného, však si stačí uvědomit, co vývoji evropské civilizace přineslo nejen písmo, ale jeho masové rozšíření díky vynálezu tisku. Byla to možnost individuálně přemýšlet o textech, tehdy především o Písmu svatém, a o svobodě jeho výkladu, na což mělo do té doby monopol právě jen několik mocných. Následovaly reformy, renesance a humanismus, na což dnes jednoznačně nahlížíme jako na pozitivní vývoj dějin. 
 
Hawking také neustále připomíná, že se zde zabýváme inteligencí na lidské úrovni, což je oblast, kterou máme sami ve svém případě pramálo probádanou. Jak chceme zajistit, že podobně nebo ještě mnohem více inteligentní AI se bude chovat dle našich předpokladů, že si nevyvine své vlastní duševní choroby, které by mohly způsobit katastrofu, když sami nevíme, co přesně vyvolává řadu těch lidských a jak proti nim účinně postupovat? Skotské střiky asi nepřichází v úvahu, i když taková počítačová lobotomie by jako záchranná brzda fungovat mohla.
 
 
Čili Hawking v zásadě není proti rozvoji AI, ale má velké obavy z toho, co může přinést, pokud podceníme možné následky.
 


Ceny souvisejících / podobných produktů:


reklama
Nejnovější články
SpaceX zkusilo chytit kryt nákladu rakety Falcon 9 SpaceX zkusilo chytit kryt nákladu rakety Falcon 9
SpaceX odstartovalo praktickou část projektu Starlink na pokrytí Země vysokorychlostním připojením k Internetu z nízko obíhajících satelitů. To ale zahrnovalo i něco jiného, a sice pokus chytit proudnicový kryt nákladu pomocí lodě se sítí.
Včera, aktualita, Jan Vítek2 komentáře
AMD bude také čelit žalobám zákazníků kvůli Spectre AMD bude také čelit žalobám zákazníků kvůli Spectre
Byla jen otázka času, kdy se na společnost Intel snesou první žaloby kvůli exploitům Spectre a Meltdown a ty také přišly a ne zrovna málo. AMD však v tomto případě zůstávalo ve stínu Intelu, ale to se nyní změnilo. 
Včera, aktualita, Jan Vítek
Steven Seagal tváří nové kryptoměny Bitcoiin2Gen Steven Seagal tváří nové kryptoměny Bitcoiin2Gen
Akční herec Steven Seagal zdaleka netočí jen filmy. Nyní se stal tváří nové kryptoměny Bitociin2Gen. Její uvedení vzbuzuje hodně otázek, ať už tím, že parazituje na názvu nejznámější kryptoměny, ačkoli s ní nemá nic společného, nebo pyramidovým schématem.
Včera, aktualita, Milan Šurkala2 komentáře
AMD vysvětluje, proč budou mít jeho serverové procesory navrch nad Intelem AMD vysvětluje, proč budou mít jeho serverové procesory navrch nad Intelem
Na akci ISSCC hovořili zástupci AMD o tom, co je vedlo k vytvoření procesorů EPYC v takové podobě, v jaké se dostavily na trh. Uvedli také, proč věří ve svůj přístup, který má být ve srovnání s Intelem mnohem výhodnější. 
Včera, aktualita, Jan Vítek3 komentáře
Intel: proč přestala růst pracovní frekvence procesorů? Intel: proč přestala růst pracovní frekvence procesorů?
V době procesorů Intel Pentium 4 založených na NetBurst měl Intel vizi, že požene pracovní takt až k 10 GHz, což se nakonec ukázalo jako nezvládnutelný výkon. Byla to i doba, kdy AMD představilo své nejúspěšnější procesory před generací Zen. 
Včera, aktualita, Jan Vítek4 komentáře