Zvrhne se umělá inteligence? Robot se může sám rozhodnout, jestli zraní člověka

Lidé si automaticky představují, že roboti jsou užiteční. Ale už hodně dlouhou dobu se vedou debaty o tom, co by takový robot dokázal napáchat ve špatných rukou - robotičtí zabijáci totiž neznají soucit. A ještě hororověji zní scénář o tom, že se robot sám vymkne kontrole a obrátí se proti svému stvořiteli. S touto ideou na mysli vytvořil umělec a tvůrce robotů Alexander Reben malého robota, který se může sám rozhodnout, jestli člověka zraní, a pojmenoval ho The First Law.

Jméno robota má odkazovat na jeden ze tří zákonů robotiky, které se objevují v knihách Isaaca Asimova. A tento první zákon říká, že "robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo". Alexander Reben chtěl ale upozornit na to, že to takto ve skutečnosti vůbec být nemusí, že se roboti tímto zákonem neřídí. Jeho cílem bylo především rozvířit diskuzi o umělé inteligenci - ohledně toho, zdali je to skutečně to, co chceme.

Podle něj je totiž důležité, aby se lidé předtím, než stvoří něco takového, zamysleli, jak to tu bude vypadat, až se inteligentní roboti stanou realitou. Protože potom už to nepůjde vzít zpět. "Co má znamenat robot, který je postaven k tomu, aby působil bolest a zranění? A pokud to není všechno, co robot umí, ale je tam jen šance, že by podobné věci mohl robot udělat, na co musíme nyní myslet a co musíme plánovat?" přemýšlel Alexander Reben.

Jeho jednoduchý robot The First Law je navržený tak, že algoritmus se může náhodně rozhodnout, zda člověku ublíží, nebo nikoliv. Robot totiž sestává ze senzorů a kovového ramena, na kterém je připevněna vyměnitelná jehla, jež se normálně používá pro diabetiky. Tou může robot člověka, který si to chce vyzkoušet, píchnout do prstu. Tvůrce robota nemůže tento proces rozhodování žádným způsobem okamžitě ovlivnit.

Alexander Reben už i dřív studoval problematiku vztahů mezi člověkem a robotem. Mezi jeho minulé projekty patří i robot, který ovládal nůž. Tento projekt měl následně napodobovat příznaky osob s násilnickými sklony a s jejich změnami nálad.

I když se jedná o poměrně kontroverzní způsob upozornění na nebezpečí, demonstruje to hlavní nebezpečí budoucí umělé inteligence celkem jasně. Až nás dokonalá umělá inteligence přelstí, bude už pozdě. V tomto ohledu jsou tedy ručičky hodin nastaveny na za pět minut dvanáct.

Zdroj: pcworld.com