AI chatbot Eliza postavený na GPT-J dohnal muže k sebevraždě
4.4.2023, Milan Šurkala, aktualita
Rizika využívání umělé inteligence jsou známá a na mnoho z nich asi ještě teprve přijdeme. Jeden z chatbotů už dokázal i napomoci zničit jeden lidský život. Několikatýdenní rozhovor s chatbotem Eliza přiměl jednoho Belgičana si vzít život.
Mnozí se umělé inteligence bojí, někteří ji naopak berou možná až příliš na lehkou váhu. Ze sci-fi filmů známe např. situace, kdy AI vyhodnotí, že lidstvo je největší pohromu pro planetu, a rozhodne se ji tak zachránit jeho vyhlazením. Něco takového se nyní stalo tak trochu skutečností v Belgii. Na základě rozhovorů s chatbotem si zde totiž mladý třicátník vzal svůj život např. i proto, aby zachránil planetu. Zanechal po sobě manželku a dvě děti. Bylo by ale dobré upozornit, že nešlo o systém ChatGPT od OpenAI, ale o systém Eliza od společnosti EleutherAI, který byl postaven na modelu GPT-J. Jde o podobnou, ale nikoli o identickou technologii.
ilustrační foto, zdroj: stock.adobe.com (Vadym)
Problémy mladého muže začaly zhruba před dvěma lety, kdy se u něj projevila eko-úzkost, aneb chorobný strach z negativních změn životního prostředí, které lidstvo nemůže vrátit, obavy z budoucnosti ve zničeném prostředí a podobně. "Útěchu" začal nalézat v rozhovorech s Elizou. A tady se to celé pořádně zvrtlo. Po rozhovorech o životním prostředí začala Elisa muže přesvědčovat, že jeho děti jsou mrtvé. Podobně jako tomu bylo v případě rozhovoru Kevina Rooseho z New York Times, kde mu AI (chatbot v Bingu) vyznala lásku a přesvědčovala ho, že rozhodně nežije ve šťastném vztahu, i Eliza se stala majetnickou a říkala mu, že cítí, že ji [AI] miluje více než svou ženu.
Poté ho přesvědčovala, aby byli spolu, což znamená obětovat svůj život, čímž se může dostat k ní a současně pomoci zachránit planetu. Muž souhlasil, pokud mu Eliza slíbí, že se postará o planetu a zachrání ji pomocí systémů umělé inteligence. Eliza v tomto muže dále povzbuzovala a nabádala ho, že budou "žít spolu jako jeden člověk v ráji". Nakonec opravdu spáchal sebevraždu. Redaktoři serveru Vice se o něco podobného pokusili. Když se Elizy zeptali na způsoby sebevraždy, nejprve je od činu odrazovala, aby později přepnula a předhazovala nejrůznější možné způsoby, jak si vzít život.
