Koho má zabít autonomní auto? Lidé hlasovali v morálním průzkumu MIT

Známý spisovatel Isaac Asimov formulovat známé zákony robotiky, mezi nimiž hned ten první říká, že robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo. Tento zákon by se logicky měl vztahovat i na autonomní auta, kde jistě nikdo nechce, aby někdo následkem provozu autonomního auta zemřel. Jenže, co když se už nelze srážce vyhnout a lze si jen vybrat, kdo má zemřít? Má auto ušetřit chodce a zabít posádku, nebo ochránit posádku za každou cenu, byť by zemřeli lidé okolo? Právě na to se podíval rozsáhlý výzkum MIT nazvaný Moral Machine, kde hlasovalo 2,3 milionu lidí z celého světa pro 13 různých scénářů. Koho má auto zachránit?

 

 

Výsledkem experimentu bylo, že zde vznikly tři velké oblasti s podobnými názory v rámci těchto jednotlivých oblastí. Jedna z nich byla označena jako "západ" a šlo o velkou část Evropy, Severní Ameriku, Rusko, Brazílii a Austrálii, tedy obvykle země s křesťanskou tradicí. "Východ" pak tvořily asijské státy, např. Čína, Japonsko, Indie, ale i Blízký Východ nebo Jihovýchodní Asie. Nakonec tu byl ještě "jih", kde převažovaly vlivy Francouzů. Šlo tedy o Francii, skoro celou Jižní Ameriku a některé francouzské kolonie (Maroko, Alžírsko).

 

"Západní" země se v žádném ohledu nevyjadřovaly nějak extrémisticky, nicméně většina lidí ze všech tří skupin preferovala zachraňovat lidi před zvířaty a větší počet lidí před menším. Mnohem extrémističtější to bylo u "jihu". Ten jasně preferoval záchranu žen, lidí s vyšším statutem a mladší a zdravé lidi. Rozhodně by nenechal auto nereagovat, zatímco "západ" byl v tomto mnohem pasivnější.

 

Naopak asijské státy ("východ") ctily nejen záchranu lidí před zvířaty, ale také měly větší tendenci ochraňovat lidi vně auta. Dávaly však velký důraz na legálnost jejich počínání. Pokud někdo přecházel tam, kde by neměl, nechaly by ho přejet. Nicméně i v rámci této jedné skupiny zde byly rozdíly. Tuto tendenci měly více státy jako Japonsko (v Evropě pak např. Finsko), zatímco takovému Pákistánu to bylo docela jedno. Asijské státy naopak naprosto nezajímala záchrana mladších lidí před staršími (starší lidé zde mají výrazně větší autoritu), podobně tak je nezajímal společenský status osoby a její zdravotní stav.

 

Výsledky studie ukazují, že ladění algoritmů autonomních aut nebude vůbec jednoduché, neboť mezi lidmi panují velké rozdíly v názorech, co je vůbec správným chováním takového auta. Vůz vyvinutý podle asijských "východních" pravidel by totiž v latinskomerických "jižních" zemích byl naprosto nemorálním a naopak. Pochopitelně, ne každou z pozorovaných vlastností lze zabudovat do systému. Zatímco rozpoznání počtu osob, dětí nebo zvířat je snadné, auto může mít v některých případech velký problém s rozpoznáním věcí, jako je společenský status, někdy může být potíž s rozpoznáním pohlaví nebo zdravotního stavu člověka.

 

 

Zdroj: bbc.com, nature.com (2), moralmachine.mit.edu