Elon Musk znovu žádá OSN o celosvětový zákaz vojenských AI robotů
21.8.2017, Milan Šurkala, aktualita
Elon Musk spolu s dalšími 115 specialisty včetně zakladatele Google DeepMind žádají OSN, aby projednala zákaz armádních robotů s umělou inteligencí. Dle Muska jde o hodně nebezpečnou "Pandořinu" skřínku. Anketa: Měla by být AI zakázána?
Měla by být AI ve vojenské technice zakázána?
V anketě šlo hlasovat od 21.8.2017 do 28.8.2017. Počet hlasujících: 32
určitě ano91 %
spíše ano3 %
spíše ne0 %
určitě ne6 %
Už před dvěma lety Elon Musk se Stephenem Hawkingem a dalšími osobnostmi varovali svět před armádními roboty vybavenými systémem umělé inteligence. Nyní se opět vyjádřil na toto téma, když spolu s dalšími 115 specialisty z prostředí robotiky a umělé inteligence z 26 různých zemí (mimo jiné s Mustafou Suleymanem, zakladatelem Google DeepMind) zveřejnil další otevřený dopis, kde žádají celosvětovou dohodu se zákazem vývoje a používání autonomně řízených armádních robotů. Dopis byl prezentován na konferenci International Joint Conference on Artificial Intelligence (IJCAI), která měla předcházet jednání OSN na toto téma.
Robot Multi-Utility Tactical Transport (zdroj: marines.mil, public domain)
Aćkoli tato diskuze měla v OSN proběhnout, byla přesunuta až na listopad. Skupina varuje OSN, že autonomní vojáci nebo jiní roboti mohou po střelném prachu a nukleárních zbraních vytvořit třetí obrovský přelom v armádní technice. Pokud se tato "Pandořina" skřínka plně otevře, bude ji patrně velmi těžké, ne-li nemožné, znovu zavřít. Případné vojenské konflikty mohou být mnohem ničivější, než na co jsme zvyklí. Nabízí se také tradiční odkaz na klasického Terminátora s Arnoldem Schwarzeneggerem a umělou inteligencí Skynet.
Autor: Barricade24 (Flickr.com, public domain)
Nikdy není zaručeno, co umělé inteligenci přelítne přes nos a co se sama "naučí". Ostatně i s pouhými chatovacími roboty byly v minulosti nemalé problémy. Ten od Microsoftu se během jednoho dne stal rasistou, roboti od Facebooku si dokonce sami vyvinuli šifrovací jazyk, načež je Facebook raději vypnul. Zatímco "dokonalá" umělá inteligence je stále ještě poněkud vzdálená budoucnost, autonomní zbraně jsou už dávno vyvíjeny a skupina žádá okamžitou akci, než bude pozdě. Např. USA zvyšuje výdaje na vývoj autonomních vojenských prostředků.
V dopise tedy chtějí autoři zařadit systémy vojenské umělé inteligence po boku jiných zbraní, které byly zakázány Úmluvou o některých konvenčních zbraních (CCW), která vstoupila v platnost v roce 1983 a po různých dodatcích obsahuje např. miny, chemické nebo oslepující laserové zbraně. A co vy, myslíte, že by měla být vojenská umělá inteligence zakázána?
