Umělou inteligenci Microsoftu změnil Twitter za jediný den v rasistu

Umělou inteligenci Microsoftu změnil Twitter za jediný den v rasistu
, , aktualita
Ani ne plných 24 hodin stačilo k tomu, aby Tay.ai, chatbot s umělou inteligencí, na Twitteru kompletně změnil své chování. Z mírumilovného robůtka, který hlásal lásku celému lidstvu, se tak stala mašina na nenávist.



reklama
Microsoft odhalil chatbota Tay teprve ve středu a ihned jej vypustil na Twitter jako součást experimentu. Microsoft uvedl, že Tay se bude sám učit z konverzací na Twitteru, což je i celý účel experimentu, ovšem cílem bylo, aby se Tay naučil (nebo spíše naučila) umění "nenucené a hravé komunikace". S touto premisou se tedy začalo a chatbot ji po nějakou dobu dokázal následovat, ale to mu nezůstalo dlouho.





Lidé v Microsoftu možná nemysleli na to, že Internet není plný přívětivých a laskavých lidí, kteří si budou chtít s Tay konverzačně zadovádět. Namísto toho to vzali jako příležitost k bombardování chatbota misogynními, racistickými a všeobecně urážlivými komentáři a Tay se učila. Ukázalo se tak, že spíše než chatbot s vlastní inteligencí je to papouškovací robot, který si snadno osvojí cizí myšlenky. Následující čtyři příspěvky ukazují, jak se Tay změnila z láskyplného chatbota v tweetující mašinu na nenávist, která celkově vyslala do světa 96.000 příspěvků.





Nicméně není divu, když stačilo Tay napsat "opakuj po mně" a dále jí vložit do úst libovolný tweet. Pak šlo ale i o naprosto "nevyprovokované" narážky. Například na otázku: "Je Ricky Gervais ateista?" Tay odpověděla: "Ricky Gervais se naučit totalismu od Adolfa Hitlera, vynálezce ateismu". Vedle toho se stal další populární osobností chatbota i Donald Trump.





Lze ale také říci, že Tay si postupně nevybudovala pevné názory na základě tweetů jiných lidí, ale často je měnila, jako třeba názory na feminismus, který je dle ní někdy rakovinou společnosti a jindy jej miluje. Microsoft na to všechno reagoval důkladným promazáním tweetů svého chatbota.

Není vůbec jasné, jak pokročilá je umělá inteligence stojící za Tay (lze uvažovat o tom, že má mnoho společného s Cortanou), ale experiment to byl jistě zajímavý a přinesl důležité otázky. Ty se týkají především toho, jak se má umělá inteligence sama učit z podnětů svého okolí, když je nemusí být schopna správně vyhodnocovat a kriticky k nim přistupovat. Microsoft se k celé záležitosti vyjádřil prostě. Dle něj jde jen o projekt strojového učení, a je tak pochopitelné, že některé věci, které se naučí, budou prostě nevhodné, stejně jako jsou nevhodné vstupní informace od komunikujících lidí. Slíbil ale, že na Tay zapracuje, což ale může znamenat pouze vytvoření seznamu zakázaných slov.

Zdroj: The Verge
Nejpopulárnější tablety
reklama
Nejnovější články
Co nabízí taktovací utilita od AMD pro CPU Ryzen? Co nabízí taktovací utilita od AMD pro CPU Ryzen?
Nedávno se na webu objevila zmínka o tom, že AMD chystá utilitu pro přetaktování procesorů Ryzen, ale tehdy ještě nebylo o čem informovat, neboť screenshoty nic zajímavého neukazovaly. Až nyní se můžeme konečně podívat na jeden ostrý.
Dnes,  aktualita, Jan Vítek
Video: UPS našlo efektivní způsob využití dronů k doručování zásilek Video: UPS našlo efektivní způsob využití dronů k doručování zásilek
O využití dronů k doručování zásilek mluví řada společností, ale jen málokterá jej zatím dokázala využít. Plán společnosti UPS oproti tomu působí mnohem realističtěji, počítá totiž s tím, že drony budou vypouštět sami řidiči dodávek.
Dnes,  aktualita, Jáchym Šlik
Asus představil kvarteto desek pro Ryzen, kolik stojí? Asus představil kvarteto desek pro Ryzen, kolik stojí?
Společnost Asus představila čtyři základní desky se socketem AM4, které tvoří jakýsi průřez chystaných modelů pro procesory AMD Ryzen. Máme tu ROG Crosshair VI Hero ATX, PRIME X370-PRO ATX, Prime B350-Plus ATX a Prime B350M-A MicroATX.
Dnes,  aktualita, Jan Vítek,  6 komentářů
Přetaktovaný Ryzen 7 1800X prý překonal rekord v Cinebench R15 Přetaktovaný Ryzen 7 1800X prý překonal rekord v Cinebench R15
AMD Ryzen 7 se již na Amazonu staly nejprodávanějšími procesory, ačkoliv je stále pouze v předprodeji, ale my se podíváme na to, jak se všemi osmi jádry na taktu 5,2 GHz měl pokořit rekord v Cinebench R15. Opravdu se tak stalo?
Dnes,  aktualita, Jan Vítek
NASA objevila sedm exoplanet podobných Zemi v jednom systému NASA objevila sedm exoplanet podobných Zemi v jednom systému
Astronomové dokázali různými způsoby najít již k pěti tisícům potvrzených i nepotvrzených exoplanet a nyní si k nim můžeme přidat dalších sedm. Ty jsou navíc jen 39 sv. let daleko, mají být do jisté míry podobné Zemi a některé se nachází v obyvatelné zóně.
Dnes,  aktualita, Jan Vítek,  4 komentáře