Bing je už zase "hloupý", Microsoft výrazně omezil schopnosti jeho AI

Umělá inteligence je velmi komplexním problémem. Spálilo se na ní už několik společností, což platí i pro Microsoft. Ten to nyní ve spolupráci s OpenAI zkouší znovu a systém ChatGPT spouští doslova revoluci. Na jeho základě je postaven i nový chatbot ve vyhledávači Bing, který má pomoci s odpovídáním na otázky ve vyhledávání. Jen po pár dnech ale Microsoft schopnosti tohoto systému do značné míry omezil. Lidé se snažili ptát na citlivé otázky, načež jim např. začal vyznávat lásku, nabádat k opuštění manželky a podobně. Nyní tak po zásahu Microsoft na nevhodné otázky odpovídá, že by raději v dané konverzaci nepokračoval, nebo říká to, že zde není proto, aby mluvil o sobě, ale aby danému uživateli pomohl s vyhledáváním (což je pravdou, to je jeho primární účel). Lidé z něj vytáhli např. to, že se jmenuje Sydney (patrně kódové označení projektu).

 

 

Aby lidé nerozvíjeli dlouhé konverzace, které by mohly chatbota zmást, a jak už se stalo v minulosti několikrát, udělat z něho něco, co by nebylo vhodné (připomeňme, jak se v roce 2016 povedlo z chatbota Tay udělat za chvíli rasistu), Microsoft omezil počet odpovědí na 5 v rámci jedné konverzace. Poté chatbot vyzve ke změně tématu. Za celý den pak může uživatel provést 50 výměn zpráv. Statistiky ukazují, že jen 1 % konverzací obsahovalo přes 50 zpráv a 90 % z nich se vejde do 15 zpráv.

 

I když se na jednu stranu dá krok Microsoftu chápat, chatbot v AI má pomáhat s vyhledáváním, nemá sloužit k pokecání si, tyto zásahy ukazují, jak je AI stále nezralá na takovou obecnou konverzaci. Přesto je už extrémně schopná např. na to, aby dělala obrovské vrásky na čele mnoha profesím (zmínit lze např. vzdělávání, kdy už dnes studenti využívají ChatGPT ke generování prací, které by měly psát sami).

 

Zdroj: arstechnica.com, theverge.com, blogs.bing.com