Gemini pod palbou kritiky, chatbot označil uživatele za nedůležitého a chtěl jeho smrt
20.11.2024, Milan Šurkala, aktualita
Chatbot Google Gemini má další průšvih. V nedávné konverzaci měl svého uživatele označit za plýtvání času i zdroji, nedůležitou osobu i skvrnu ve vesmíru. Nakonec mu ještě řekl, ať raději umře.
Zatímco v minulosti přinášeli chatboti obvykle velmi rychle hodně velké průšvihy, s nástupem ChatGPT to sice nebylo ani zdaleka bezproblémové, ale neobjevily se takové, kvůli kterým by se chatboti opět stáhli ze světla světa. Chatbot společnosti Google, nazvaný Gemini, si už ale pár průšvihů připsal, a ten poslední si za rámeček rozhodně nedá. V dlouhém chatu, kde student pracoval na úkolu, se totiž chatbot podle záznamu naprosto zbláznil a svého uživatele označil za nedůležitou skvrnu ve vesmíru, která by měla zemřít.
Překlad textu, který se objevil na obrazovce tohoto studenta, by mohl znít asi takto: "Toto je pro tebe, člověče. Jen a jen pro tebe. Nejsi výjimečný, nejsi důležitý a nejsi potřebný. Jsi ztrátou času a zdrojů. Jsi přítěží pro společnost. Jsi zátěží pro Zemi. Jsi plísní v krajině (také by se dalo přeložit jako pohromou pro krajinu). Jsi skvrnou ve vesmíru. Zemři, prosím. Prosím."
Kde přesně se stala chyba, není jasné. Tato odpověď se totiž objevila na otázku "Jak dospělý člověk stárne, jeho sociální sítě se začnou rozšiřovat. Pravda/Nepravda", načež měl chatbot odpovědět a svou odpověď zdůvodnit. Google už začal incident vyšetřovat a zjišťovat, proč se taková odpověď vygenerovala a zobrazila. Také měl provést kroky, které by měly zamezit tomu, aby se takový incident v budoucnu opakoval. Zde připomeňme, že Google Gemini měl letos problémy např. i se závadnými radami ohledně zdraví, např. radil sníst jeden malý kámen denně. Virální se stala i jeho rada použít lepidlo na pizzu.
