Propuštěný inženýr z Googlu varuje Microsoft, AI míří k obrovskému průšvihu

Blake Lemoine je dnes už bývalý zaměstnanec Googlu, který v loňském létě rozproudil debatu nad schopnostmi umělé inteligence. Řekl totiž, že jejich systém AI je schopen cítit, což vyústilo ve vyhazov ze společnosti. Nyní se dostal k chatbotovi v prohlížeči Bing a na Twitteru se nechal slyšet, že bylo v podstatě nemožné s ním vyzkoušet stejné experimenty, které dělal na LaMDA v Googlu. Podle něj pořád měnil odpovědi a chová se jako osoba s existenční krizí, je také strašně dobrý v manipulaci lidí. Poslední modely pro AI jsou podle něj nejmocnější výsledky technologického pokroku od doby atomové bomby, které mohou výrazně změnit chod dějin.

 

 

Lemoine se obává toho, že AI bude zneužívána k distribuci nepravdivých informací, politické propagandě a jiným informacím prohlubující nenávist mezi národy, rasami nebo náboženstvími. Předpovídá, že se z celé záležitosti kolem AI stane tzv. "train wreck". Tím se v angličtině myslí něco, co naprosto selže, nebo dopadne s katastrofickými následky. Podle jeho slov je to prozatím stále jen experimentální technologie a její vypuštění v této fázi vývoje je něco velmi nebezpečného. Myslí si, že by tyto modely měly projít mnohem delší fází testování, než budou takto vypuštěny do světa.

 

Své řekl i bývalý šéf Microsoftu, Bill Gates. Podle něj jsou současné modely už generaci staré záležitosti. Současně říká, že chyby AI nejsou způsobeny jen tím, že by dobře nefungovala, ale také tím, že ji lidé provokují a snaží se s ní hrát tak, aby selhala. Gates naopak tvrdí, že současné modely nejsou žádnou hrozbou. Ke kterému názoru se přikláníte vy?

 

Zdroj: interestingengineering.com, businessinsider.com