Musk, Wozniak a další chtějí 6měsíční pauzu ve vývoji nástupců GPT-4

Překotného vývoje systémů umělé inteligence se bojí spousta lidí a mezi nimi je i Steve Wozniak nebo Elon Musk. Ten se vůči umělé inteligenci už několikrát kriticky vyjádřil a nyní tu máme další takový krok. Připojil se k otevřenému dopisu od Future of Life Institute, který vyzývá k pozastavení vývoje systémů generativní AI, která by byla výkonnější než nejnovější systém GPT-4. Tato pauza by měla trvat alespoň 6 měsíců. Otevřený dopis dokonce reaguje na samotnou výzvu společnosti OpenAI, která řekla, že v určitém bodě bude nutné zajistit nezávislé posouzení stavu AI dříve, než se začnou vyvíjet další systémy. Tehdy by se měla stanovit rychlost dalšího pokroku pro vývoj nových modelů.

 

 

A v tomto dopise se říká, že takový bod právě nastal. Podle něj bychom se nyní měli zastavit a popřemýšlet, zda chceme opravdu automatizovat většinu zaměstnání včetně těch, které člověka naplňují. Máme vytvářet "nelidské mysli", které nás početně překonají, budou chytřejší a udělají nás "zastaralými" a nahradí nás? Máme ztratit kontrolu nad naší civilizací? Podle dopisu by se AI laboratoře i experti měli dát dohromady a v této alespoň půlroční pauze vytvořit soubor protokolů, které by se měly dodržovat. To neznamená, že se vývoj AI má zastavit, jen by se mělo zamezit nekontrolovanému zběsilému vývoji, kdy samotní tvůrci neví, jak jejich systém vlastně pořádně fungují. Dopis má v době psaní těchto řádků 1124 signatářů.

 

Zdroj: futureoflife.org, bbc.com