Blíží se volby, Facebook začne omezovat některá deepfake videa
8.1.2020, Milan Šurkala, aktualita
Facebooku se často vytýká to, že na stránkách nechává obsah, který může manipulovat veřejným míněním. Proto se s blížícími se prezidentskými volbami v USA rozhodl, že bude aktivněji bojovat proti falešným deepfake klipům.
Deepfake videa jsou rostoucím problémem moderní doby. Technologie jsou už natolik pokročilé, že lze stále snáze vytvářet falešný obsah, ve kterém vlivným osobnostem tvůrci např. vkládají do úst něco, co nikdy neřekli. Toho se dá zneužívat k nejrůznější propagandě, útokům na konkurenci a podobně. Blížící se prezidentské volby v USA ukážou, jak moc vážný problém to může být. Ostatně falešný obsah pomohl ovlivnit výsledky voleb v nejedné zemi. Tvrdí se, že Facebook takto pomohl díky společnosti Cambridge Analytica vyhrát volby Donaldu Trumpovi už minule a stejná společnost měla figurovat i v posledních českých prezidentských volbách. Facebook se tak nyní rozhodl, že letos už nenechá všechno napospas a bude aktivněji bojovat proti falešnému obsahu omezováním nebo i mazáním deepfake videí.
Deepfake video je takové, které je uměle vytvořené pomocí AI na základě jiného obsahu s danou osobou. Lze tak vytvořit video, které se tváří velmi reálně a může dané osobě vložit do úst něco, co by nikdy neřekla, nebo zobrazit něco, co nikdy neudělala, přičemž mnoho lidí ani nemusí být schopno odhalit lež. Naposledy před tím varovala BBC, která takto vytvořila falešné video s britskými politiky. Facebook bude taková videa omezovat, ale ne ve všech případech. Musí být totiž splněna jedna ze dvou podmínek.
- Video je upraveno nebo složeno nad rámec toho, co je nutné např. k zlepšení přesnosti sdělení nebo vylepšení kvality. Pokud by průměrný člověk nebyl schopen odhalit podvrh, že daná osoba ve skutečnosti neřekla to, co na videu měla říci, mělo by být označeno jako podvrh.
- Jde o produkt umělé inteligence, která skládá, nahrazuje nebo vrství obsah tak, aby výsledek vypadal autenticky.
Stále to tak znamená, že bude nadále povolena parodie a satira. Videa budou kontrolovat partneři Facebooku, kterých je více než 50 a pracují ve zhruba 40 různých jazycích. Video, které bude označené jako falešné, se má mnohem méně zobrazovat v News Feed. Pokud jej někdo bude chtít sdílet, bude informován, že nejde o pravé video, ale o podvrh. Facebook mimo jiné v loňském září dal 10 mil. USD do Deep Fake Detection Challenge, kde podpořil vývoj softwaru, který by měl být schopen odhalovat falešný obsah.
