Intel FakeCatcher detekuje deepfake videa na základě průtoku krve v obličeji

S vývojem systémů umělé inteligence se pojí i mnoho rizik. Jedním z nich jsou tzv. deepfakes, která využívají tyto systémy k vytváření umělých videí (nebo jiného audio či vizuálního obsahu), kterými lze mystifikovat nejen veřejnost. Vytvářet je možné umělé situace, které se nikdy nestaly, vytvořit "důkazy", že nějaká osoba udělala nebo řekla něco, co neudělala a neřekla. Proti deepfakes má bojovat nový systém Intel FakeCatcher. Ten využívá systém OpenVino pro běh AI modelů, přičemž optimalizaci měly na starosti Intel Integrated Performance Primitives. Intel využil standardních grafických knihoven OpenCV a další optimalizaci pomocí Deep Learning Boost a Advanced Vector Extensions 512. Celý systém může běžet na serverech s webovým rozhraním a procesory Intel Xeon Scalable 3. generace dokážou zpracovat 72 různých video streamů najednou.

 

 

Jak to ale funguje? Celé je to založené na myšlence toho, že když srdce pumpuje krev do krevního oběhu, žíly lehce mění barvu a systém má tyto mírné změny detekovat na základě nesrovnalostí průběhu těchto změn v místě a času. Podle Intelu je systém schopný detekovat falešná videa s 96% úspěšností, což není špatné. Otázkou však zůstává, kdy se tento detail naopak dostane do systémů vytvářejících falešná videa a tento detektor se tak stane neúčinným. Další otázkou je, nakolik dobře to může fungovat na extrémně komprimovaných videí na sociálních sítích, nakolik to zkazí šum a odšumování u videa, příp. jiné softwarové zásahy.

 

Zdroj: gadgets360.com, intel.com