IBM končí se systémy rozpoznávání tváří kvůli rasovým problémům
9.6.2020, Milan Šurkala, aktualita
Případ George Floyda natolik otřásá USA, že se společnost IBM rozhodla, že už nebude nabízet své systémy zahrnující algoritmy pro rozpoznávání tváří. Chce navíc nastolit diskuzi, zda takové systémy vůbec mají být vyvíjeny.
USA je nyní hodně neklidnou zemí. Vedle koronavirové pandemie (už přes 2 miliony oficiálně potvrzených případů) tu nyní řádí i protesty, kterou zapříčinila policejní brutalita a smrt George Floyda. Ta také vyvolala další diskuze na téma rasových problémů. Do nich se vložila i společnost IBM. Ta řekla, že smrt lidí, jakými byli George Floyd, Ahmaud Arbery, Breonna Taylor a další, nám opět připomíná, že potřeba bojovat s rasismem je větší než kdykoli předtím. Vedle volání za větší zodpovědností policie za své činy ale hodlá změnit i své vlastní postoje. Konkrétně jde o systémy umělé inteligence rozpoznávající tváře. IBM se totiž rozhodlo, že tyto analytické aplikace přestane nabízet. Nechce je vidět v systémech bezpečnostních kamer a jiných, které odporují jejímu kodexu Principles of Trust and Transparency. Řekla tak v rámci svého otevřeného dopisu Kongresu.
Zároveň věří, že je teď ten pravý čas nastolit dialog, zde vůbec podobné aplikace mají být nasazovány u policejních a jiných bezpečnostních složek. IBM říká, že umělá inteligence je velmi účinným nástrojem, který sice pomáhá lidem žít bezpečněji, zároveň ale na vývojáře přenáší zodpovědnost za zkreslení, která mohou při její činnosti vzniknout. A ta už v minulosti mnohokrát vytvořila nejrůznější rasové předsudky. IBM místo toho chce více zatlačit na monitorování samotných policistů, nošení kamer a jiné technologie, které do celého systému přinesou více transparentnosti a zodpovědnosti.
