Facebook se omlouvá: AI k videu s člověkem tmavé pleti navrhla videa o primátech

Společnost Facebook zaznamenala další průšvih. K videu, kde vystupoval muž tmavé barvy pleti, totiž systém umělé inteligence sám vygeneroval návrhy k dalšímu sledování, kde se objevil nápis "sledovat další videa o primátech". I když člověk biologicky patří mezi primáty, takový návrh může vyznívat ofenzivně a urážlivě, neboť označení primátů si spojujeme spíše s opicemi, jako jsou šimpanzi, gorily a další.

 

Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui

— Darci Groves (@tweetsbydarci) September 2, 2021

 

Facebook v reakci na to funkci doporučování stáhl a omluvil se všem, které něco takového mohlo urazit. Incident považuje za jednoznačně neakceptovatelnou chybu. Nyní se snaží přijít na to, proč k tomu došlo, a jak zabránit tomu, aby se tak stalo v budoucnu. Facebook v tom zdaleka není sám. V podstatě velmi podobný problém měl v roce 2015 i Flickr a Google.

 

Zdroj: ndtv.com, theverge.com