Kamery v moderních automobilech (a zejména v interiéru) jsou hodně citlivým tématem ohledně soukromí. Člověk nikdy nemůže mít jistotu, kdy a kdo může přistupovat k těmto datům, ať jsou podmínky služeb ohledně zachování soukromí napsány sebekrásněji. Nyní se dost hovoří o kamerách ve vozech Tesla, které byly zdrojem mnoha zajímavých videoklipů, které bavili zaměstnance společnosti. Pojďme ale popořadě, ať si vše uvedeme do kontextu. Záznamy z kamer mezi zaměstnanci totiž nekolovaly jen tak, že by někdo hacknul kameru, nebo byly vozy špatně zabezpečené. Vše plyne ze způsobu, jakým je vyvíjen systém autopilota a Full Self Driving. Aby bylo možné vyvíjet autonomní vozy, je potřeba spousta vzorových dat, jenže někdo musí v obrazu označit, co tam vlastně je. A tady je zakopaný pes.
ilustrační foto, autor: CarlJohanSveningsson, CC BY-SA 4.0, přes Wikimedia Commons (ořez, úprava kontrastu)
Tesla k tomuto účelu využívala externího dodavatele, společnost Samasource. Ta zaměstnávala okolo 400 lidí v Keni, zejména ženy a mladistvé, kterým takto nabízela možnost práce a výdělku. Bohužel kvalita práce byla podle Tesly mizerná a v roce 2019 s firmou rozvázala spolupráci. Podle zaměstnanců Tesly nebyla spousta objektů označena, nebo byly označené špatně jako např. hydrant za chodce a podobně. Od roku 2019 si tak tento problém začala Tesla řešit svépomocí a tým čítal až 1000 lidí. Na tom není nic neobvyklého.
V rámci vývoje se např. zjistilo, že vozy Tesly mají problémy s garážemi, silnými stíny a některými objekty v nich (příkladem mohou být zahradní hadice). K vývoji (a nápravě problému) se tak logicky použily záběry z kamer vozů, aby se trénovaly na reálných podmínkách. K tomu uživatelé dávali předem souhlas, ten se měl ale týkat jen jedoucích vozů, ale nikoli stojících (podmínkou bylo i to, zda je nebo není na nabíječce, a právě zde mělo docházet k nesrovnalostem). Jeden z bývalých zaměstnanců Tesly tak říká, že díky systému pro označování objektů v obraze tak mohli vidět garáže lidí. Na jednom z videí tak byl i slavný Lotus Elise "Wet Nelli" z bondovky "Špion, který mě miloval". Majitelem vozu je samotný Elon Musk, který ho získal před 10 lety v aukci a dal za něj 968 tisíc USD.
Problém je v tom, že k označování dat se dostávají i takové obrazové záznamy, které by lidé jistě nechtěli, ať vidí někdo jiný, přestože předem k jejich sdílení dali souhlas. Kamery tak zachytily např. nahého muže u auta, sexuální hračky, různé intimní situace, poházené prádlo, ale např. i nehody. Zaměstnanci tak viděli např. i srážku vozu s dítětem na kole. Takovým situacím se ale dá předcházet docela složitě. Systém nabízí lidem obrazová data k označení objektů, aby na nich mohl být později trénován systém autopilota, ale problémem je, aby věděl, zda je daný snímek citlivým na to, aby byl označován člověkem nebo ne. A to je trochu komplikované a nemá to vlastně ani uspokojivé spolehlivé řešení. Nicméně Tesla se snaží i toto co nejvíce automatizovat a využívat natrénované AI, které označují objekty pro další systém AI.
Zajímavé situace se pak staly zdrojem zábavy mezi zaměstnanci, kteří z nich vytvářeli memes a předháněli se v tom, kdo bude mít vtipnější úlovek. Data sice byla do značné míry anonymizovaná a nebyla spojena s konkrétními vozy až na jeden velmi důležitý detail. Dalo se dostat k polohovým souřadnicím toho, kde bylo video pořízeno. A to je docela pěkný průšvih v oblasti zachování soukromí.
Doplněno 17:20: V pátek už kvůli problému automobilku zažaloval jeden uživatel z Kalifornie.
Zdroj: reuters.com
.jpg)
