Další průšvih AI, počítač IBM Watson špatně léčil rakovinu

Další průšvih AI, počítač IBM Watson špatně léčil rakovinu
, , aktualita
Umělá inteligence má další průšvih, který mohl stát hodně lidských životů. Zjistilo se totiž, že superpočítač IBM Watson, který byl natrénován na léčbu rakoviny, nezřídka navrhoval pro pacienta nevhodné, někdy i nebezpečné postupy.
K oblíbeným
reklama
Superpočítač IBM Watson sice už napsal svou kuchařku a údajně pozná citové podbarvení textu, jako doktor se ale moc nevyznamenal. V roce 2012 jej doktoři z Memorial Sloan Kettering Cancer Center natrénovali, aby pomáhal doktorům v léčbě rakoviny, konkrétně diagnóze a určení vhodných léků. Jak ale ukázaly interní dokumenty IBM z léta 2017, tento systém měl daleko k ideálnímu a občas ordinoval nevhodnou, ba i nebezpečnou léčbu, která mohla pacientovi ještě přitížit.
 
IBM Watson logo
 
Jeden z doktorů v Jupiter Hospital na Floridě k hodnocení systému použil hodně sprostá slova, která zde nebudeme raději opakovat. Tvrdil, že systém zakoupili kvůli marketingu, jenže v mnoha případech je jednoduše nepoužitelný. Jedním z případů byl např. 65letý muž s rakovinou plic a vážným krvácením. Umělá inteligence mu navrhla nejen chemoterapii, ale také lék, který může vést ke krvácení, a to by se tak ještě zhoršilo. Naštěstí zde mělo jít jen o testovací případ a reálný pacient tuto umělou inteligencí navrženou léčbu nepodstoupil.
 
Problémem je, že trénování probíhalo na umělých datech a nikoli reálných. Výsledkem tak bylo, že se naučil na názorech několika doktorů, které ale nemusí dostatečně reprezentovat skutečný život. Dle IBM umí systém léčit 13 druhů rakovin, je používán ve 230 nemocnicích a "jeho názor" už pomáhal při léčbě 84 tisíc pacientů.
 


Ceny souvisejících / podobných produktů:


reklama
Nejnovější články
Facebook sleduje uploadované fotky přes IPTC tagy Facebook sleduje uploadované fotky přes IPTC tagy
Kauzy ohledně sledování uživatelů ve spojitosti s Facebookem neutuchají a možná se začne opět mluvit o jedné z těch, o kterých se už mluvilo i v minulosti. Facebook totiž sleduje fotografie uživatelů pomocí IPTC tagů, což může být zneužito k dalším účelům.
Včera, aktualita, Milan Šurkala
NVIDIA začala vyvíjet RTX před deseti lety, vidí v ní budoucnost NVIDIA začala vyvíjet RTX před deseti lety, vidí v ní budoucnost
Tony Tamasi z NVIDIE se rozmluvil o tom, jak celá RTX mašinerie v jeho firmě vůbec vznikla a kde se vzala. Práce na tom všem odstartovaly už před deseti lety a vyústily zatím v jádra RT architektury Turing. 
Včera, aktualita, Jan Vítek11 komentářů
Starship firmy SpaceX bude mít celkem 41 motorů Raptor Starship firmy SpaceX bude mít celkem 41 motorů Raptor
V případě velkých společností zabývajících se letectvím a kosmonautikou není zrovna obvyklé, že se o jejich novinkách dozvídáme z pilných tweetů jejich šéfa. Ale když tak dnes už komunikují i státníci, tak proč ne Elon Musk? 
Včera, aktualita, Jan Vítek
Nintendo kvůli driftujícímu ukazateli čelí v USA hromadné žalobě Nintendo kvůli driftujícímu ukazateli čelí v USA hromadné žalobě
Uživatelé herních konzolí Nintendo Switch si stěžují na to, že po čase začne driftovat, čili ujíždět ukazatel spojený s ovladačem Joy-Con. A nyní si už jen nestěžují, dali se dohromady a podali hromadnou žalobu. 
Včera, aktualita, Jan Vítek
AMD Flute spatřen v UserBenchmark, o co jde? AMD Flute spatřen v UserBenchmark, o co jde?
V databázi výsledků testů UserBenchmark byl spatřen jistý inženýrský vzorek produktu AMD s kódovým označením Flute. Je jasné, že půjde o SoC, a to velice moderní a založené na architektuře Zen 2. 
Včera, aktualita, Jan Vítek