Další průšvih AI, počítač IBM Watson špatně léčil rakovinu

Superpočítač IBM Watson sice už napsal svou kuchařku a údajně pozná citové podbarvení textu, jako doktor se ale moc nevyznamenal. V roce 2012 jej doktoři z Memorial Sloan Kettering Cancer Center natrénovali, aby pomáhal doktorům v léčbě rakoviny, konkrétně diagnóze a určení vhodných léků. Jak ale ukázaly interní dokumenty IBM z léta 2017, tento systém měl daleko k ideálnímu a občas ordinoval nevhodnou, ba i nebezpečnou léčbu, která mohla pacientovi ještě přitížit.

 

 

Jeden z doktorů v Jupiter Hospital na Floridě k hodnocení systému použil hodně sprostá slova, která zde nebudeme raději opakovat. Tvrdil, že systém zakoupili kvůli marketingu, jenže v mnoha případech je jednoduše nepoužitelný. Jedním z případů byl např. 65letý muž s rakovinou plic a vážným krvácením. Umělá inteligence mu navrhla nejen chemoterapii, ale také lék, který může vést ke krvácení, a to by se tak ještě zhoršilo. Naštěstí zde mělo jít jen o testovací případ a reálný pacient tuto umělou inteligencí navrženou léčbu nepodstoupil.

 

Problémem je, že trénování probíhalo na umělých datech a nikoli reálných. Výsledkem tak bylo, že se naučil na názorech několika doktorů, které ale nemusí dostatečně reprezentovat skutečný život. Dle IBM umí systém léčit 13 druhů rakovin, je používán ve 230 nemocnicích a "jeho názor" už pomáhal při léčbě 84 tisíc pacientů.

 

Zdroj: gizmodo.com, theregister.co.uk, theverge.com