Google má 5 bezpečnostních pravidel pro vývoj umělé inteligence

Google má 5 bezpečnostních pravidel pro vývoj umělé inteligence
, , aktualita
V umělé inteligenci je sice velký potenciál pomoci lidstvu, ale zároveň i potenciál lidstvo zničit. Google proto přišel se základními pravidly, jak se bude jeho umělá inteligence chovat, aby nevznikaly problémy.
K oblíbeným
reklama
Tato pravidla sice přímo neříkají, že roboti nemají zničit lidstvo, ale z velké části k tomuto účelu směřují. Člověk by pravidla přitom mohl chápat jako slušné chování či morální pravidla.

Ve vývoji umělé inteligence tedy existuje základní seznam bezpečnostních pravidel, aby se předešlo problémům při nástupu robotických zařízení. Pravidla vznikla na základně spolupráce Google, OpenAI, Stanford University a University of California. Jedná se o dlouhodobé cíle, proto jsou pravidla zveřejněná již teď, i když ještě potrvá, než se roboti dostanou třeba jako pomocníci do domácností.

Vyhnutí se vedlejším efektům: toto pravidlo říká, že umělá inteligence nesmí dosahovat svých cílů tak, že přitom poškodí prostředí. Například úklidový robot nesmí shodit vázu, aby si ulehčil práci s utíráním prachu.

Vyhnutí se pomyšlení na systém odměn: pokud robot chápe práci jako hru, tedy dostane odměnu, pokud něco udělá, mohl by podvádět. V případě uklízejícího robota by se mohlo jednat třeba o zametení nepořádku pod neprůhledný materiál.





Škálovatelný dozor: jedná se o to, že robot musí sám vyhodnocovat, zdali se drží pokynů. Někdy totiž není možné stále kontrolovat robota, že dělá přesně to, co dělat má. Například pokud dostane odezvu (radu) od člověka, musí ji využít efektivně, a ne se stále ptát, zda pracuje dobře.

Bezpečné zkoušení nových věcí: roboti by měli být aspoň trošku zvídaví, ale neměli by sebe či někoho jiného vystavit nebezpečí. Například by bylo vítané, kdyby se uklízecí roboti snažili přijít na nejlepší způsob, jak použít mop, ale neměli by experimentovat se strkáním mokrého mopu do elektrické zásuvky.

Změna prostoru: roboti by měli rozpoznat, v jakém prostředí se nachází a přizpůsobit tomu chování. Musí se chovat jinak při testech v továrně, v domácnosti nebo třeba v kanceláři.

Pravidla jsou částečně určena i pro lepší přizpůsobení robotů ve společnosti. Chtějí se vyvarovat hlavně toho, že umělá inteligence si začne hledat vlastní cesty, jak myslet a jak se kontrolovat. Myslíte si, že tato pravidla pomohou začlenit roboty do běžné společnosti?

Zdroj: PhoneArena
reklama
Nejnovější články
PS5 byla otestována s běžným Samsungem 980 Pro vedle původního SSD PS5 byla otestována s běžným Samsungem 980 Pro vedle původního SSD
Sony minulý týden konečně zveřejnila dlouho očekávaný software, který uživatelům umožní využít běžně dostupná SSD pro rozšíření kapacity konzolí PlayStation 5. Prozatím jde o betaverzi, ale už tu máme slibné výsledky. 
Včera, aktualita, Jan Vítek2 komentáře
Australskou megabaterii Tesly a Neoenu zachvátil požár, hasili ji 3 dny Australskou megabaterii Tesly a Neoenu zachvátil požár, hasili ji 3 dny
Nová megabaterie Victoria Big Battery v Austrálii koncem minulého týdne zachvátil požár. Jde o jedno z největších akumulátorových úložišť na světě, které zde pomáhá vykrývat špičky a řešit zásahy FCAS.
Včera, aktualita, Milan Šurkala4 komentáře
AMD s Valve vyvíjí lepší linuxové ovladače pro konzole Steam Deck AMD s Valve vyvíjí lepší linuxové ovladače pro konzole Steam Deck
AMD nebylo nikdy úspěšnějším výrobcem konzolového hardwaru, než je dnes. Za to aktuálně platí uživatelé PC, kteří nemají k dispozici tolik hardwaru od AMD, kolik by si mohli přát, ale s tím se nedá nic dělat. 
Včera, aktualita, Jan Vítek
Ceny pamětí GDDR: jak je ovlivňuje Ethereum a výprodeje grafik? Ceny pamětí GDDR: jak je ovlivňuje Ethereum a výprodeje grafik?
Těžba Etherea dnes už pro mnohé není výdělečný podnik kvůli nepříznivému mixu nákladů na energie, výši odměn a hodnoty samotného Etherea. To má svůj vliv i na cenu pamětí GDDR5 či především GDDR6 na trhu. 
Včera, aktualita, Jan Vítek3 komentáře
CATL uvede na trh sodíkové akumulátory s vyšší odolností vůči chladu CATL uvede na trh sodíkové akumulátory s vyšší odolností vůči chladu
Společnost CATL dosáhla dalšího významného milníku. Sodíkové akumulátory se jí podařilo vyvinout do takové podoby, že by se už brzy měly dostat na trh. Zajímavé mají být např. vyšší odolností vůči chladu.
Včera, aktualita, Milan Šurkala3 komentáře