Víkendová diskuze: Bojíte se umělé inteligence?

[Karel Polívka]

Je před námi konec týdne, proto Vás tímto zveme na naši víkendovou diskuzi s tématem:

Bojíte se umělé inteligence?

Vývoj v tomto směru je něčím, co bychom měli vítat s otevřenou náručí, nebo naopak něco, k čemu bychom měli všichni přistupovat s velkou opatrností a jasně si stanovit nějakou mez, nad kterou se nesmí jít? Ať už je Váš postoj jakýkoli - vyjádřete jej, zapojte se s ostatními do diskuze!

Do diskuze se mohou zapojit i neregistrovaní uživatelé. Pro napsání příspěvku stačí stisknout tlačítko "Odpověď", které se nachází u levého okraje této stránky (nad a pod výpisem jednotlivých příspěvků).

[Zoidik]

Osbně bych stanovil nějaké hranice přes které by se nemělo překročit. Je to blbé přirovnání, ale rozhodně bych nechtěl abych se já něbo nějací moji potomci dožili toho co bylo ve filmu Já robot

[Nemonic]

OT:
Zoidik: Nebo Terminator ? Zda se me, ze i PC budou v budoucnu zdrojem sebezahuby

[P@pi]

Ano bojím :-). Myslím, že díla jako kniha Já, robot či filmy Animatrix a Matrix naprosto přesně ukazují problém lisdké civilizace.

Jak by jiná, nám nepodobná, především pak inteligence postavená na křemíku a nikoliv na uhlíku, jak jí známe dnes, reagovala na lidskou civilizaci? Podle mého názoru lidé mají dost problémů sami se sebou, další evoluční konkurent by těm problémům moc nepomohl. Záleží jak by taková inteligence vypadala.

Zda jako pes, který má také určitou inteligenci a jsou oblasti, ve kterých předčí člověka. Přesto se v potravním řetězci dopředu nijak moc nerve.

Nebo jako lepší verze člověka. V tom případě bych byl nerad, abysme skončili v potravním řetězci pod tímto evolučním stupínkem ;-).

Druhá věc je, že nevím čím by nám mohla umělá inteligence prospět. Opravdu ne. Jako inteligentní vojáci? Nevím jak dlouho by to vydrželi. Jako ideální životní partneři či SexBoti? No to snad ne :-)). Jako výzkumníci? K čemu? Pokud nečemu nerozumím, tak to nepoužívám. K čemu mi bude, že za mne vymyslí nějaká AI umělou realitu, když jí nikdo nebude rozumět? Oni ji vymyslí za tři roky, lidstvu by to trvalo tři sta let, ale chápali bysme jí. Měli bysme nad ní kontrolu. Pokud něčemu nerozumíme, tak jsme zranitelní. No řekněme nějakou určitou inteligenci bysme mohli vidět v místech, kde je potřeba minimalizovat problém lidského faktoru -> velíny jaderných elektráren, ale zase na druhou stranu... chybami se člověk učí. Přestali bysme se učit jenom proto, že AI nebude dělat chyby?

Hodně lidí výhodu v tom, že by AI mohla rozhodovat a pracovat za nás. No nevím, ale radši budu myslet sám než nějaký program, ať už má IQ jakékoliv. Viz právě Já, robot a záchrana z potápějícího auta... No a aby robot pracoval za mne? Ano klidně, ale ať nemá inteligenci. Proč by měl mít automat na výrobu aut inteligenci.

No ale nemají už dnes počítače inteligenci? Ghost in the machine? Co takhle šum, který vytváří v každém procesoru individualitu? Je to jenom prostě defekt nebo byl počátek naší civilizace jenom náhodný šum?

[Neregistrovaný]

No nevim ja se toho nebojim, zatim neni AI na urovni aby dokazala sama o sobe premyslet proste to neni zivi nevim jak bych to popsal ale snad me chapete a takovy ti roboti atp tak zatim je vsechno dnes naskriptovany ze v te situaci udela to a toto zatim proste neexistuje AI ktera by mela racionalni uvazovani bez toho aby ji nekdo naprogramoval a i tak je to hoodne omezeny proste to umi jen to co zna a to je ono - az to takhle nebude a AI bude umet premyslet a uvedomovat si svoji vlastni existenci tak nastane pruser jenze to bude za hooodne dlouho jestli vubec nekdy spis bych se bal toho ze se lidi vyhubi za par let sami .)

[Grimlok]

Časem mezi námi budou určitě chodit roboti, otázkou je jenom, jestli jim dokážeme zabránit ve vzpouře. Já bych si troufnul říct, že nejdříve budou roboti určeni jako náhrada vojáků, až postupem času se z nich stanou např. pomocníci v domácnosti. Doufejme, že nedopadneme jako v Matrixu, i když co když už v jakémsi Matrixu žijeme a jenom si to nepřipouštíme???

[Podivná Houba]

Rozhodně by strategické zdroje neměli nikdy řídit plně inteligentní stroje.Rozvinout jejich potenciál bych dovolil pouze ve výzkumných projektech.

[Petr S.]

Taky se toho docela obávám - ono se stačí podívat co už dneska roboti dokáží (nedávno jsem viděl reportáž z nějaké výstavy robotů v Japonsku či co to bylo) a docela mi to přišlo alarmující... Kde to za několik let skončí? A jak vlastně?

[srnka0]

podle mne to raz prijde, prijde ta vec ala Ja, robot... A.I.... netreba sa pytat ci sa to vobec stane, ale kedy.
clovek je nepoucitelny a tym ze filmari natocia filmy s touto tematikou nepresvedcia ostatnych aby sa takemu snazili vyhnut. Bojim sa umelej inteligencie? ano bojim, ale skor toho co len bude, teraz sa nemam coho bat, vyvoj v tejto sfere je este daleko zatial...

raz budeme zavisli od strojov a AI, ale dufam ze je k tomu daleko este

[stromojed]

Nerad vam berem ten entuziazmus pri vytvarani predstav ako sa vzburia mikrovlnne rury a urobia z nas zdroj energie ako v matrixe napriek tomu ze existuju dleko efektivnejsie sposoby. UI je teoreticky pojem ktory je na mile vzdialeny predstave inteligencie podobnej ludskej. Nema to nic spolocne s vytvorenim umelej bytosti ani nic podobnym. Zatial sme sa nedostali ani k tomu aby "pocitac" dokazal rozhodnut ci je na obrazku macka alebo pes, rozoznavanie ludskej reci je, orientacia v priestore a pod. to su problemy ktore sa riesia a to peknych par desatroci a bez valnych uspechov.

[Boguš]

Nazdar ....

Ono, nejdříve si myslím, by se mělo vymezit, co to vlastně umělá inteligence, je.

Někdo, si před tím představí stroj, který vypadá a pohybuje se jako člověk. Někdo sofistikovaný software, který vypadá jako inteligentní.

Pokud bych to vzal z toho konce, že "učení" je jistý projev inteligence, tak pak můžu říci, že umělá inteligence existuje již dnes.

Ono, problém je v tom, že to spíše jen nám se jeví, že je stroj v daných podmínkách chová inteligentně. Vezmu to od lesa. Třeba google.com. Nemusíte zadat, to co hledáte přesně doslova, můžete to zadat i s chybou a přesto vám strejda vyhledá co jste chtěli. Na první pohled, by se dalo říci, že není hloupý. Faktcky je to však jinak. Teď nachvíli opustím rovinu toho, že google si třeba může pamatovat, co jste hledali předtím, cimž si vytvoří jisty váš profil, který ovlivňuje hledání. Jde o to, že vyhledávač nepracuje na principu IF "vložený text" ... kdy jen jednoduše porovná text přesně tak jak jste ho vložili, ale porovná jej s databází kde si najde i jiné pády tohoto slova, prostě nejprve zpracuje váš vložený text podle nějaký pravidel. A hle najde mi to svethardware.cz ikdyž jsem napsal svethardvare, což by nějaký "hloupý" vyhledávač nenašel. Proč to píšu.

To nám se jeví, že vyhledávač je nějakým způsobem inteligentní a do jisté míry to bude pravda, ale ve skutečnosti je to jen porostě místo jednoduché podmínky "Najdi vložený text" se vložený text zpracuje podle jazykových zvyklostí daného jazyka (pro přiklad). Čili se pro vyhledání použije složitější proces. Nic víc.

A podobné to je skoro všude. Software pro rozpoznávání písma, řízení procesů. Ano, umí se učit. Ale je to však jen jistá matematicko-logická fukce, která toto zajišťuje. Prostě stroj.

Jsou třeba roboti, kteří umí vytvářet umělecká díla můžeme říci. Avšak, pokud by to nebyly důmyslné algorytmy někým napsané, robot by si ani neškrtl.

Ono, umělá inteligence je v podstatě dobrý výstižný název. Je totiž umělá. Tak jako margarýn, je umělé máslo. Chutná sice jako máslo, vypadá jako máslo, ale máslo to není .....

Tzn, na téma tak jak bylo nastaveno odpovídám, že umělé inteligence se jako takové nebojím, spíše se bojím těch kteří si je nechávají vytvářet. Stroj má svůj program. Je mu úplně jedno jestli výsledek jeho programu vám připraví kafe nebo odpalí bombu .....

Vzpoura stojů, pokud na to nebudou naprogramováni si myslím nehrozí. A nebo, ono teoreticky to možná snad možné je, ale aby stroje-programy něco vymysleli se myslím nikdy nestane. Vychází to ze samotného principu. Museli by na to být naprogramováni. Tzn, naprogramujte něco co vlastně ani nevíte naco a ještě aby to fungovalo ..... Jde o to, že všechny systémy se vždy programují na dané podmíky, ve který by to mělo fungovat. A už jen to je kolikrát velmi náročné ......

Pak je tu ještě otázka mechaniky, jak už někdo zmíňil. Ono, člověk je v podstatě robot. Ano, naše tělo je stroj. Jenže jeho stavební části, ty cihličky se kterých jsme složeni jsou samotné atomy. Tzn. stroj jehož nejmenší "mechanické" části jsou atomy ..... to je dost psycho. Tzn, mám za to že nic lepšího než jsme my v našem vesmíru, v našem světě tak jak ho známe, nejde sestrojit ......... takže asi tak ......

Vždy to budou jen stroje co dělají to co mají naprogramováno. Mohou se nám sice zdát že jsou inteligentní, avšak to je jen naše zdání ........

[Neregistrovaný]

Nebojím umělých inteligencí jako takových. Bojím se lidí, kteří taková UI vytváří. To oni - programátoři - promítají své životní hodnoty, postoje, myšlenky,... do dané UI a podle toho se pak daná UI chová.

Myslím, že Asimov své první tři zákony definoval velmi dobře. Jen později přidaný nultý zákon je doplňkem, který je hoden obav.

Nechápu jak někomu může vadit, že záchranář zachrání alespoň jednoho člověka, když už nemůže oba. Viz film Já Robot. Jestli si někdo myslí, že lidští záchranáři postupují jinak, pak se mýlí.

Nakonec bych dodal, že UI na takové úrovni, která by mohla byť jen vzdáleně ohrozit pozici člověka na vrcholu potravního řetězce je skutečně ještě sci-fi a děti našich dětí se jí nemusí obávat.

[P@pi]

...

Tady někdo mluví o příštích sto letech? Já teda ne . Jestli jste to pochopili, že to vyjádření pro dalších 100 let, tak na to zapomeňte :-)).

Nemyslím si, že by se naše vize objevili v cca příštích 500 letech. Takovej skromnej odhad, i když... kdo ví ;-).

[Boguš]

Nebojím umělých inteligencí jako takových. Bojím se lidí, kteří taková UI vytváří. To oni - programátoři - promítají své životní hodnoty, postoje, myšlenky,... do dané UI a podle toho se pak daná UI chová.

Přečti si můj příspěvek ještě jednou ... já jsem nenpsal, že se bojím těch kdo ji vytvařejí, ale těch pro koho je vyvářena .... přečti si to ...

Tzn, programy-stroje jsou prostě dělaj to co se jim řekne. Otázkou je, co se jim řekne ......

[Karel Polívka]

Když už se rozvíjí diskuze v duchu umělého života, taky se na něj zaměřím.

No nevim ja se toho nebojim, zatim neni AI na urovni aby dokazala sama o sobe premyslet proste to neni zivi nevim jak bych to popsal ale snad me chapete a takovy ti roboti atp tak zatim je vsechno dnes naskriptovany ze v te situaci udela to a toto zatim proste neexistuje AI ktera by mela racionalni uvazovani bez toho aby ji nekdo naprogramoval a i tak je to hoodne omezeny proste to umi jen to co zna a to je ono - az to takhle nebude a AI bude umet premyslet a uvedomovat si svoji vlastni existenci tak nastane pruser jenze to bude za hooodne dlouho jestli vubec nekdy spis bych se bal toho ze se lidi vyhubi za par let sami .)

To, že je něco "živé", ještě neznamená, že si to uvědomuje samo sebe (viz rostliny, zvířata) a tedy že by to mohlo být pro nás nějakou existenční hrozbou (nebo morálním problémem - z pohledu našeho přístupu k "tomu"). Tohle škatulkování, že co se nevyvinulo vlastním procesem evoluce, není živé a tedy nemá potenciál rozvoje, neuznávám. Nejsem si vědom toho, že je možné zcela vyloučit, že v našem vlastním vývoji nehrál roli nějaký zásah/podnět odjinud.

Z hlediska principu vnímání existence/individuality - pokud lidská civilizace vytvoří umělý organismus, který bude soběstačný, bude si uvědomovat sám sebe, bude mít schopnost se učit, proč bychom jej měli vnímat pouze jako nějaký podřadný umělý organismus (ve svém pravém slova smyslu)? Jenom proto, že se nebude reprodukovat/opravovat vlastním dělením buněk (i když v budoucnosti - kdo ví), tak bude něco podřadného vůči nám samotným? Ano, ale nebude to hlavně proto, protože jsme to my, kdo si zde ve vlastní společnosti definuje lidské morální zásady, obecné pravdy, zkrátka vnímání skutečností a souvislostí? Člověk snad z hlediska své koncepce nefunguje jako stroj? Naše tělo je sestaveno z jednotlivých orgánů plnících svou funkci, jež se vyvíjely postupem času přirozenou cestou (minimálně v drtivé většině případů, zdravím Foxe Muldera :-)) a to tak, aby v našem prostředí s ohledem na naši aktivitu náš organismus lépe/efektivněji/déle fungoval, leč stále se mohou relativně snadno "porouchat", což má posléze vliv na celý systém (lidský organismus), což může vést k jeho postupné degradaci nebo i celkové ztrátě funkčnosti. U umělého organismu by to bylo jinak?

Principem by to bylo stejné, nicméně vývoj jednotlivých orgánů (součástek, chcete-li) bychom měli na vlastních bedrech namísto přirozené evoluce, jako tomu bylo a stále je u nás. Rozdíl by zde byl v tom, že tomu svému vlastnímu organismu stále pořádně nerozumíme, nejsme schopni jej opravovat tak, jak by bylo zapotřebí - plno věcí je stále nad naše chápání (zejména ohledně funkčnosti a schopností našeho mozku). U umělého námi vytvořeného umělého organismu bychom měli s největší pravděpodobností plnou kontrolu nad principy jeho fungování (minimálně na svém počátku) - tato možnost "vyšší inteligence", na kterou by bylo možné se obrátit v případě nějakých funkčních problémů, v případě lidí není, což je svým způsobem škoda, protože stále musíme objevovat sami sebe, což stojí čas (na druhou stranu nad námi díky tomu jiná forma inteligence není, tedy aspoň se o ní neví, díky čemuž máme zaručená "sedadla v první řadě", což má taky své výhody).

Kromě toho - obecně se bazíruje na našem životním cyklu a všem, co k němu patří (od bodu nula do samotného konce), jako na něčem, co je pro nás lidi definicí života, který jsme schopni nikoli pochopit, ale přijmout jako jedinou možnost toho, co může mít za následek rozvoj vlastní civilizace. Je to ale skutečně jediná možnost? Osobně to považuji za jakousi "obecnou pravdu", kterou chceme brát v potaz, protože se bojíme toho, že by to mohlo být jinak (jinými slovy ji v globálním měřítku potřebujeme). Nechci se teď odkazovat na nějaké sci-fi scénáře, ale nejsem ochoten přijmout podobu naší civilizace jako jedinou možnou, protože podle mého zase tak dobře nefunguje - nicméně problém je ten, že na této planetě není nikdo/nic, co by mělo definici pro to, jak by měla civilizace správně (záměrně nepoužívám termín "život") vypadat/fungovat. Jsem jenom jedinec, který je pouze ochoten přijmout neznámé a ne před tím slepě uhýbat jen proto, že se jedná o něco nad rámec našeho chápání/představivosti. Skutečně si nedovedu představit, jak by zde společně s námi měla být jiná forma umělého života schopná vlastního vědomí, když se nedovedeme postarat ani o tu vlastní. Problém je ale v tom, že ona pomyslná jiskra umělé inteligence/vědomí (v takové podobě, aby měla schopnost se učit a posléze si uvědomit sama sebe) nemusí být zase tak daleko, jak si mnozí myslí - podle mně je to totiž spíše otázka náhody, než promyšleného konceptu/plánu - nebylo to tak náhodou třeba i v našem případě? Jako největší problém tedy vnímám to, že se pokoušíme o něco, na co nejsme připraveni.