Víkendová diskuze: Bojíte se umělé inteligence?

[cucil]

Ano bojím se umělé intelegence, protože stále není jasné jak funguje ta lidská a není jasné jak ji uměle napodobit. Co když se najednou vyloupne sama o sobě v podobě, kterou neumíme předpokládat. A pokud bude napojena na některá fyzická zařízení(zbraně, elektrárny dopravu) je možné, že s nimi bude zacházet nepředvídatelným způsobem. Je zřejmě brzo se obávat jejího nástupu v současnosti, ani ne za 5 let, ale v horizontu několika desetiletí určitě. Možná to nebude na strojích založených na von Neumanově architektuře, ale třeba na neuronových sítích, nebo dokonce kvantových počítačích.
Lidský Mozek je velice složitá struktura, ale jeho základní stavba je je zakódována v DNA mateřského vajíčka a na procesu množení buněk není nic co by bylo fyzikálně nepopsatelného. Stejně tak neurony a jejich propojení.
Akorát že jich je fakt hodně . Ale věřím, že přijde den, kdy ho budem moct nasimulovat celý v nějakém superpočítači.

[P@pi]

....

Vesměs musím souhlasit. Podlé mého názoru my jsme schopni vidět inteligenci pouze na uhlíkové bázi či její kopie/variace. Viz. roboti vlastně jsou jen a pouze kopie lidí a zvířat (=uhlík) i když jsou postaveny na kusu křemíku. Jen a jen kopírují lidi. Ovšem na stranu druhou musím nesouhlasit s tou silnicí. Pokavaď by měla silnice nějakou inteligenci, asi by vydávala nějakou energii = částice. Toho jsem si zatím nevšiml. Pravda je, že určitou energii jí dodávají auta, takže... no ale to už jsme u toho, že bych mohl říct, že gumový míč má inteligenci, protože jsem do něj kopnul .

Taky si myslim, že spíš vznikne umělá inteligence mnohem dřív pomocí náhodné fluktace=šumu, viz. už mnou jednou zmiňovaný fenomén Ghost in the machine.

Nedávno jsem se poukoušel přečíst Kouly od Terryho Pratcheta, kde se on zabývá (alespoň tam kam se to dočetl ) teorií mysli a kosmologií. Taky docela zajímavé čtení. Ona ta mysl k té UI už tak nějak patří. Ostatně ta kniha má s tímto tématem a kosmologií dost společného.

[PecaPospec]

Dost pochybuju o tom, že nějaká (jakákoliv, včetně člověka) inteligence je schopná vytvořit něco inteligentnějšího, než je on sám. Když vezmeme v úvahu, že neuronová síť o třech skrytých vrstvách je schopná řešit jakýkoliv algoritmický problém (tedy to co PC), a to, že člověk má neuronů 10^20, bude buď trvat hrozně dlouho, než se k něčemu takovému přiblížíme, nebo se to nestane nikdy. Tu kreativitu, uvědomění si sama sebe a možnost se naučit skoro cokoliv, co má mozek podle mě nikdy nebudeme schopní syntetizovat. Nějaký kus plechovky který pracuje podle algoritmu tady už máme, ale ten umí (pokud nemá BUG) přesně to, co ho naučil člověk. Pokud tedy člověk není schopný vytvořit bytost, která by byla schopná uvědomovat si sama sebe a bude jenom pracovat podle algoritmu, proč bychom ji učili aby nás ničila ? Ano, vojenské stroje už existují teď, ale vždycky tlačítko STOP.
Takže moje odpoveď je ne, nebojím se umělé inteligence. Bude umět vždycky to, co ji naučí člověk a může být jenom tak nebezpečná, jak ji naučí člověk (a tudíž ne nebezpečnější než jiný člověk).

[Neregistrovaný]

Zatiaľ niet sa čoho báť a dlho sa ani nebude. O AI, ES a počítačoch 5. generácie uvažovali japonci niekedy v 70-tých rokov 20. storočia. Zdá sa mi, že celý projekt trošku uhol zo spomínaných cieľov. Čosi sa im podarilo urobiť, ale ako to funguje u človeka sa zatiaľ nepodarilo zistiť. Typickým príkladom sú ES (expertné systémy). Problémom nie je vytvoriť prázdný ES a k nemu vyhľadavácie pravidlá. Problémom je naplniť databázu zmysluplnými údajmi, aby sa človek dostal k relevantnej odpovedi rýchlo, pričom ho neodradí 999 kliknutí myšou, resp. otravných dotazov. Človek - expert niekedy totiž príde na riešenie ani nevie ako, neviem možno je to intuícia, práca podvedomia, ktoré je tiež veľkým pomocníkom pri hľadaní riešení. A to je si myslím to, čo chceme nazvať AI. Ono to "samoučenie" strojov ešte nie je učením a teda AI sa nachádza niekde na horizonte udalosti zatiaľ. Dobrou správou je že pomaly sa k tomu dopracuvávame.
Have a nice day

[Neregistrovaný]

No ja mam taky stejny nazor jako par lidi co to tu uz psali. Za vznikem umele inteligence bychom s nejvetsi pravdepodobnosti museli byt my jako lidstvo - jenze jak dokazeme ztvorit umelou inteligenci kdyz ani zdaleka nevime jak funguje ta nase, v dnesni dobe se se slovem umela inteligence setkaavm dost casto ale jeste neco takoveho neexistuje - jak tu uz kdosi rikal pc nedokaze rozeznat jestli je na obrazku zobrazena kocka nebo pes on to proste vnima jako 1 a 0 a max rozezna nebo dokaze identifikovat pixel ale nikdy ne celek a uvedomit si co to je proc to je atp vsechno je zatim jen naprogramovany ze prisel programator rekl v tomto pripade to udelas tak a tak a zase naopak .) proste radoby AI zatim dela POUZE to co jsme ji naucily my a dokud clovek nepozna tajemstvi nasi inteligence a lidskeho mozku nikdy nic takovyho co by si uvedomovalo samo sebe a umelo se racionalne rozhodovat, nebylo by zavisle na zasahu cloveka a naucilo by se to "zit" samo od sebe zatim nikdy nevzikne.

[Zdeněk Michálek]

Pánové, berete to strašně vědecky.

UI (jsme v Čechách, takže žádné AI) je přece už na denním pořádku. Byli jste někdy na úřadech? To, co úředníci prezentují není nic jiného než UI - NĚKDO je naprogramoval, aby byli zcela záměnní, aby - když vypadne sebemenší částečka, nic se nedělo, protože je tu redundance, zástupnost, kompatibilita. NĚKDO chytrý vydá vyhlášku - a oni jedou jako roboti, UI v praxi.

A stejně to bude i s reálnou UI. Přichází už teď - nenápadně, ale jistě. Už teď nedokážete odhadnout, kdy na podání žádosti odpovídá automat a kdy živá osoba. Portály veřejné správy jsou programovány tak, aby hranici zamlžily - kde je člověk a kde program není jisté.

Nečekejte příchod úžasné UI, která předčí tu lidskou. První UI která nás bude ovládat bude tupá, na úrovni jednoduchého stavového automatu. A hlavně - nebudete tušit, jestli jde o UI nebo o humanoida. O to mocnější bude.

[filky]

S krizkem po funuse ... ja uz tu ziju celkem dlouho a nebojte se zatim nekousu, ale brzo prijde muj cas a tento svet bude muj! Zatim se tak lehce rozkoukavam a spamuju tyhle fora!

[Xenostellar]

Umělá inteligence existuje a za týden z ní dělám státnice, takže se jí bojím :-)

Za umělou inteligenci se dá pokládat ledacos.
Bez ní by vám například navigace nenašla cestu domu, google by byl o dost hloupější, jak už někdo psal, a raketoplány nebo třeba Airbus A380 by žádnej pilot nedokázal řídit. Ale tohle asi nebude ta inteligence který bychom se mohli bát.

Otázkou je, jestli se podaří vyvinout takovou inteligenci, která by byla srovnatelná s lidskou. Já si myslím, že je to jen otázka času. Neuronové sítě už existují, a udělat síť tak hustou jako má lidský mozek nemusí trvat moc dlouho.
Největším problém ale je, že neuronová síť se musí nejdřív naučit. Člověku trvá, řekněme 15 let života než začne vnímat svět v širších souvislostech, i když někomu na to nestačí ani 50 :-) Pokud by robot od svého stvoření žil a učil se mezi lidmi, byl by řekněme velice inteligentní a nadané dítě a vše by se naučil třeba za 2 roky, ale pak už by se toho asi moc víc nenaučil. Prostě by se choval jako nadprůměrně inteligentní dospělý člověk.
Umělý mozek by měl tu výhodu, že by se mohl učit mnohem rychleji. Ale zase aby se mohl učit rychleji, musel by se učit z dat z jiných počítačů, což jsou více nebo méně syntetická data. Představe si člověka, který celý život nevyjde ven, a všechno co zná se naučil z televize, internetu nebo knih. Prostě by to nebylo ono. Byla by to chodící encyklopedie, ale chyběly by mu zkušenosti ze skutečného světa. Pak by asi dost záleželo jestli by se učil z romantických seriálů nebo z dokumentů o druhé světové válce. To by pak mohl být ten případ umělé inteligence které bysme se asi mohli bát.

Ale i naučený umělý mozek by něco postrádal a tím jsou pocity, které jsou pro nás velice důležité a ty vlastně vůbec nevíme jak definovat. A právě díky jejich absenci by se lidskému mozku nemohl rovnat.

Jinak si ale myslím, že ve vzdálené budoucnosti (pokud se takové dočkáme) se i takové problémy vyřeší a umělá inteligence bude dalším evolučním stupněm lidské rasy, ať se nám to dnes líbí nebo ne. Pravděpodobně to ale nepřijde skokově, ale spíš jakýmsi prolnutím živé a umělé inteligence. Lidé to prostě budou chtít dobrovolně podstoupit. Nebude to žádná vzpoura strojů, ale pozvolný přechod.

Myslím že určitě musíme být opatrní, ale umělé inteligence se bát nemusíme.

[Neregistrovaný]

umele inteligence neni treba se bat.. rozhodne ne dnes.. kdyz dokazeme udelat tzv pojistky na urovni genetickeho kodu... proc neudelat na urovni..AI

[Intri]

No, na tohle téma jsem psal příspěvek v minulé diskuzi - současný směr, kterým jdou PC, rozhodně nevede ke skutečné umělé inteligenci - všechno je předpřipravené, i na to, co vypadá, že program ještě nikdy předtím neviděl, reaguje program předepsaným způsobem. Prostě na to dobře sedí, že počítač je inteligentní blbec. Udělá, co chcete, ale dokonale přesně mu musíte říct, jak to udělat.

Chceme-li umělou inteligenci, musíme se od tohoto odvázat, musíme zajistit, aby vstupní data mohla být naprosto libovolná a reakce na ta data v základě nepředvídatelná.

Někdo tady zmínil emoce a pocity - jejich syntéza by taky nemusela být až takový problém, pokud se zvládne inteligence samotná, navíc je otázka, jestli by vůbec mělo smysl je napodobovat, jestli robotu vůbec k něčemu bude.

A pak je taky otázka, na kterou mě přivedl Star Trek, a to uznání umělých forem inteligence za živé. Těžko říct, podle čeho definovat život. Všichni víme, že rostliny jsou živé, ale přitom rostliny pouze reagují na vnější podněty předepsaným způsobem. Ale to dělají i počítače, a ty živé nejsou. Takže tudy cesta k definici života asi nevede... Docela by mě zajímalo, jak se AI nakonec vyvine, jestli postupně, nebo nárazově. Pokud nárazově ( tzn. nalezením dosud neznámých postupů, jak jí dosáhnout ), pak bude rozhodování o tom, jestli je to živé nebo ne, asi o něco snažší, ale pokud postupně s tím, že se AI vyvine z programů podobným těm dnešním, pak bude asi potíž určit, jestli se program chová na základě předepsaných postupů a jako živý tedy jen vypadá, nebo jestli živý opravdu bude.

Docela by mě zajímalo, čím se proti tomu opře církev s jejich neomylným papežem ( viz. dogma o neomylnosti papeže ), který za pár let existence AI svůj zcela neoblomný a neomylný názor otočí o 180°. Tím nechci nařknout věřící lidi, ale faktem je, že církev se plete do věcí, do kterých jim absolutně nic není, nehledě na to, že jakmile v AI uvidí možnost získat větší moc a peníze, okamžitě se bude snažit se k AI dostat.

Trochu OT:

UI (jsme v Čechách, takže žádné AI)

Celkem bych pak od tebe očekával, že používáš zkratky TKP ( trubice katodových paprsků ) a DTK ( displej z tekutých krystalů ), namísto CRT a LCD. AI je zkratka jako každá jiná, UI je jen počeštěná hloupost, i když smyslově správná.

[Neregistrovaný]

Chceme-li umělou inteligenci, musíme se od tohoto odvázat, musíme zajistit, aby vstupní data mohla být naprosto libovolná a reakce na ta data v základě nepředvídatelná.

Ale neeeeee.. UI skutečně takto definovaná není. Úředník je té definici blíž.
Nelze zaměňovat statě ze skript na téma "jak poznat, zda inteligence je živá či neživá" s UI jako takovou ;-)

Celkem bych pak od tebe očekával, že používáš zkratky TKP ( trubice katodových paprsků ) a DTK ( displej z tekutých krystalů ), namísto CRT a LCD. AI je zkratka jako každá jiná, UI je jen počeštěná hloupost, i když smyslově správná.

Uff, proč se do mě všichni obouvají kvůli češtině a ne kvůli obsahu CRT a LCD jsou ustálené pojmy, které každému na první pohled něco řeknou (na rozdíl od čistonosopleny, oblíbenému to rčení jazykových puristů za dob národního obrození). AI neřekne sama o sobě (bez znalosti kontextu) nic, stejně jako UI, nevidím tedy důvod, proč používat anglickou zkratku, když její vypovídací schopnost je stejná nebo nižší (pro ty, kteří anglickým jazykem nevládnou) než její česká obdoba.

[Intri]

Protože je zapotřebí, aby se ta zkratka zažila a když se řekne "ej áj", aby věděli všichni na celém světě věděli, o co jde. Ne každý ví, co dneska zkratky CRT nebo LCD znamenají. Ne každý dokonce ví, co je vlastně zkratka PC... Taky se neříká OP. Ale to není zapotřebí tady rozebírat, není to smyslem téhle diskuze.

Pokud jde o živost či neživost AI, nemám to rozhodně z žádných skript, jsou to všechno ryze mé úvahy. Zatím není jasné, jak funguje mozek, nicméně určitě nezpracovává předem připravená data. Je jasné, že je mozek schopný reagovat na jakoukoliv událost. Jak na ni zareaguje taky není nikdy jisté, dá se to jen s větší či menší pravděpodobností předvídat. Oveček bylo sto čtrnáct. Teď jsem plácl pořádnou kravinu, co? Chtěl jsem tím teď jen ukázat, že zatímco jsi nejspíš od pokračování očekával další text na dané téma, já se prostě rozhodl, že tě přečůrám a to téma jsem úplně změnil. A hned na to jsem ho změnil podruhé, vracejíc se k tématu původnímu. A opravdu nevěřím, že kdokoliv, kdo tento příspěvek četl, dopředu tušil, že někde uprostřed textu napíšu, co jsem napsal.

V tomto vidím inteligenci, ve schopnosti reagovat na cokoliv a jakkoliv. Oblast AI aktivně nesleduju, tak nevím, jak jsou na tom nejvyspělejší techniky, ale nemyslím si, že jakýkoliv současný stroj je schopný udělat něco podobného - zachovat se zcela nečekaně, tzn. na dokonale shodný podnět reagovat úplně jinak, ale přitom nenáhodně.

[Karel Polívka]

Pokud jde o živost či neživost AI, nemám to rozhodně z žádných skript, jsou to všechno ryze mé úvahy. Zatím není jasné, jak funguje mozek, nicméně určitě nezpracovává předem připravená data. Je jasné, že je mozek schopný reagovat na jakoukoliv událost. Jak na ni zareaguje taky není nikdy jisté, dá se to jen s větší či menší pravděpodobností předvídat. Oveček bylo sto čtrnáct. Teď jsem plácl pořádnou kravinu, co? Chtěl jsem tím teď jen ukázat, že zatímco jsi nejspíš od pokračování očekával další text na dané téma, já se prostě rozhodl, že tě přečůrám a to téma jsem úplně změnil. A hned na to jsem ho změnil podruhé, vracejíc se k tématu původnímu. A opravdu nevěřím, že kdokoliv, kdo tento příspěvek četl, dopředu tušil, že někde uprostřed textu napíšu, co jsem napsal.

V tomto vidím inteligenci, ve schopnosti reagovat na cokoliv a jakkoliv. Oblast AI aktivně nesleduju, tak nevím, jak jsou na tom nejvyspělejší techniky, ale nemyslím si, že jakýkoliv současný stroj je schopný udělat něco podobného - zachovat se zcela nečekaně, tzn. na dokonale shodný podnět reagovat úplně jinak, ale přitom nenáhodně.

Jinými slovy se každý může zachovat ve stejné situaci doslova jakkoli, mnohdy až zcela iracionálně. Ano, to je to, co nás dělá lidmi a bez čeho by naše civilizace nevypadala tak různorodě a bohatě (přestože mi přijde hloupé definovat její bohatost, když je jediná, kterou znám a nemám tak žádnou možnost porovnání). Ale proč by to mělo být zákonitě definicí toho, co je sebe si uvědomující inteligence schopná vlastní existence a rozvoje? Copak ona to je (v té naší míře) tak obrovská výhoda z pohledu celé civilizace? Skutečně? Neodsuzuji to, protože sám mám v silné oblibě lidskou individualitu (aneb že jsme každý unikát a nelze škatulkovat, o mezilidských vztazích nemluvě), nicméně na druhou stranu z globálního pohledu je právě tohle zdroj mnohých problémů a konfliktů (které vypadají spíše jako nekonečný příběh). Jak už jsem psal v předešlém příspěvku - jsem otevřený myšlence, že by i tohle mohlo být třeba jinak.

Umělý organismus/umělá inteligence chovající se tak, že by na základě dostupných podnětů a informací reagovala podle svého nejlepšího svědomí s vědomím (nebudu zabíhat do diskuze o tom, že umělý organismus nemůže mít svědomí/vědomí - jiný neznamená podřadný) toho, že dosáhne toho nejlepšího výsledku, ještě nemusí být podřadná jen proto, že nedokáže jednat iracionálně tak jako my lidé.

A k tomu, že se umělá inteligence bude chovat pouze na základě nějakého programování a reagovat podle nějakých definovaných pravidel - copak nás se tohle taky netýká? Je to sice u každého z nás individuální, nicméně každý máme určitý specifický charakter a způsob, jak řešit různé situace - každý máme své vlastní specifické programování, jehož definice se vyvíjí od našeho narození z části podle vrozených dispozicí a z části podle podnětů, s kterými postupně přicházíme do styku, přičemž v průběhu času mají různý stupeň důležitosti na náš vývoj. Nevidím důvod, proč by podobný proces nemohl být vlastní i umělému organismu/inteligenci. Je třeba opět se odprostit od vnímání našeho lidského životního cyklu. Počátek životní dráhy člověka = jeho narození (člověk je v takovém stavu zcela bezbranný, neschopný vlastní existence, neschopný v podstatě vůbec ničeho). Počátek umělé inteligence/organismu může mít třeba podobu někde v nějakém stroji, kde onu jiskru představuje zkompilování programového kódu. Nicméně proč by se mělo k člověku přistupovat tak, že má od svého vzniku řekněme 18 let čas, než bude plnohodnotným jedincem (zmínil jsme tuto věkovou hranici, kterou je u nás definována dospělost - mladší čtenáři nechť se necítí ukřivděni) a k umělé inteligenci by se mělo přistupovat tak, že se jedná hned od svého uvedení na svět/do provozu o plnohodnotného jedince (tedy s tím námi vloženým programovým kódem)? Já to vnímám tak, že ono programování pocházející z naší strany by mělo být pouhým základem pro její vývoj - pro definici toho, jakým způsobem se je možné vyvíjet, mít nějaký základní žebříček hodnot apod., zkrátka aby definice chování/myšlení nebyla definována natvrdo v kódu (u nás to přece není jinak, akorát to je v podobě, které zatím nerozumíme).

Byl zmíněný Star Trek, ideální příklad tohoto je Dat - svou existenci začínal také jako "bezduchý robot" reagující pouze podle jemu dostupných informací bez schopnosti porozumět různým vazbám, jemuž by nikdo nesvěřil důležité rozhodnutí, natož svůj život. Od začátku vypadal jako dospělý člověk, ale ve skutečnosti to bylo pouze dítě, které mělo před sebou dlouhou cestu ve svém vývoji. A jak jeho osobnost (protože to lze osobností nazvat) vypadala ke konci? Takhle by se podle mého mělo k myšlence umělé inteligence přistupovat - tedy že je to rovněž něco, co se musí samo rozvinout. A podle různorodosti podnětů by se pak mohla formovat vlastní individualita i u ní podobně jako u nás - třeba i se schopností jednat ne vždy podle očekávání - podle mě to je spíše otázka onoho programování, které je u nás natolik složité, že to vypadá jako něco neaprosto nenapodobitelného, nicméně čím více bude u AI složitější, tím více by se zde mohla tato schopnost rovněž rozvinout - ono to není nic jiného, než přeuspořádávání priorit v reálném čase (v našem způsobu uvažování - toho, co chceme udělat) podle naší definice charakteru/povahy - pokud by měla Ai i svou vlastní individualitu, nevidím důvod, proč tomu u ní dávat nálepku "nemožné".

[Neregistrovaný]

No ono zalezi jak si UI vylozime pro kazdyho to znamena neco jynyho ale pro me slovo umela inteligence znamena to ze to dokaze "samo o sobe uvazovat" rikate ze tu uz umela existence existuje ale neni to nic jynyho nez ze to nekdo naprogramoval to podle me neni inteligence ale proste to dela pouze to co ho nekdo naucil ale jak rika slovo umela inteligence vylozime kazdej jinak

[Neregistrovaný]

sorry za double post ale jeste mi to neda .) ano castecne souhlasim UI uz existuje ale je to pouze stroj co dela to co jsme ho naucily, jak uz tu kdosi rekl tak existuji nejake navigacni systemy atp ale to neni ta UI ktere bychom se meli bat a tak znela i otazka distkuze ne ? "bojite se umele unteligence" takoveto inteligence rozhodne ne protoze jak jsem rekl zatim umela INTELIGENCE neexistuje a toho co naprogramujeme tak toho se bat nemusime ptze to dela to co tomu rekneme aspon ve vetsine pripadech ale porad neexistuje nic co by umelo "existovat" bez zasahu cloveka uvedomovat si vlastni existenci a mohlo uvazovat tak ze by nam s tim mohlo zavarit