Hluboké učení prý obecnou umělou inteligenci nevytvoří

Pavel Houser , 23. leden 2018 06:30 3 komentářů

Argumenty pro skepsi sice existují, ale nejsou rozhodně neprůstřelné. Gary Marcus, bývalý ředitel laboratoří AI v Uberu, vyslovil názor, že současné techniky hlubokého učení prostě nepovedou k obecné umělé inteligenci. Dost si na tomto svém stanovisku trvá.

Marcusův argument č. 1, dosažení určité úrovně vyžaduje totiž obrovské množství dat. DeepMind Alpha Zero musí sehrát sám se sebou desítky milionů partií v go nebo šachách. Srovnejte s tím, kolik partií sehraje k dosažení určité úrovně člověk. Navíc systém je sice univerzální, nicméně každou hru se musí učit znovu, nějaké obecnější strategické myšlení se přitom nevytváří a učení se nezrychluje (alespoň pokud víme).

Systémy jsou příliš „hladové“ z hlediska dat, což limituje jejich použitelnost (na havárie kosmických lodí dejme tomu dost dat prostě není). Zde by se ale dalo namítnout, že ono „přenášení znalosti/obecné strategické myšlení“ může být spíše iluze. Špičkoví hráči v jedné hře mají problémy dosáhnout podobné úrovně v jiné hře, protože se nemůžou zbavit nežádoucí interference schémat. Marcus nicméně naopak tvrdí, že obecná inteligence se bez přenášení jednou naučených znalostí neobejde.

Další Marcusova tvrzení: Současné systémy mají stále problémy s určitými nuancemi lidského jazyka, a to i když se mohou učit na obrovském množství vstupních dat. Stávající modely hlubokého učení zde narážejí na své limity. Podobně existuje příliš mnoho triků, jimiž se dají zmást systémy pro rozpoznávání obrazu (zde by se zase dalo namítnout, že oklamat se dají i lidé, a to nejen jejich smysly – optické triky – ale i samotné uvažování – matematické/logické chytáky; znamená to, že lidem kvůli tomu upřeme obecnou inteligenci?). Marcusovi vadí, že AI funguje pouze v režimu vstup a tomu odpovídající výstup, aniž by chápaly kauzalitu nebo se o ni vůbec zajímaly (což by se ale dalo považovat i za přednost, chybné rozlišení korelace a kauzality naopak často svádí na scestí člověka).

Nakonec Marcus argumentuje, že v rámci neuronové sítě se pak pravidla vytvoří sama, aniž by tvůrci věděli, jaká pravidla to přesně jsou. Což prý vyvolává pochopitelné obavy, jenže dle Marcuse bude spíš výsledkem, že systémy nikdo nedokáže optimalizovat. Ani v tomto ohledu s Marcusem nesouhlasím. Spíše bych se přiklonil k autorovi známé knihy Gödel, Escher, Bach. Někteří ho považují ve vztahu k umělé inteligenci za skeptika, Douglas Hofstadter ale spíše tvrdí, že inteligence (naše i umělá) má nutně limity a není jednoduše popsatelná. Čili vyvineme-li umělou inteligence (necháme ji vyvinout do nějaké míru „samu“ apod.), nedokážeme přesně říct, v čem spočívá. Což ale platí i o inteligenci naší. K porozumění nějaké podstatě inteligence nám (možná) AI nepomůže, ale to jí nečiní o nic méně inteligentní ani nebrání jejímu výtvoření. Každopádně – mě Marcus nepřesvědčil.

Zdroj: The Register a další


Komentáře

axz #0
axz 24. leden 2018 02:16

A co takhle pragmatický argument historií:
O obecnou umělou inteligenci se snažíme už od začátků počítačů, a furt o tom víme kulový.

František Ryšánek 31. leden 2018 10:19

Prostou hrubou silou s dnešními relativně primitivními topologiemi (byť "deep") to jistě nepůjde. Dnešní "deep" sítě totiž plní stále relativně jednoduchá zadání. Určitě se stanou stavebními bloky v dalším budoucím vývoji. Kombinace hrubé síly a pokročilejší architektury mi zní mnohem slibněji. Myslím architekturu na detailní i "vyšší blokové" úrovni - lidský mozek je zatím pokročilejší na obou "úrovních designu", navíc není bezezbytku přísně hierarchicky strukturovaný (v některých případech vhodně podvádí zkratkami mezi vrstvami a bloky) atd.

Dnešní poměrně povrchní povídání mne inspirovalo, abych zase jednou zkusil na toto téma zagooglit:

https://www.google.cz/search?q=deep+learning+architectures+for+general+intelligence

A je vidět, že "nedostatečně rozpracovanou" či vysloveně "nevhodnou" architekturu (pro obecnou inteligenci) vnímají a konstruktivně řeší i mnozí vědátoři v oboru, přestože třeba jejich hlas trochu zaniká vedle momentálně bulvárně vděčnějších výplodů obchodně agilnějších kolegů, kteří mávají "deep neural networks" na klasifikaci obrázků, stále poměrně hrubý automatický překlad řeči apod.

Pro mě osobně zajímavá a nová klíčová slova jsou PathNet, sparse distributed representations, relational networks. A zmínky o možné renesanci či fúzi se symbolickými AI postupy.

Domnívám se, že mnohé "vhodnější architektury" pro obecnou inteligenci bude možné otestovat i s relativně skromnou hrubou silou.

František Ryšánek 31. leden 2018 21:16

Dvě konkrétní zajímavé "výzkumné zprávy":

https://arxiv.org/pdf/1609.05518.pdf

https://arxiv.org/pdf/1706.01427.pdf

RSS 

Komentujeme

AI i její tvůrci před soudem

Pavel Houser , 22. duben 2018 09:30
Pavel Houser

John Kingston z anglické University of Brighton poskytl pro The Register svůj pohled na právní odpov...

Více







RSS 

Zprávičky

Před 25 lety byl zpřístupněn webový prohlížeč Mosaic

ČTK , 21. duben 2018 15:22

Mosaic se zrodil v průběhu roku 1992 v hlavě Marca Andreessena a jeho kolegy Erica Biny....

Více 0 komentářů

Těžba bitcoinů při kurzu pod 8 600 dolarů je ztrátová

ČTK , 20. duben 2018 11:21

Analytici se domnívají, že poptávka po hardwaru pro těžbu bitcoinů dál klesne, stejně jako cena kryp...

Více 0 komentářů

Netflixu prudce stoupají příjmy i počet odběratelů

ČTK , 20. duben 2018 09:36

Čistý zisk ve čtvrtletí stoupl na 290,1 milionu dolarů, neboli 64 centů na akcii....

Více 0 komentářů

Starší zprávičky

Zájem o přijímače s digitálním rádiem je minimální

ČTK , 20. duben 2018 08:00

Český rozhlas na konci loňského roku rozšířil pokrytí digitálním signálem na 40 % populace....

Více 3 komentářů

eMan vykupuje zpět podíl Jablotronu

Pavel Houser , 19. duben 2018 14:32

Strategie obou společností se po více než 2 letech propojení rozcházejí, kontrolu nad firmou získáva...

Více 0 komentářů

Facebook reaguje na nové normy EU, cílená reklama ale nepřestane

ČTK , 19. duben 2018 10:26

Facebook se začal dotazovat svých uživatelů, zda může v jejich fotografiích a videích používat techn...

Více 2 komentářů

Ruské úřady vs. Telegram

ČTK , 19. duben 2018 08:00

Začaly se objevovat informace o rozsáhlých výpadcích služeb, které se sporem nijak nesouvisejí....

Více 0 komentářů