Hluboké učení prý obecnou umělou inteligenci nevytvoří

Pavel Houser , 23. leden 2018 06:30 3 komentářů

Argumenty pro skepsi sice existují, ale nejsou rozhodně neprůstřelné. Gary Marcus, bývalý ředitel laboratoří AI v Uberu, vyslovil názor, že současné techniky hlubokého učení prostě nepovedou k obecné umělé inteligenci. Dost si na tomto svém stanovisku trvá.

Marcusův argument č. 1, dosažení určité úrovně vyžaduje totiž obrovské množství dat. DeepMind Alpha Zero musí sehrát sám se sebou desítky milionů partií v go nebo šachách. Srovnejte s tím, kolik partií sehraje k dosažení určité úrovně člověk. Navíc systém je sice univerzální, nicméně každou hru se musí učit znovu, nějaké obecnější strategické myšlení se přitom nevytváří a učení se nezrychluje (alespoň pokud víme).

Systémy jsou příliš „hladové“ z hlediska dat, což limituje jejich použitelnost (na havárie kosmických lodí dejme tomu dost dat prostě není). Zde by se ale dalo namítnout, že ono „přenášení znalosti/obecné strategické myšlení“ může být spíše iluze. Špičkoví hráči v jedné hře mají problémy dosáhnout podobné úrovně v jiné hře, protože se nemůžou zbavit nežádoucí interference schémat. Marcus nicméně naopak tvrdí, že obecná inteligence se bez přenášení jednou naučených znalostí neobejde.

Další Marcusova tvrzení: Současné systémy mají stále problémy s určitými nuancemi lidského jazyka, a to i když se mohou učit na obrovském množství vstupních dat. Stávající modely hlubokého učení zde narážejí na své limity. Podobně existuje příliš mnoho triků, jimiž se dají zmást systémy pro rozpoznávání obrazu (zde by se zase dalo namítnout, že oklamat se dají i lidé, a to nejen jejich smysly – optické triky – ale i samotné uvažování – matematické/logické chytáky; znamená to, že lidem kvůli tomu upřeme obecnou inteligenci?). Marcusovi vadí, že AI funguje pouze v režimu vstup a tomu odpovídající výstup, aniž by chápaly kauzalitu nebo se o ni vůbec zajímaly (což by se ale dalo považovat i za přednost, chybné rozlišení korelace a kauzality naopak často svádí na scestí člověka).

Nakonec Marcus argumentuje, že v rámci neuronové sítě se pak pravidla vytvoří sama, aniž by tvůrci věděli, jaká pravidla to přesně jsou. Což prý vyvolává pochopitelné obavy, jenže dle Marcuse bude spíš výsledkem, že systémy nikdo nedokáže optimalizovat. Ani v tomto ohledu s Marcusem nesouhlasím. Spíše bych se přiklonil k autorovi známé knihy Gödel, Escher, Bach. Někteří ho považují ve vztahu k umělé inteligenci za skeptika, Douglas Hofstadter ale spíše tvrdí, že inteligence (naše i umělá) má nutně limity a není jednoduše popsatelná. Čili vyvineme-li umělou inteligence (necháme ji vyvinout do nějaké míru „samu“ apod.), nedokážeme přesně říct, v čem spočívá. Což ale platí i o inteligenci naší. K porozumění nějaké podstatě inteligence nám (možná) AI nepomůže, ale to jí nečiní o nic méně inteligentní ani nebrání jejímu výtvoření. Každopádně – mě Marcus nepřesvědčil.

Zdroj: The Register a další


Komentáře

axz #0
axz 24. leden 2018 02:16

A co takhle pragmatický argument historií:
O obecnou umělou inteligenci se snažíme už od začátků počítačů, a furt o tom víme kulový.

František Ryšánek 31. leden 2018 10:19

Prostou hrubou silou s dnešními relativně primitivními topologiemi (byť "deep") to jistě nepůjde. Dnešní "deep" sítě totiž plní stále relativně jednoduchá zadání. Určitě se stanou stavebními bloky v dalším budoucím vývoji. Kombinace hrubé síly a pokročilejší architektury mi zní mnohem slibněji. Myslím architekturu na detailní i "vyšší blokové" úrovni - lidský mozek je zatím pokročilejší na obou "úrovních designu", navíc není bezezbytku přísně hierarchicky strukturovaný (v některých případech vhodně podvádí zkratkami mezi vrstvami a bloky) atd.

Dnešní poměrně povrchní povídání mne inspirovalo, abych zase jednou zkusil na toto téma zagooglit:

https://www.google.cz/search?q=deep+learning+architectures+for+general+intelligence

A je vidět, že "nedostatečně rozpracovanou" či vysloveně "nevhodnou" architekturu (pro obecnou inteligenci) vnímají a konstruktivně řeší i mnozí vědátoři v oboru, přestože třeba jejich hlas trochu zaniká vedle momentálně bulvárně vděčnějších výplodů obchodně agilnějších kolegů, kteří mávají "deep neural networks" na klasifikaci obrázků, stále poměrně hrubý automatický překlad řeči apod.

Pro mě osobně zajímavá a nová klíčová slova jsou PathNet, sparse distributed representations, relational networks. A zmínky o možné renesanci či fúzi se symbolickými AI postupy.

Domnívám se, že mnohé "vhodnější architektury" pro obecnou inteligenci bude možné otestovat i s relativně skromnou hrubou silou.

František Ryšánek 31. leden 2018 21:16

Dvě konkrétní zajímavé "výzkumné zprávy":

https://arxiv.org/pdf/1609.05518.pdf

https://arxiv.org/pdf/1706.01427.pdf

RSS 

Komentujeme

Microsoft a GitHub

Pavel Houser , 13. červen 2018 13:30
Pavel Houser

Transakce v hodnotě 7,5 miliardy dolarů je dost velká i na poměry Microsoftu, takže se prodejem GitH...

Více







RSS 

Zprávičky

Divize firmy Deutsche Telekom T-Systems ruší 10 000 míst

ČTK , 22. červen 2018 09:00

Na 6000 míst z celkového počtu má být zrušeno v Německu v průběhu příštích tří let....

Více 0 komentářů

Šéfovi Intelu srazil vaz vztah na pracovišti

ČTK , 22. červen 2018 08:00

Ve funkci předsedy představenstva a člena správní rady Krzaniche přechodně nahradí dosavadní finančn...

Více 0 komentářů

Musk: Favoritem pro evropskou továrnu na baterie Tesly je Německo

ČTK , 21. červen 2018 10:00

Revoluce elektrických aut zvýší do roku 2025 hodnotu evropského trhu s bateriemi na zhruba 250 milia...

Více 0 komentářů

Kalendář

19. 06.

22. 06.
Automatica 2018
23. 06.

24. 06.
Maker Faire Prague 2018
04. 08.

09. 08.
Black Hat USA 2018

Starší zprávičky

Česko testuje komunikaci mezi auty, vlaky a MHD

ČTK , 21. červen 2018 09:00

Vozidla si budou vyměňovat informace například o tom, jak je vlak daleko od závor, nebo že tramvaj v...

Více 0 komentářů

Xiaomi chce při vstupu na burzu získat až 6,1 miliardy dolarů

ČTK , 21. červen 2018 08:00

Půjde o jednu z největších primárních nabídek akcií v technologickém sektoru za posledních několik l...

Více 0 komentářů

Kryptoměnovou burzu Bithumb napadli hackeři

ČTK , 20. červen 2018 10:16

Za poslední týden jde již o druhý útok na kryptoměnové burzy v Jižní Koreji. Bitcoin opět klesl....

Více 0 komentářů

Největší australská telekomunikační firma masivně propouští

ČTK , 20. červen 2018 09:52

Telstra dominuje australskému trhu mobilních telefonů a širokopásmových sítí, zisky z pevných sítí a...

Více 0 komentářů