Hluboké učení prý obecnou umělou inteligenci nevytvoří

Pavel Houser , 23. leden 2018 06:30 3 komentářů

Argumenty pro skepsi sice existují, ale nejsou rozhodně neprůstřelné. Gary Marcus, bývalý ředitel laboratoří AI v Uberu, vyslovil názor, že současné techniky hlubokého učení prostě nepovedou k obecné umělé inteligenci. Dost si na tomto svém stanovisku trvá.

Marcusův argument č. 1, dosažení určité úrovně vyžaduje totiž obrovské množství dat. DeepMind Alpha Zero musí sehrát sám se sebou desítky milionů partií v go nebo šachách. Srovnejte s tím, kolik partií sehraje k dosažení určité úrovně člověk. Navíc systém je sice univerzální, nicméně každou hru se musí učit znovu, nějaké obecnější strategické myšlení se přitom nevytváří a učení se nezrychluje (alespoň pokud víme).

Systémy jsou příliš „hladové“ z hlediska dat, což limituje jejich použitelnost (na havárie kosmických lodí dejme tomu dost dat prostě není). Zde by se ale dalo namítnout, že ono „přenášení znalosti/obecné strategické myšlení“ může být spíše iluze. Špičkoví hráči v jedné hře mají problémy dosáhnout podobné úrovně v jiné hře, protože se nemůžou zbavit nežádoucí interference schémat. Marcus nicméně naopak tvrdí, že obecná inteligence se bez přenášení jednou naučených znalostí neobejde.

Další Marcusova tvrzení: Současné systémy mají stále problémy s určitými nuancemi lidského jazyka, a to i když se mohou učit na obrovském množství vstupních dat. Stávající modely hlubokého učení zde narážejí na své limity. Podobně existuje příliš mnoho triků, jimiž se dají zmást systémy pro rozpoznávání obrazu (zde by se zase dalo namítnout, že oklamat se dají i lidé, a to nejen jejich smysly – optické triky – ale i samotné uvažování – matematické/logické chytáky; znamená to, že lidem kvůli tomu upřeme obecnou inteligenci?). Marcusovi vadí, že AI funguje pouze v režimu vstup a tomu odpovídající výstup, aniž by chápaly kauzalitu nebo se o ni vůbec zajímaly (což by se ale dalo považovat i za přednost, chybné rozlišení korelace a kauzality naopak často svádí na scestí člověka).

Nakonec Marcus argumentuje, že v rámci neuronové sítě se pak pravidla vytvoří sama, aniž by tvůrci věděli, jaká pravidla to přesně jsou. Což prý vyvolává pochopitelné obavy, jenže dle Marcuse bude spíš výsledkem, že systémy nikdo nedokáže optimalizovat. Ani v tomto ohledu s Marcusem nesouhlasím. Spíše bych se přiklonil k autorovi známé knihy Gödel, Escher, Bach. Někteří ho považují ve vztahu k umělé inteligenci za skeptika, Douglas Hofstadter ale spíše tvrdí, že inteligence (naše i umělá) má nutně limity a není jednoduše popsatelná. Čili vyvineme-li umělou inteligence (necháme ji vyvinout do nějaké míru „samu“ apod.), nedokážeme přesně říct, v čem spočívá. Což ale platí i o inteligenci naší. K porozumění nějaké podstatě inteligence nám (možná) AI nepomůže, ale to jí nečiní o nic méně inteligentní ani nebrání jejímu výtvoření. Každopádně – mě Marcus nepřesvědčil.

Zdroj: The Register a další


Komentáře

axz #0
axz 24. leden 2018 02:16

A co takhle pragmatický argument historií:
O obecnou umělou inteligenci se snažíme už od začátků počítačů, a furt o tom víme kulový.

František Ryšánek 31. leden 2018 10:19

Prostou hrubou silou s dnešními relativně primitivními topologiemi (byť "deep") to jistě nepůjde. Dnešní "deep" sítě totiž plní stále relativně jednoduchá zadání. Určitě se stanou stavebními bloky v dalším budoucím vývoji. Kombinace hrubé síly a pokročilejší architektury mi zní mnohem slibněji. Myslím architekturu na detailní i "vyšší blokové" úrovni - lidský mozek je zatím pokročilejší na obou "úrovních designu", navíc není bezezbytku přísně hierarchicky strukturovaný (v některých případech vhodně podvádí zkratkami mezi vrstvami a bloky) atd.

Dnešní poměrně povrchní povídání mne inspirovalo, abych zase jednou zkusil na toto téma zagooglit:

https://www.google.cz/search?q=deep+learning+architectures+for+general+intelligence

A je vidět, že "nedostatečně rozpracovanou" či vysloveně "nevhodnou" architekturu (pro obecnou inteligenci) vnímají a konstruktivně řeší i mnozí vědátoři v oboru, přestože třeba jejich hlas trochu zaniká vedle momentálně bulvárně vděčnějších výplodů obchodně agilnějších kolegů, kteří mávají "deep neural networks" na klasifikaci obrázků, stále poměrně hrubý automatický překlad řeči apod.

Pro mě osobně zajímavá a nová klíčová slova jsou PathNet, sparse distributed representations, relational networks. A zmínky o možné renesanci či fúzi se symbolickými AI postupy.

Domnívám se, že mnohé "vhodnější architektury" pro obecnou inteligenci bude možné otestovat i s relativně skromnou hrubou silou.

František Ryšánek 31. leden 2018 21:16

Dvě konkrétní zajímavé "výzkumné zprávy":

https://arxiv.org/pdf/1609.05518.pdf

https://arxiv.org/pdf/1706.01427.pdf

RSS 

Komentujeme

Když obrázek není tím, čím se zdá být

Pavel Houser , 10. listopad 2018 06:30
Pavel Houser

Problematika falešných zpráva je dnes módní záležitostí. Následující výzkum se zaměřuje na jeden spe...

Více







RSS 

Zprávičky

Podle Check Pointu malware těžící kryptoměny dominuje dál

Pavel Houser , 17. listopad 2018 08:00

Objevena byla rozsáhlá kampaň šířící RAT malware FlawedAmmyy....

Více 0 komentářů

Samsung Exynos 9 řady 9820 pro umělou inteligenci v mobilech

Pavel Houser , 16. listopad 2018 12:46

Jádro čtvrté generace a modem LTE Advanced Pro s rychlostí 2,0 Gb/s mají vylepšit rozšířenou a virtu...

Více 0 komentářů

BlackBerry koupí za 1,4 miliardy USD Cylance

ČTK , 16. listopad 2018 12:40

Cylance vyvíjí produkty na bázi umělé inteligence, které mají zabránit kybernetickým útokům....

Více 0 komentářů

Starší zprávičky

Uber ve čtvrtletí prohloubil ztrátu na 1,07 miliardy USD

ČTK , 16. listopad 2018 08:00

Uber zvažuje, že posune primární nabídku akcií z druhé poloviny příštího roku na první polovinu....

Více 0 komentářů

Novým generálním ředitelem Autocontu je bývalý šéf Oracle Sameš

ČTK , 15. listopad 2018 12:44

Autocont se zaměřuje na poskytování komplexních IT řešení a služeb pro firmy a státní správu....

Více 0 komentářů

Lagardeová: Centrální banky by měly vydávat digitální měny

ČTK , 15. listopad 2018 08:00

Některé centrální banky, včetně švédské, kanadské a čínské, již uvažují o emisích digitálních měn ve...

Více 0 komentářů

Rostly ceny smartphonů, počítačů i tiskáren

Pavel Houser , 14. listopad 2018 11:53

Trh s technickým spotřebním zbožím zaznamenal podle statistik GfK v České republice ve 3. čtvrtletí ...

Více 0 komentářů