Hluboké učení prý obecnou umělou inteligenci nevytvoří

Pavel Houser , 23. leden 2018 06:30 3 komentářů

Argumenty pro skepsi sice existují, ale nejsou rozhodně neprůstřelné. Gary Marcus, bývalý ředitel laboratoří AI v Uberu, vyslovil názor, že současné techniky hlubokého učení prostě nepovedou k obecné umělé inteligenci. Dost si na tomto svém stanovisku trvá.

Marcusův argument č. 1, dosažení určité úrovně vyžaduje totiž obrovské množství dat. DeepMind Alpha Zero musí sehrát sám se sebou desítky milionů partií v go nebo šachách. Srovnejte s tím, kolik partií sehraje k dosažení určité úrovně člověk. Navíc systém je sice univerzální, nicméně každou hru se musí učit znovu, nějaké obecnější strategické myšlení se přitom nevytváří a učení se nezrychluje (alespoň pokud víme).

Systémy jsou příliš „hladové“ z hlediska dat, což limituje jejich použitelnost (na havárie kosmických lodí dejme tomu dost dat prostě není). Zde by se ale dalo namítnout, že ono „přenášení znalosti/obecné strategické myšlení“ může být spíše iluze. Špičkoví hráči v jedné hře mají problémy dosáhnout podobné úrovně v jiné hře, protože se nemůžou zbavit nežádoucí interference schémat. Marcus nicméně naopak tvrdí, že obecná inteligence se bez přenášení jednou naučených znalostí neobejde.

Další Marcusova tvrzení: Současné systémy mají stále problémy s určitými nuancemi lidského jazyka, a to i když se mohou učit na obrovském množství vstupních dat. Stávající modely hlubokého učení zde narážejí na své limity. Podobně existuje příliš mnoho triků, jimiž se dají zmást systémy pro rozpoznávání obrazu (zde by se zase dalo namítnout, že oklamat se dají i lidé, a to nejen jejich smysly – optické triky – ale i samotné uvažování – matematické/logické chytáky; znamená to, že lidem kvůli tomu upřeme obecnou inteligenci?). Marcusovi vadí, že AI funguje pouze v režimu vstup a tomu odpovídající výstup, aniž by chápaly kauzalitu nebo se o ni vůbec zajímaly (což by se ale dalo považovat i za přednost, chybné rozlišení korelace a kauzality naopak často svádí na scestí člověka).

Nakonec Marcus argumentuje, že v rámci neuronové sítě se pak pravidla vytvoří sama, aniž by tvůrci věděli, jaká pravidla to přesně jsou. Což prý vyvolává pochopitelné obavy, jenže dle Marcuse bude spíš výsledkem, že systémy nikdo nedokáže optimalizovat. Ani v tomto ohledu s Marcusem nesouhlasím. Spíše bych se přiklonil k autorovi známé knihy Gödel, Escher, Bach. Někteří ho považují ve vztahu k umělé inteligenci za skeptika, Douglas Hofstadter ale spíše tvrdí, že inteligence (naše i umělá) má nutně limity a není jednoduše popsatelná. Čili vyvineme-li umělou inteligence (necháme ji vyvinout do nějaké míru „samu“ apod.), nedokážeme přesně říct, v čem spočívá. Což ale platí i o inteligenci naší. K porozumění nějaké podstatě inteligence nám (možná) AI nepomůže, ale to jí nečiní o nic méně inteligentní ani nebrání jejímu výtvoření. Každopádně – mě Marcus nepřesvědčil.

Zdroj: The Register a další


Komentáře

axz #0
axz 24. leden 2018 02:16

A co takhle pragmatický argument historií:
O obecnou umělou inteligenci se snažíme už od začátků počítačů, a furt o tom víme kulový.

František Ryšánek 31. leden 2018 10:19

Prostou hrubou silou s dnešními relativně primitivními topologiemi (byť "deep") to jistě nepůjde. Dnešní "deep" sítě totiž plní stále relativně jednoduchá zadání. Určitě se stanou stavebními bloky v dalším budoucím vývoji. Kombinace hrubé síly a pokročilejší architektury mi zní mnohem slibněji. Myslím architekturu na detailní i "vyšší blokové" úrovni - lidský mozek je zatím pokročilejší na obou "úrovních designu", navíc není bezezbytku přísně hierarchicky strukturovaný (v některých případech vhodně podvádí zkratkami mezi vrstvami a bloky) atd.

Dnešní poměrně povrchní povídání mne inspirovalo, abych zase jednou zkusil na toto téma zagooglit:

https://www.google.cz/search?q=deep+learning+architectures+for+general+intelligence

A je vidět, že "nedostatečně rozpracovanou" či vysloveně "nevhodnou" architekturu (pro obecnou inteligenci) vnímají a konstruktivně řeší i mnozí vědátoři v oboru, přestože třeba jejich hlas trochu zaniká vedle momentálně bulvárně vděčnějších výplodů obchodně agilnějších kolegů, kteří mávají "deep neural networks" na klasifikaci obrázků, stále poměrně hrubý automatický překlad řeči apod.

Pro mě osobně zajímavá a nová klíčová slova jsou PathNet, sparse distributed representations, relational networks. A zmínky o možné renesanci či fúzi se symbolickými AI postupy.

Domnívám se, že mnohé "vhodnější architektury" pro obecnou inteligenci bude možné otestovat i s relativně skromnou hrubou silou.

František Ryšánek 31. leden 2018 21:16

Dvě konkrétní zajímavé "výzkumné zprávy":

https://arxiv.org/pdf/1609.05518.pdf

https://arxiv.org/pdf/1706.01427.pdf

RSS 

Komentujeme

Jak probíhá adopce cloudu

Pavel Houser , 16. únor 2018 09:45
Pavel Houser

Cloud už neznamená jen SaaS, jenže… K dispozici je řada analýz i prognóz, které dokládají, jak se po...

Více








RSS 

Zprávičky

Broadcom snížil nabídku na rivala Qualcomm na 117 miliard dolarů

ČTK , 23. únor 2018 10:00

Převzetí Qualcommu by bylo největší akvizicí v historii technologického sektoru....

Více 0 komentářů

T-Mobile měl úspěšný rok

Pavel Houser , 23. únor 2018 09:00

T-Mobile oznámil finanční výsledky za rok 2017. Celkové tržby z mobilních a pevných služeb včetně pr...

Více 0 komentářů

NÚKIB loni řešil méně hlášení o kybernetických incidentech

ČTK , 23. únor 2018 08:00

Na podzim NÚKIB musel řešit i útok na weby, na kterých se zobrazovaly aktuální volební výsledky....

Více 0 komentářů

Starší zprávičky

Hackeři zneužili cloudový systém Tesly k těžbě kryptoměn

ČTK , 22. únor 2018 10:00

Průnik se odehrál přes konzoli systému Kubernetes pro optimalizaci cloudových aplikací. ...

Více 0 komentářů

Dvakrát ze světa open source CRM: Sugar a SuiteCRM

Pavel Houser , 22. únor 2018 09:00

CRM systém Sugar je nabízen v několika edicích. Placené edice lze standardně provozovat formou služb...

Více 0 komentářů

Intel chce investovat 5 miliard dolarů do izraelské továrny

ČTK , 22. únor 2018 08:00

Předpokládá se, že Intel na rozšíření továrny obdrží státní podporu v hodnotě až 10 % investice....

Více 0 komentářů

Apple chce kupovat kobalt přímo od těžařů

ČTK , 21. únor 2018 11:48

Kobalt se používá v bateriích pro smartphony. Jeho cena výrazně vzrostla dále ji zvýší nástup elektr...

Více 0 komentářů