Argumenty pro skepsi sice existují, ale nejsou rozhodně neprůstřelné. Gary Marcus, bývalý ředitel laboratoří AI v Uberu, vyslovil názor, že současné techniky hlubokého učení prostě nepovedou k obecné umělé inteligenci. Dost si na tomto svém stanovisku trvá.
Marcusův argument č. 1, dosažení určité úrovně vyžaduje totiž obrovské množství dat. DeepMind Alpha Zero musí sehrát sám se sebou desítky milionů partií v go nebo šachách. Srovnejte s tím, kolik partií sehraje k dosažení určité úrovně člověk. Navíc systém je sice univerzální, nicméně každou hru se musí učit znovu, nějaké obecnější strategické myšlení se přitom nevytváří a učení se nezrychluje (alespoň pokud víme).
Systémy jsou příliš „hladové“ z hlediska dat, což limituje jejich použitelnost (na havárie kosmických lodí dejme tomu dost dat prostě není). Zde by se ale dalo namítnout, že ono „přenášení znalosti/obecné strategické myšlení“ může být spíše iluze. Špičkoví hráči v jedné hře mají problémy dosáhnout podobné úrovně v jiné hře, protože se nemůžou zbavit nežádoucí interference schémat. Marcus nicméně naopak tvrdí, že obecná inteligence se bez přenášení jednou naučených znalostí neobejde.
Další Marcusova tvrzení: Současné systémy mají stále problémy s určitými nuancemi lidského jazyka, a to i když se mohou učit na obrovském množství vstupních dat. Stávající modely hlubokého učení zde narážejí na své limity. Podobně existuje příliš mnoho triků, jimiž se dají zmást systémy pro rozpoznávání obrazu (zde by se zase dalo namítnout, že oklamat se dají i lidé, a to nejen jejich smysly – optické triky – ale i samotné uvažování – matematické/logické chytáky; znamená to, že lidem kvůli tomu upřeme obecnou inteligenci?).
Marcusovi vadí, že AI funguje pouze v režimu vstup a tomu odpovídající výstup, aniž by chápaly kauzalitu nebo se o ni vůbec zajímaly (což by se ale dalo považovat i za přednost, chybné rozlišení korelace a kauzality naopak často svádí na scestí člověka).
Nakonec Marcus argumentuje, že v rámci neuronové sítě se pak pravidla vytvoří sama, aniž by tvůrci věděli, jaká pravidla to přesně jsou. Což prý vyvolává pochopitelné obavy, jenže dle Marcuse bude spíš výsledkem, že systémy nikdo nedokáže optimalizovat. Ani v tomto ohledu s Marcusem nesouhlasím. Spíše bych se přiklonil k autorovi známé knihy Gödel, Escher, Bach. Někteří ho považují ve vztahu k umělé inteligenci za skeptika, Douglas Hofstadter ale spíše tvrdí, že inteligence (naše i umělá) má nutně limity a není jednoduše popsatelná. Čili vyvineme-li umělou inteligence (necháme ji vyvinout do nějaké míru „samu“ apod.), nedokážeme přesně říct, v čem spočívá. Což ale platí i o inteligenci naší. K porozumění nějaké podstatě inteligence nám (možná) AI nepomůže, ale to jí nečiní o nic méně inteligentní ani nebrání jejímu výtvoření.
Každopádně – mě Marcus nepřesvědčil.
Zdroj: The Register a další
