Umělá inteligence s teorií mysli

ITBiz.cz , 02. říjen 2018 10:15 0 komentářů
Umělá inteligence s teorií mysli

Současné digitální asistenty jsou reaktivní – nesnaží se vytvářet modely cizích myslí, předvídat záměry, nediví se, pokud lidé mění své preference. Nevědí, co uživatelé vědí, a co ne. Jinak řečeno, nemají teorii mysli.

Děti získávají teorii mysli kolem 4 let – tehdy začnou vnímat ostatní jako vědomé tvory a dokáží předvídat chování lidí. Postupně dojdou i k chápání vztahu mezi myslí a realitou – co si někdo myslí, to nemusí být pravda, nicméně dotyčný se bude chovat podle svého přesvědčení, nikoliv reality (tzv. false belief test, test falešné domněnky).

Neil Rabinowitz z DeepMind (firma spadající pod Google, respektive Alphabet) a jeho kolegové nyní vytvořili umělou inteligence ToMnet. Ta má primárně za cíl nikoliv vylepšovat digitální asistenty, ale především posuzovat „mysl“ jiných umělých inteligencí. Při jejich vývoji se většinou spoléhá na strojové učení, takže pak jsou výsledkem černé skřínky – netušíme, na jakém základě se AI rozhoduje, jak se bude rozhodovat v příštích situacích, jaká je její „mysl“. ToMnet se skládá ze 3 neuronových sítí. První analyzuje minulé rozhodování programů AI, druhá na tomto základě vytváří model jejich mysli (přesvědčení/znalosti, preference…) a třetí se snaží integrací těchto 2 sítí předpovědět budoucí kroky cizí umělé inteligence.

Dosud testované AI byly jednoduché – šlo o postavy pohybující se po virtuální místnosti, kde pro zisk bodů sbíraly barevné předměty. Některé z těchto postav byly slepé, jiné neměly paměť. Programy, které viděly a pamatovaly si své minulé kroky, se dokázaly chovat samozřejmě nejúčelněji, procházet místnost s určitým systémem a v určitém pořadí – tak, aby získaly co nejvíc bodů. ToMnet pochopil, do jaké kategorie postava patří, a pak dokázal předvídat její chování.

Na závěr pak ToMnet zvládl i false belief test. Realizovalo se to tak, že v průběhu hry se krajina změnila, ale některé z programů sledovaly chybně svůj původní záměr (viděly jen na několik kroků, kontrolovaly místnost jen po několika krocích apod.). ToMnet opět dokázal zjistit, které z postav mají tento sklon, a pak jejich chování při změnách herní místnosti předvídat.

Dále oslovení vědci uvádějí, že problém ToMnet se zdá být přílišná vazba na jediné „pracovní prostředí“; není jasné, nakolik jsou příslušné schopnosti číst mysl jiných programů obecné. Každopádně je to krok k dalším systémům umělé inteligence, které by např. dokázaly i cíleně lhát, eventuálně blufovat (poznámka: což do jisté míry již činí např. i programy hrající poker, ale ty podle všeho neanalyzují chování a sklony ostatních hráčů). A abychom se ještě vrátili k původně zmíněným digitálním asistentům; kdyby byly vybaveny teorií mysli, měly by s uživateli dokázat spolupracovat plynuleji. Výzkum má tedy smysl i pro programy interagující nikoliv s jinými AI, ale s lidmi.

Zdroj: Science AAAS


Komentáře

RSS 

Komentujeme

Co s genetickými databázemi?

Pavel Houser , 07. říjen 2018 15:00
Pavel Houser

Jak bylo oznámeno již v letos dubnu, tzv. zabijáka z Golden State odhalily veřejné genetické databáz...

Více

Kalendář

16. 10. Digitální podpora výroby
17. 10.

19. 10.
Future Forces Forum 2018
17. 10. Konfera 2018







RSS 

Zprávičky

Tržby operátorů loni stouply o 2,4 % na 117,3 miliardy Kč

ČTK , 16. říjen 2018 14:48

Loni byl u tržeb ze služeb poskytovaných prostřednictvím mobilní sítě zaznamenán meziroční nárůst o ...

Více 0 komentářů

Robotická automatizace zvýšila produktivitu ve 3/4 českých firem

Pavel Houser , 16. říjen 2018 11:31

Jen 4 % dotázaných společností provozuje více než 50 robotů....

Více 0 komentářů

Zemřel spoluzakladatel Microsoftu Paul Allen

ČTK , 16. říjen 2018 10:28

V roce 1974 spolužáci ze střední školy Allen a Gates vymysleli programovací jazyk Basic. ...

Více 0 komentářů

Starší zprávičky

Dodavatelé vojenských technologií Harris a L3 Technologies se dohodli na fúzi

ČTK , 16. říjen 2018 08:00

Obě firmy vyrábějí satelity pro sledování a širokopásmové komunikační systémy pro armádu a policii....

Více 0 komentářů

Falešné bankovní aplikace opět pronikly do Google Play

Pavel Houser , 15. říjen 2018 12:27

Objeveno šest aplikací, které vytváří dojem, že pochází od renomovaných bankovních institucí nebo sm...

Více 0 komentářů

Pentagonu unikla data o vojácích a civilních zaměstnancích

ČTK , 15. říjen 2018 08:00

Federální zpráva nedávno varovala před nedostatečnou kybernetickou ochranou vojenských zbraňových pr...

Více 0 komentářů

Google se odvolal proti rekordní pokutě od EK za Android

ČTK , 12. říjen 2018 12:35

Případ je poměrně složitý a mohlo by trvat i několik let, než soudci rozhodnou....

Více 0 komentářů