Umělá inteligence s teorií mysli

ITBiz.cz , 02. October 2018 10:15 0 komentářů
Umělá inteligence s teorií mysli

Současné digitální asistenty jsou reaktivní – nesnaží se vytvářet modely cizích myslí, předvídat záměry, nediví se, pokud lidé mění své preference. Nevědí, co uživatelé vědí, a co ne. Jinak řečeno, nemají teorii mysli.

Děti získávají teorii mysli kolem 4 let – tehdy začnou vnímat ostatní jako vědomé tvory a dokáží předvídat chování lidí. Postupně dojdou i k chápání vztahu mezi myslí a realitou – co si někdo myslí, to nemusí být pravda, nicméně dotyčný se bude chovat podle svého přesvědčení, nikoliv reality (tzv. false belief test, test falešné domněnky).

Neil Rabinowitz z DeepMind (firma spadající pod Google, respektive Alphabet) a jeho kolegové nyní vytvořili umělou inteligence ToMnet. Ta má primárně za cíl nikoliv vylepšovat digitální asistenty, ale především posuzovat „mysl“ jiných umělých inteligencí. Při jejich vývoji se většinou spoléhá na strojové učení, takže pak jsou výsledkem černé skřínky – netušíme, na jakém základě se AI rozhoduje, jak se bude rozhodovat v příštích situacích, jaká je její „mysl“. ToMnet se skládá ze 3 neuronových sítí. První analyzuje minulé rozhodování programů AI, druhá na tomto základě vytváří model jejich mysli (přesvědčení/znalosti, preference…) a třetí se snaží integrací těchto 2 sítí předpovědět budoucí kroky cizí umělé inteligence.

Dosud testované AI byly jednoduché – šlo o postavy pohybující se po virtuální místnosti, kde pro zisk bodů sbíraly barevné předměty. Některé z těchto postav byly slepé, jiné neměly paměť. Programy, které viděly a pamatovaly si své minulé kroky, se dokázaly chovat samozřejmě nejúčelněji, procházet místnost s určitým systémem a v určitém pořadí – tak, aby získaly co nejvíc bodů. ToMnet pochopil, do jaké kategorie postava patří, a pak dokázal předvídat její chování.

Na závěr pak ToMnet zvládl i false belief test. Realizovalo se to tak, že v průběhu hry se krajina změnila, ale některé z programů sledovaly chybně svůj původní záměr (viděly jen na několik kroků, kontrolovaly místnost jen po několika krocích apod.). ToMnet opět dokázal zjistit, které z postav mají tento sklon, a pak jejich chování při změnách herní místnosti předvídat.

Dále oslovení vědci uvádějí, že problém ToMnet se zdá být přílišná vazba na jediné „pracovní prostředí“; není jasné, nakolik jsou příslušné schopnosti číst mysl jiných programů obecné. Každopádně je to krok k dalším systémům umělé inteligence, které by např. dokázaly i cíleně lhát, eventuálně blufovat (poznámka: což do jisté míry již činí např. i programy hrající poker, ale ty podle všeho neanalyzují chování a sklony ostatních hráčů). A abychom se ještě vrátili k původně zmíněným digitálním asistentům; kdyby byly vybaveny teorií mysli, měly by s uživateli dokázat spolupracovat plynuleji. Výzkum má tedy smysl i pro programy interagující nikoliv s jinými AI, ale s lidmi.

Zdroj: Science AAAS


Komentáře

RSS 

Komentujeme

Počítačové hry v hlavě – a to dokonce multiplayer

Pavel Houser , 03. August 2019 06:30
Pavel Houser

Tetris v podání vědců z University of Washington připomíná málem telepatii – jeden z hráčů vidí pada...

Více



Kalendář

25. 08.

29. 08.
VMworld US 2019
05. 09.

06. 09.
Technical Computing Camp 2019
06. 09.

11. 09.
IFA 2019
RSS 

Zprávičky

Na webu Amazonu se prodávaly tisíce problémových produktů

ČTK , 25. August 2019 08:00

Američtí technologičtí giganti ztratili kontrolu nad svými platformami. Amazon se čím dál víc vyvíjí...

Více 0 komentářů

Huawei uvádí na Ascend 910, procesor pro AI

Pavel Houser , 24. August 2019 08:00

Huawei uvedla procesor Ascend 910 a MindSpore, framework pro výpočty související s umělou inteligenc...

Více 0 komentářů

VMware koupí Pivotal Software a Carbon Black za téměř 5 miliard dolarů

ČTK , 23. August 2019 10:05

Kontrolním akcionářem VMware i Pivotal Software je Dell. ...

Více 0 komentářů

Starší zprávičky

Ostravský startup vyvíjí virtuální realitu pro výrobní firmy

ČTK , 23. August 2019 10:04

Produkty firmy už používají například společnosti Continental nebo Tieto. ...

Více 0 komentářů

Regulátoři EU zkoumají plány Facebooku na digitální měnu

ČTK , 23. August 2019 08:00

Facebook ujišťuje, že nebude mít přístup k údajům o transakcích s novou měnou....

Více 0 komentářů

Nad rámec rozpočtů půjde na digitalizaci příští rok 492 mil. Kč

ČTK , 22. August 2019 10:00

Do roku 2021 má plně fungoval portál občana, tak, aby lidé s novými občanskými průkazy mohli řešit v...

Více 0 komentářů

Amazon pokračuje v náboru pro centrum v Dobrovízi, zvyšuje mzdy

ČTK , 22. August 2019 09:00

Amazon nyní nabírá pracovníky pro distribuční centrum, a to i na kvalifikované pozice....

Více 0 komentářů