Umělá inteligence s teorií mysli

ITBiz.cz , 02. October 2018 10:15 0 komentářů
Umělá inteligence s teorií mysli

Současné digitální asistenty jsou reaktivní – nesnaží se vytvářet modely cizích myslí, předvídat záměry, nediví se, pokud lidé mění své preference. Nevědí, co uživatelé vědí, a co ne. Jinak řečeno, nemají teorii mysli.

Děti získávají teorii mysli kolem 4 let – tehdy začnou vnímat ostatní jako vědomé tvory a dokáží předvídat chování lidí. Postupně dojdou i k chápání vztahu mezi myslí a realitou – co si někdo myslí, to nemusí být pravda, nicméně dotyčný se bude chovat podle svého přesvědčení, nikoliv reality (tzv. false belief test, test falešné domněnky).

Neil Rabinowitz z DeepMind (firma spadající pod Google, respektive Alphabet) a jeho kolegové nyní vytvořili umělou inteligence ToMnet. Ta má primárně za cíl nikoliv vylepšovat digitální asistenty, ale především posuzovat „mysl“ jiných umělých inteligencí. Při jejich vývoji se většinou spoléhá na strojové učení, takže pak jsou výsledkem černé skřínky – netušíme, na jakém základě se AI rozhoduje, jak se bude rozhodovat v příštích situacích, jaká je její „mysl“. ToMnet se skládá ze 3 neuronových sítí. První analyzuje minulé rozhodování programů AI, druhá na tomto základě vytváří model jejich mysli (přesvědčení/znalosti, preference…) a třetí se snaží integrací těchto 2 sítí předpovědět budoucí kroky cizí umělé inteligence.

Dosud testované AI byly jednoduché – šlo o postavy pohybující se po virtuální místnosti, kde pro zisk bodů sbíraly barevné předměty. Některé z těchto postav byly slepé, jiné neměly paměť. Programy, které viděly a pamatovaly si své minulé kroky, se dokázaly chovat samozřejmě nejúčelněji, procházet místnost s určitým systémem a v určitém pořadí – tak, aby získaly co nejvíc bodů. ToMnet pochopil, do jaké kategorie postava patří, a pak dokázal předvídat její chování.

Na závěr pak ToMnet zvládl i false belief test. Realizovalo se to tak, že v průběhu hry se krajina změnila, ale některé z programů sledovaly chybně svůj původní záměr (viděly jen na několik kroků, kontrolovaly místnost jen po několika krocích apod.). ToMnet opět dokázal zjistit, které z postav mají tento sklon, a pak jejich chování při změnách herní místnosti předvídat.

Dále oslovení vědci uvádějí, že problém ToMnet se zdá být přílišná vazba na jediné „pracovní prostředí“; není jasné, nakolik jsou příslušné schopnosti číst mysl jiných programů obecné. Každopádně je to krok k dalším systémům umělé inteligence, které by např. dokázaly i cíleně lhát, eventuálně blufovat (poznámka: což do jisté míry již činí např. i programy hrající poker, ale ty podle všeho neanalyzují chování a sklony ostatních hráčů). A abychom se ještě vrátili k původně zmíněným digitálním asistentům; kdyby byly vybaveny teorií mysli, měly by s uživateli dokázat spolupracovat plynuleji. Výzkum má tedy smysl i pro programy interagující nikoliv s jinými AI, ale s lidmi.

Zdroj: Science AAAS


Komentáře

RSS 

Komentujeme

Všeumělové nejdou na odbyt

Pavel Houser , 13. June 2019 10:30
Pavel Houser

Stále méně se prý na trhu cení IT dovednosti typu „práce všeho druhu“, kde je příčina?...

Více



Kalendář

22. 06.

23. 06.
Maker Faire Prague 2019
03. 08.

08. 08.
Black Hat USA 2019
25. 08.

29. 08.
VMworld US 2019
RSS 

Zprávičky

Úřady budou ukládat pokuty za porušení zákazu geoblockingu

ČTK , 19. June 2019 10:00

Spodní hranice sankce není stanovena, pokuta za banální prohřešky může být i symbolická....

Více 0 komentářů

Facebook představil plány na vytvoření nové digitální měny

ČTK , 19. June 2019 09:00

Na rozdíl od bitcoinu by libra měla být podložena reálnými finančními aktivy, což by mělo zabránit v...

Více 0 komentářů

Instituce veřejné správy mohou bezplatně žádat o router Turris Omnia

Pavel Houser , 19. June 2019 08:00

Zapojením se do projektu získají organizace bezplatně router Turris Omnia včetně jeho automatických ...

Více 0 komentářů

Starší zprávičky

Volkswagen se rozhodl vytvořit divizi pro vývoj softwaru

ČTK , 18. June 2019 12:48

Divize bude vyvíjet software s jednotnými funkcemi pro všechny koncernové značky....

Více 0 komentářů

Rakouský provozovatel mýtných systémů Kapsch zvýšil zisk

ČTK , 18. June 2019 11:35

Kapsch je od roku 2007 správcem mýtného systému na dálnicích v ČR, jeho smlouva ale na konci letošní...

Více 0 komentářů

Prodej PC v Česku klesl o 3 % na 246 000 kusů

ČTK , 18. June 2019 08:00

Roste zájem zákazníků o počítače ve vyšších cenových kategoriích....

Více 0 komentářů

Hodnota bitcoinu poprvé za více než rok překročila 9000 dolarů

ČTK , 17. June 2019 14:56

Od začátku letošního roku si bitcoin připisuje zhruba 140 %....

Více 0 komentářů