Chatbot mluví za mrtvého – od nápadu k realizaci

Pavel Houser , 30. listopad 2016 13:00 0 komentářů

Na webu The Verge popsala Casey Newton příběh dvou přátel (Eugenia Kuyda a Roman Mazurenko). Peripetie pomiňme, podstatné pro nás budiž to, že po Mazurenkově smrti se Kuyda rozhodla zkusit vytvořil jeho digitální reprezentaci a tímto způsobem ho znovuoživit.

Příslušná reprezentace má podoba chatbota. Zdrojem pro vstupní data a slovník byly především Mazurenkovy e-maily a SMS zprávy a i když tvorba aplikace mezi Mazurenkovými známými původně budila smíšené reakce, nyní si s chatbotem povídá i matka zemřelého. Ne že by aplikace byla nějak dokonalá a už vůbec nešlo o to, aby měla cokoliv na způsob vědomí. Však jde o těžší verzi Turingova testu: nejenom simulovat člověka, ale dokonce konkrétního člověka. Nakonec Mazurenkovi přátelé prý spíše chtějí, aby jim chatbot naslouchal, než aby jim něco říkal a např. jim sděloval názory mrtvého na aktuální události.

Vzpomeňme na první program tohoto typu vůbec, Elizu, která konverzovala prakticky jen tak, že přeuspořádávala věty na druhé straně (na X zareagovala např. otázkou „proč si myslíte, že X“, šlo de facto o parodii na psychoterapii). Rozhodně došlo k velkému pokroku a určité jazykové obraty mrtvého Mazurenka minimálně připomenou.

„Digitální nesmrtelnost“ jsme zde již jednou probírali (Co bude s účty mrtvých), popsaný případ představuje nicméně konkrétní příběh. Nejde už o nápady v obecné rovině, ale někdo to reálně zkusil a dodělal do fungující aplikace. Celé to samozřejmě vyvolává množství úvah hned v několika směrech. Zůstaňme v rovině, že reprezentace nebude mít žádné vědomí, nepůjde tedy o nesmrtelnost pro mrtvého, ale pro pozůstalé. Dokonalost a přesvědčivost příslušného chatbota bude samozřejmě záviset na pokroku technologií (strojové učení a jiné), současně přesvědčivost klíčově závisí také na množství využitelných dat. Tím vzniká určitý paradox: nevíme, kdy zemřeme, a chceme-li si tedy někoho maximálně uchovat, měli bychom si opatřit jeho maximální digitální stopu. Romantická vycházka zůstane uchována maximálně v naší paměti, nicméně stohy e-mailů a SMS umožní, že spolu lidé opravdu zůstanou „navždy“. A co když lidé sice nezemřou, ale stýkat se spolu přestanou? Bude možné, aby si někdo v případě zájmu takto vytvořil repliku druhého člověka, nebo na ni tento má cosi jako „autorská práva“? Je samozřejmě otázka, jak by se vytvoření takového chatbota dalo zabránit, takže třeba takto budeme žít nejenom s mrtvými, ale i s reprezentacemi bývalých partnerů či přátel, kteří nás zavrhli? A proč vlastně ne?

A nakonec se dostáváme i k otázce soukromí. Aby nás chatbot mohl věrně reprezentovat, musí toho o nás co nejvíce vědět. S ohledem na druhé bychom tedy příslušné aplikace měli tedy poskytovat maximum dat ze svého soukromí, a to nikoliv informace typu hesel nebo PINů, ale skutečně přístup k našim nejniternějším myšlenkám. Možná právě tohle nás přiměje skutečně se vzdát soukromí, bezpečnostní kamery, obavy z terorismu nebo personalizace reklamy budou drobnosti ve srovnání s osobní motivací... Budou-li taková data jednou shromážděna – a jsou pro to, jak vidno, rozumné a současně emočně silné důvody – mohou samozřejmě uniknout a mít různé další osudy. Když nic jiného, sociální inženýrství či krádeže identity najednou získají nový rozměr.

A jiná rovina úvah: Nebude pak pro lidi pohodlnější nechat už za živa třeba kontakt s příbuznými na příslušném robotovi? Australský autor sci-fi, spisovatel a matematik Greg Egan, popsal v povídce Únos případ vydírání, kdy se ukáže, že zločinci se zmocnili nikoliv samotné manželky, ale její digitální reprezentace. Hrdina povídky pravdu zjistí snadno (žena je prostě doma), nicméně reprezentace mu přijde natolik odpovídající, že raději zaplatí, než aby si vzal na svědomí utrpení kopie milované bytosti.

I když ale zrovna k tomuhle v brzké budoucnosti asi nedojde, stejně můžeme očekávat celou řadu velmi zajímavých scénářů. Stačí jen, aby se technologie „osobních chatbotů“ rozšířila a navěsily se na ni další aplikace, ekonomické modely, legislativa...


Komentáře

RSS 

Komentujeme

Umělá inteligence rozpoznává tvář zločince

Pavel Houser , 27. červen 2017 12:30
Pavel Houser

Když dnes člověk prohlásí, že rysy tváře souvisejí se zločinností, bude za šarlatána, který chce kří...

Více






Kalendář

25. 06.

29. 06.
Cisco Live 2017
22. 07.

27. 07.
Black Hat 2017
27. 07.

30. 07.
Defcon 2017
RSS 

Zprávičky

Amazon usnadní službami českým podnikům prodej v zahraničí

ČTK , 28. červen 2017 12:00

České firmy při prodeji v jiných zemích často bojují s bariérami, jako jsou vysoké dopravní náklady ...

Více 0 komentářů

Lenovo představuje nové portfolio datových center

Pavel Houser , 28. červen 2017 10:00

Portfolio produktů ThinkSystem spojuje pod jednotnou značkou servery, úložiště a síťové systémy. ...

Více 0 komentářů

Do systému eReceptů zapojena čtvrtina lékařů a většina lékáren

ČTK , 28. červen 2017 09:00

Od 1. ledna příštího roku bude vydávání elektronických receptů pro všechny lékaře povinné. ...

Více 0 komentářů

Starší zprávičky

Nvidia bude spolupracovat s Volvem a VW na samořízených autech

ČTK , 28. červen 2017 08:00

Volvo hodlá uvést autonomní auta na trh do roku 2021, Audi o rok dříve....

Více 0 komentářů

ČR mezi 10 nejpostiženějšími zeměmi ransomwarového útoku

Pavel Houser , 28. červen 2017 07:00

K aktuálním útokům ransomwarem, který byl zaznamenán nejprve na Ukrajině a v Rusku, začaly vydávat s...

Více 0 komentářů

Hackeři napadli ukrajinské banky a podniky, i ruskou Rosněfť

ČTK , 27. červen 2017 18:27

Ukrajinu dnes zasáhla největší vlna hackerských útoků v historii země, informovalo ukrajinské minist...

Více 0 komentářů

Google dostal od Evropské komise rekordní pokutu 2,4 miliardy eur

ČTK , 27. červen 2017 13:06

Google se musí začít ke konkurenčním srovnávačům cen chovat stejně jako k vlastní službě. ...

Více 1 komentářů