Chatbot mluví za mrtvého – od nápadu k realizaci

Pavel Houser , 30. listopad 2016 13:00 0 komentářů

Na webu The Verge popsala Casey Newton příběh dvou přátel (Eugenia Kuyda a Roman Mazurenko). Peripetie pomiňme, podstatné pro nás budiž to, že po Mazurenkově smrti se Kuyda rozhodla zkusit vytvořil jeho digitální reprezentaci a tímto způsobem ho znovuoživit.

Příslušná reprezentace má podoba chatbota. Zdrojem pro vstupní data a slovník byly především Mazurenkovy e-maily a SMS zprávy a i když tvorba aplikace mezi Mazurenkovými známými původně budila smíšené reakce, nyní si s chatbotem povídá i matka zemřelého. Ne že by aplikace byla nějak dokonalá a už vůbec nešlo o to, aby měla cokoliv na způsob vědomí. Však jde o těžší verzi Turingova testu: nejenom simulovat člověka, ale dokonce konkrétního člověka. Nakonec Mazurenkovi přátelé prý spíše chtějí, aby jim chatbot naslouchal, než aby jim něco říkal a např. jim sděloval názory mrtvého na aktuální události.

Vzpomeňme na první program tohoto typu vůbec, Elizu, která konverzovala prakticky jen tak, že přeuspořádávala věty na druhé straně (na X zareagovala např. otázkou „proč si myslíte, že X“, šlo de facto o parodii na psychoterapii). Rozhodně došlo k velkému pokroku a určité jazykové obraty mrtvého Mazurenka minimálně připomenou.

„Digitální nesmrtelnost“ jsme zde již jednou probírali (Co bude s účty mrtvých), popsaný případ představuje nicméně konkrétní příběh. Nejde už o nápady v obecné rovině, ale někdo to reálně zkusil a dodělal do fungující aplikace. Celé to samozřejmě vyvolává množství úvah hned v několika směrech. Zůstaňme v rovině, že reprezentace nebude mít žádné vědomí, nepůjde tedy o nesmrtelnost pro mrtvého, ale pro pozůstalé. Dokonalost a přesvědčivost příslušného chatbota bude samozřejmě záviset na pokroku technologií (strojové učení a jiné), současně přesvědčivost klíčově závisí také na množství využitelných dat. Tím vzniká určitý paradox: nevíme, kdy zemřeme, a chceme-li si tedy někoho maximálně uchovat, měli bychom si opatřit jeho maximální digitální stopu. Romantická vycházka zůstane uchována maximálně v naší paměti, nicméně stohy e-mailů a SMS umožní, že spolu lidé opravdu zůstanou „navždy“. A co když lidé sice nezemřou, ale stýkat se spolu přestanou? Bude možné, aby si někdo v případě zájmu takto vytvořil repliku druhého člověka, nebo na ni tento má cosi jako „autorská práva“? Je samozřejmě otázka, jak by se vytvoření takového chatbota dalo zabránit, takže třeba takto budeme žít nejenom s mrtvými, ale i s reprezentacemi bývalých partnerů či přátel, kteří nás zavrhli? A proč vlastně ne?

A nakonec se dostáváme i k otázce soukromí. Aby nás chatbot mohl věrně reprezentovat, musí toho o nás co nejvíce vědět. S ohledem na druhé bychom tedy příslušné aplikace měli tedy poskytovat maximum dat ze svého soukromí, a to nikoliv informace typu hesel nebo PINů, ale skutečně přístup k našim nejniternějším myšlenkám. Možná právě tohle nás přiměje skutečně se vzdát soukromí, bezpečnostní kamery, obavy z terorismu nebo personalizace reklamy budou drobnosti ve srovnání s osobní motivací... Budou-li taková data jednou shromážděna – a jsou pro to, jak vidno, rozumné a současně emočně silné důvody – mohou samozřejmě uniknout a mít různé další osudy. Když nic jiného, sociální inženýrství či krádeže identity najednou získají nový rozměr.

A jiná rovina úvah: Nebude pak pro lidi pohodlnější nechat už za živa třeba kontakt s příbuznými na příslušném robotovi? Australský autor sci-fi, spisovatel a matematik Greg Egan, popsal v povídce Únos případ vydírání, kdy se ukáže, že zločinci se zmocnili nikoliv samotné manželky, ale její digitální reprezentace. Hrdina povídky pravdu zjistí snadno (žena je prostě doma), nicméně reprezentace mu přijde natolik odpovídající, že raději zaplatí, než aby si vzal na svědomí utrpení kopie milované bytosti.

I když ale zrovna k tomuhle v brzké budoucnosti asi nedojde, stejně můžeme očekávat celou řadu velmi zajímavých scénářů. Stačí jen, aby se technologie „osobních chatbotů“ rozšířila a navěsily se na ni další aplikace, ekonomické modely, legislativa...


Komentáře

RSS 

Komentujeme

Rok androidů a elektrických oveček

Pavel Houser , 16. leden 2019 12:00
Pavel Houser

Co si o roce 2019 mysleli P. K. Dick, R. Scott a I. Asimov a nakolik jim jejich prognózy vyšly?...

Více

Kalendář

25. 01.

27. 01.
DevConf.cz 2019
29. 01. Reshoper 2019
19. 03.

22. 03.
Amper 2019







RSS 

Zprávičky

Francie vyměřila Googlu pokutu 50 milionů eur

ČTK , 22. leden 2019 08:00

Google si prý nedokázal zajistit adekvátní souhlas uživatelů pro zpracování jejich dat za účelem per...

Více 0 komentářů

Ruský úřad vede správní řízení s Facebookem a Twitterem

ČTK , 21. leden 2019 15:52

Ruské zákony vyžadují, aby údaje o ruských uživatelích byly uchovávány v Rusku....

Více 0 komentářů

Ministerstvo práce selhalo při IT zakázkách, tvrdí NKÚ

ČTK , 21. leden 2019 10:50

Resort podle NKÚ porušil rozpočtovou kázeň za půl miliardy korun....

Více 0 komentářů

Starší zprávičky

V USA zvažují rekordní pokutu pro Facebook

ČTK , 20. leden 2019 08:00

Americké dozorčí orgány zvažují, že uloží internetové společnosti Facebook rekordní pokutu za nedost...

Více 0 komentářů

Země EU se neshodly na podobě směrnice o digitálním copyrightu

ČTK , 19. leden 2019 09:00

Proti sobě stojí ekonomické zájmy velkých internetových firem a mediálních domů, padají ostrá slova ...

Více 0 komentářů

Databáze s 21 miliony hesly

ČTK , 19. leden 2019 08:00

Australan upozornil na dosud patrně největší únik e-mailů a hesel....

Více 0 komentářů

Datovou schránku půjde od příštího roku zřídit dálkově

ČTK , 18. leden 2019 11:21

V současnosti je kvůli zřízení datové schránky nutné dojít na úřad nebo CzechPOINT....

Více 0 komentářů