Chatbot mluví za mrtvého – od nápadu k realizaci

Pavel Houser , 30. listopad 2016 13:00 0 komentářů

Na webu The Verge popsala Casey Newton příběh dvou přátel (Eugenia Kuyda a Roman Mazurenko). Peripetie pomiňme, podstatné pro nás budiž to, že po Mazurenkově smrti se Kuyda rozhodla zkusit vytvořil jeho digitální reprezentaci a tímto způsobem ho znovuoživit.

Příslušná reprezentace má podoba chatbota. Zdrojem pro vstupní data a slovník byly především Mazurenkovy e-maily a SMS zprávy a i když tvorba aplikace mezi Mazurenkovými známými původně budila smíšené reakce, nyní si s chatbotem povídá i matka zemřelého. Ne že by aplikace byla nějak dokonalá a už vůbec nešlo o to, aby měla cokoliv na způsob vědomí. Však jde o těžší verzi Turingova testu: nejenom simulovat člověka, ale dokonce konkrétního člověka. Nakonec Mazurenkovi přátelé prý spíše chtějí, aby jim chatbot naslouchal, než aby jim něco říkal a např. jim sděloval názory mrtvého na aktuální události.

Vzpomeňme na první program tohoto typu vůbec, Elizu, která konverzovala prakticky jen tak, že přeuspořádávala věty na druhé straně (na X zareagovala např. otázkou „proč si myslíte, že X“, šlo de facto o parodii na psychoterapii). Rozhodně došlo k velkému pokroku a určité jazykové obraty mrtvého Mazurenka minimálně připomenou.

„Digitální nesmrtelnost“ jsme zde již jednou probírali (Co bude s účty mrtvých), popsaný případ představuje nicméně konkrétní příběh. Nejde už o nápady v obecné rovině, ale někdo to reálně zkusil a dodělal do fungující aplikace. Celé to samozřejmě vyvolává množství úvah hned v několika směrech. Zůstaňme v rovině, že reprezentace nebude mít žádné vědomí, nepůjde tedy o nesmrtelnost pro mrtvého, ale pro pozůstalé. Dokonalost a přesvědčivost příslušného chatbota bude samozřejmě záviset na pokroku technologií (strojové učení a jiné), současně přesvědčivost klíčově závisí také na množství využitelných dat. Tím vzniká určitý paradox: nevíme, kdy zemřeme, a chceme-li si tedy někoho maximálně uchovat, měli bychom si opatřit jeho maximální digitální stopu. Romantická vycházka zůstane uchována maximálně v naší paměti, nicméně stohy e-mailů a SMS umožní, že spolu lidé opravdu zůstanou „navždy“. A co když lidé sice nezemřou, ale stýkat se spolu přestanou? Bude možné, aby si někdo v případě zájmu takto vytvořil repliku druhého člověka, nebo na ni tento má cosi jako „autorská práva“? Je samozřejmě otázka, jak by se vytvoření takového chatbota dalo zabránit, takže třeba takto budeme žít nejenom s mrtvými, ale i s reprezentacemi bývalých partnerů či přátel, kteří nás zavrhli? A proč vlastně ne?

A nakonec se dostáváme i k otázce soukromí. Aby nás chatbot mohl věrně reprezentovat, musí toho o nás co nejvíce vědět. S ohledem na druhé bychom tedy příslušné aplikace měli tedy poskytovat maximum dat ze svého soukromí, a to nikoliv informace typu hesel nebo PINů, ale skutečně přístup k našim nejniternějším myšlenkám. Možná právě tohle nás přiměje skutečně se vzdát soukromí, bezpečnostní kamery, obavy z terorismu nebo personalizace reklamy budou drobnosti ve srovnání s osobní motivací... Budou-li taková data jednou shromážděna – a jsou pro to, jak vidno, rozumné a současně emočně silné důvody – mohou samozřejmě uniknout a mít různé další osudy. Když nic jiného, sociální inženýrství či krádeže identity najednou získají nový rozměr.

A jiná rovina úvah: Nebude pak pro lidi pohodlnější nechat už za živa třeba kontakt s příbuznými na příslušném robotovi? Australský autor sci-fi, spisovatel a matematik Greg Egan, popsal v povídce Únos případ vydírání, kdy se ukáže, že zločinci se zmocnili nikoliv samotné manželky, ale její digitální reprezentace. Hrdina povídky pravdu zjistí snadno (žena je prostě doma), nicméně reprezentace mu přijde natolik odpovídající, že raději zaplatí, než aby si vzal na svědomí utrpení kopie milované bytosti.

I když ale zrovna k tomuhle v brzké budoucnosti asi nedojde, stejně můžeme očekávat celou řadu velmi zajímavých scénářů. Stačí jen, aby se technologie „osobních chatbotů“ rozšířila a navěsily se na ni další aplikace, ekonomické modely, legislativa...


Komentáře

RSS 

Komentujeme

Další na řadě je bezpečnost

Richard Jan Voigts , 09. říjen 2017 00:00
Richard Jan Voigts

Co všechno lze automatizovat pomocí strojového učení? Larry Ellison, technologický ředitel společnos...

Více







Kalendář

19. 10.

22. 10.
For Games 2017
24. 10. VeeamON Forum 2017
25. 10.

26. 10.
Profesia days 2017
RSS 

Zprávičky

Úřad pro ochranu osobních údajů vyšetřuje e-shop Mall.cz kvůli úniku hesel

ČTK , 22. říjen 2017 08:00

Obchodu Mall.cz odcizili hackeři údaje až ke 750 000 starších uživatelských účtů....

Více 0 komentářů

Firma vypsala odměnu za odhalení digitálního podpisu slovenského ministra

ČTK , 21. říjen 2017 08:00

Problém se týká čipů německého výrobce Infineon Technologies, které Slovensko používá v občanských p...

Více 0 komentářů

Electro World v účetním roce zmírnil ztrátu na 92 milionů Kč

ČTK , 20. říjen 2017 12:00

Firma se soustředila na zlepšení prodejní a distribuční sítě a rozšíření sortimentu....

Více 0 komentářů

Starší zprávičky

Dohoda o ochraně dat mezi EU a USA prošla první kontrolou

ČTK , 20. říjen 2017 08:00

Cílem dohody je chránit osobní údaje osob v EU předávané společnostem v USA. ...

Více 0 komentářů

Operátoři: Metro by mohlo být signálem pokryté do konce roku 2018

ČTK , 20. říjen 2017 08:00

Operátoři mají enormní zájem na pokrytí pražského metra, a to na vlastní náklady....

Více 0 komentářů

Firmu Moravia IT koupil britský konkurent RWS Holding

ČTK , 19. říjen 2017 21:26

Mezi zákazníky firmy specializující se na lokalizaci a testování softwaru patří např. Microsoft, IBM...

Více 0 komentářů

Státní ústav pro kontrolu léčiv hájí elektronické recepty

ČTK , 19. říjen 2017 10:00

V ČR se vydá 60-70 milionů papírových receptů ročně. Podle ministerstva je elektronizace zdravotnict...

Více 0 komentářů