Chatbot mluví za mrtvého – od nápadu k realizaci

Pavel Houser , 30. listopad 2016 13:00 0 komentářů

Na webu The Verge popsala Casey Newton příběh dvou přátel (Eugenia Kuyda a Roman Mazurenko). Peripetie pomiňme, podstatné pro nás budiž to, že po Mazurenkově smrti se Kuyda rozhodla zkusit vytvořil jeho digitální reprezentaci a tímto způsobem ho znovuoživit.

Příslušná reprezentace má podoba chatbota. Zdrojem pro vstupní data a slovník byly především Mazurenkovy e-maily a SMS zprávy a i když tvorba aplikace mezi Mazurenkovými známými původně budila smíšené reakce, nyní si s chatbotem povídá i matka zemřelého. Ne že by aplikace byla nějak dokonalá a už vůbec nešlo o to, aby měla cokoliv na způsob vědomí. Však jde o těžší verzi Turingova testu: nejenom simulovat člověka, ale dokonce konkrétního člověka. Nakonec Mazurenkovi přátelé prý spíše chtějí, aby jim chatbot naslouchal, než aby jim něco říkal a např. jim sděloval názory mrtvého na aktuální události.

Vzpomeňme na první program tohoto typu vůbec, Elizu, která konverzovala prakticky jen tak, že přeuspořádávala věty na druhé straně (na X zareagovala např. otázkou „proč si myslíte, že X“, šlo de facto o parodii na psychoterapii). Rozhodně došlo k velkému pokroku a určité jazykové obraty mrtvého Mazurenka minimálně připomenou.

„Digitální nesmrtelnost“ jsme zde již jednou probírali (Co bude s účty mrtvých), popsaný případ představuje nicméně konkrétní příběh. Nejde už o nápady v obecné rovině, ale někdo to reálně zkusil a dodělal do fungující aplikace. Celé to samozřejmě vyvolává množství úvah hned v několika směrech. Zůstaňme v rovině, že reprezentace nebude mít žádné vědomí, nepůjde tedy o nesmrtelnost pro mrtvého, ale pro pozůstalé. Dokonalost a přesvědčivost příslušného chatbota bude samozřejmě záviset na pokroku technologií (strojové učení a jiné), současně přesvědčivost klíčově závisí také na množství využitelných dat. Tím vzniká určitý paradox: nevíme, kdy zemřeme, a chceme-li si tedy někoho maximálně uchovat, měli bychom si opatřit jeho maximální digitální stopu. Romantická vycházka zůstane uchována maximálně v naší paměti, nicméně stohy e-mailů a SMS umožní, že spolu lidé opravdu zůstanou „navždy“. A co když lidé sice nezemřou, ale stýkat se spolu přestanou? Bude možné, aby si někdo v případě zájmu takto vytvořil repliku druhého člověka, nebo na ni tento má cosi jako „autorská práva“? Je samozřejmě otázka, jak by se vytvoření takového chatbota dalo zabránit, takže třeba takto budeme žít nejenom s mrtvými, ale i s reprezentacemi bývalých partnerů či přátel, kteří nás zavrhli? A proč vlastně ne?

A nakonec se dostáváme i k otázce soukromí. Aby nás chatbot mohl věrně reprezentovat, musí toho o nás co nejvíce vědět. S ohledem na druhé bychom tedy příslušné aplikace měli tedy poskytovat maximum dat ze svého soukromí, a to nikoliv informace typu hesel nebo PINů, ale skutečně přístup k našim nejniternějším myšlenkám. Možná právě tohle nás přiměje skutečně se vzdát soukromí, bezpečnostní kamery, obavy z terorismu nebo personalizace reklamy budou drobnosti ve srovnání s osobní motivací... Budou-li taková data jednou shromážděna – a jsou pro to, jak vidno, rozumné a současně emočně silné důvody – mohou samozřejmě uniknout a mít různé další osudy. Když nic jiného, sociální inženýrství či krádeže identity najednou získají nový rozměr.

A jiná rovina úvah: Nebude pak pro lidi pohodlnější nechat už za živa třeba kontakt s příbuznými na příslušném robotovi? Australský autor sci-fi, spisovatel a matematik Greg Egan, popsal v povídce Únos případ vydírání, kdy se ukáže, že zločinci se zmocnili nikoliv samotné manželky, ale její digitální reprezentace. Hrdina povídky pravdu zjistí snadno (žena je prostě doma), nicméně reprezentace mu přijde natolik odpovídající, že raději zaplatí, než aby si vzal na svědomí utrpení kopie milované bytosti.

I když ale zrovna k tomuhle v brzké budoucnosti asi nedojde, stejně můžeme očekávat celou řadu velmi zajímavých scénářů. Stačí jen, aby se technologie „osobních chatbotů“ rozšířila a navěsily se na ni další aplikace, ekonomické modely, legislativa...


Komentáře

RSS 

Komentujeme

Microsoft a GitHub

Pavel Houser , 13. červen 2018 13:30
Pavel Houser

Transakce v hodnotě 7,5 miliardy dolarů je dost velká i na poměry Microsoftu, takže se prodejem GitH...

Více







RSS 

Zprávičky

Manažeři France Télécom půjdou před soud kvůli sebevraždám

ČTK , 18. červen 2018 12:47

Vlna sebevražd ve France Télécom (dnes Orange) začala v roce 2008 a vyžádala si desítky životů. ...

Více 0 komentářů

Zranitelnosti chytrých aut pod lupou

Pavel Houser , 18. červen 2018 12:43

Nástroje podvodníků se zaměřují především na extendery, které poskytují přístup k uzavřeným funkcím ...

Více 0 komentářů

Foxconn otevře severoamerické ústředí ve Wisconsinu

ČTK , 18. červen 2018 00:00

Foxconn již loni oznámil, že ve Wisconsinu investuje 10 miliard dolarů do výstavby továrny na LCD....

Více 0 komentářů

Kalendář

17. 06.

21. 06.
Cyber Week 2018
19. 06.

22. 06.
Automatica 2018
23. 06.

24. 06.
Maker Faire Prague 2018

Starší zprávičky

Češi obměňují počítač za šest let, dvakrát déle než vyspělý svět

ČTK , 16. červen 2018 08:00

Výpočetní techniku si na leasing v tuzemsku pořizuje 23 % firem, ve vyspělých zemích jsou to až 3/4 ...

Více 3 komentářů

Dell představuje úložiště PowerMax

Pavel Houser , 15. červen 2018 16:14

Dell oznámil uvedení několika nových úložných a serverových produktů s podporou uceleného portfolia ...

Více 0 komentářů

AT&T dokončila převzetí mediální firmy Time Warner

ČTK , 15. červen 2018 13:22

Očekává se, že spojení AT&T a Time Warner vyvolá vlnu fúzí. Comcast chce převzít Twenty-First Centur...

Více 0 komentářů

Po dohodě s USA čínská ZTE ztratila 3 miliardy dolarů tržní hodnoty

ČTK , 15. červen 2018 08:00

Americký zákaz před dohodou paralyzoval klíčové aktivity ZTE a firmě hrozil bankrot....

Více 0 komentářů