Deepfakes: Umělá inteligence v informační válce

Američtí vědci i kongresmani se obávají, že technologicky vysoce vyspělé nástroje využívající umělou inteligenci a takzvané mapování tváře se stanou nejnovější zbraní v informační válce proti USA a západním demokraciím. Napsala to dnes agentura AP. Nové technologie, dostupné na internetu, umožňují šířit po světě videa s vyobrazením reálných lidí pronášejících výroky, které ve skutečnosti nikdy nezazněly.

Zatím se takové obrázky s politickým obsahem ve veřejném prostoru příliš neobjevují, ale podle expertů není otázkou zda, ale kdy. Už loni se produkce takzvaných "deepfakes", tedy zvlášť lstivých podvodů, objevila na pornografických serverech nebo na komunitní síti Reddit. Pornoherci tam prezentují své výkony s tvářemi známých celebrit. Síť Reddit i například twitter podobná videa mažou.

"Očekáváme, že ve Spojených státech se tato technika objeví v listopadových kongresových volbách a v prezidentských volbách v roce 2020," řekl agentuře AP Hany Farid, expert na digitální technologie ze státu New Hampshire. "Technologie nezná hranic a dopad to bude mít na všechny," soudí Farid. Svět podle něj vstupuje do éry, kdy nebude jisté nic, co člověk vidí. Lidé pak budou za podvod považovat i videa zobrazující skutečnost.

Výzkumné agentury amerického ministerstva obrany se už dva roky zabývají vývojem nástrojů, které "deepfakes" rozpoznají, napsala AP. Zatím je k jejich identifikaci nutná rozsáhlá analýza a není jasné, zda vývoj obranných prostředků nebude za vývojem manipulativních technik zaostávat.

Metoda "deepfakes" využívá postupů takzvaného hlubokého učení (deep learning), což je forma umělé inteligence. Počítač dostane velký objem algoritmů, tedy vzorových podkladových souborů ve formě obrázků a zvuků se zachycením cílové osoby. S jejich využitím se naučí uměle vytvářet výrazy její tváře, pohyby těla, způsob a intonaci řeči. Má-li stroj dostatek podkladů, může vyrobit video s vyobrazením osoby hovořící prakticky o čemkoli, chovající se jakkoli.

Podle amerického senátora Marka Rubia je snadné si představit, že se této techniky zmocní cizí státy s cílem poškodit USA. Může se objevit video amerických vojáků masakrujících civilisty, záznam projevu amerického politika spřádajícího spiklenecké plány, obrázek íránského nebo severokorejského vůdce oznamujícího okamžitý útok na USA. Podle Rubia může vzniknout chaos a nestabilita před důležitými volbami nebo klíčovým rozhodnutím vlády.

"Za rok či dva bude prakticky nemožné rozeznat podvod od skutečnosti," předpověděl Andrew Grotto ze Stanfordovy univerzity. "Státy nedokážou odolat, aby této techniky nevyužily k manipulaci veřejným míněním, ke zmatení veřejnosti a podkopání důvěry v demokratické instituce," varoval Grotto. Státníci by podle něj proto měli veřejně vyhlásit, že podobné praktiky nemají v civilizované politické debatě místo.