Manažer převedl 220.000 eur na účty podvodníků, kteří použili klon hlasu jeho nadřízeného.
Technologie umožňující klonování hlasu se stále zlepšuje a budí čím dál tím větší zájem u herců, ale i podvodníků v kybernetickém prostoru, napsal portál stanice BBC. V poslední době zaznamenala tato technologie takový pokrok, že počítačem vytvořený zvuk napodobující něčí hlas je údajně znepokojivě přesný.
Pod klonováním hlasu rozumíme použití počítačového programu k vytvoření takové umělé kopie hlasu určité osoby, s níž lze dále pracovat. Program dokáže pomocí nahrávky daného člověka reprodukovat jeho hlas a použít ho k vyslovení nových slov nebo celých vět. Software je schopen zachytit nejen přízvuk, ale také barvu hlasu, jeho stoupavou a klesavou tendenci, tempo řeči, její plynutí i způsob nadechování. Naklonovaný hlas pak může být upraven k vyjádření kýženého pocitu jako například vzteku, strachu, radosti, lásky nebo znuděnosti.
Když Tim Heller, devětadvacetiletý dabér a herec z Texasu, poprvé uslyšel kopii svého hlasu, připadala mu tak přesná, že mu prý spadla čelist. Heller propůjčuje svůj hlas animovaným postavám, namlouvá audioknihy, dokumentární filmy nebo počítačové hry a promlouvá ve filmových upoutávkách. Kopii hlasu si nechal vytvořit, aby si podle svých slov zajistil budoucnost své kariéry.
Domnívá se, že technologie by mu mohla pomoci dostat se k více pracovním nabídkám. Například pokud by dostal dvě najednou, mohl by použít svůj klon, aby za něj udělal jeden ze svěřených úkolů. Obrátil se přitom na bostonskou firmu VocaliD, jednu z nedávno vzniklých společností, které tuto službu nabízejí. Firmu založila její výkonná ředitelka Rupal Patelová, která také vyučuje komunikační vědy a řečové poruchy na americké Severovýchodní univerzitě. Vytvořením firmy navázala na svoji klinickou práci. V ní se zabývala vytvářením umělých hlasů pro pacienty, kteří nemohou například po operaci nebo prodělání nemoci mluvit bez asistence.
Podle Patelové technologie klonování hlasu v posledních letech značně pokročila. „Specializujeme se také na hlasy, které mají specifický přízvuk. Vytvořili jsme například několik hlasů transgenderových osob,“ uvádí Patelová.
Kopii hlasu lze použít také k tomu, aby byla hercova slova přeložena do jiných jazyků. To by mohlo znamenat, že filmové společnosti by v budoucnu nemusely najímat dabéry při uvádění filmů v zahraničí. Kanadská firma Resemble AI uvádí, že dokáže naklonovat hlasy anglicky mluvících osob a použít je pro 15 dalších jazyků. Její výkonný ředitel Zohaib Ahmed upřesňuje, že aby program dokázal vytvořit kvalitní kopii něčího hlasu, potřebuje alespoň desetiminutovou nahrávku, na níž daná osoba mluví.
„Když se umělá inteligence učí váš hlas, poznává mnoho jeho vlastností jako barvu, stoupavou a klesavou tendenci a intenzitu,“ vysvětluje Ahmed. „Soustředí se ale i na tisíce dalších jeho rysů, které pro nás nemusí být příliš zřejmé,“ uvádí Ahmed.
Přestože má stále se zlepšující kvalita hlasového klonování zřejmý komerční potenciál, vznikají také obavy, že by technologie mohla být zneužita ke kybernetickým zločinům. Společně s videem generovaným počítačem a vydávajícím se za konkrétní osobu se audio vytvořené umělým hlasem nazývá „deepfake“.
„Již léta víme, že v e-mailech nebo textových zprávách je snadné se vydávat za někoho jiného. Ale mluvit po telefonu s někým, koho znáte a důvěřujete mu, bylo až doposud nejběžnější cestou, jak se ujistit, že mluvíte skutečně s tím pravým člověkem,“ říká Eddy Bobritsky, odborník na kybernetickou bezpečnost, který stojí v čele izraelské firmy Minerva Labs. To se podle Bobritského nyní ale mění. „Například pokud šéf zavolá podřízenému, který zná jeho hlas, a zeptá se ho na citlivé údaje, zaměstnanec nejspíše zareaguje tak, že udělá, o co je žádán,“ rozvíjí Bobritsky.
O podobném případu, kdy byl takto obelhán manažer z Británie, psal v roce 2019 list The Wall Street Journal. Manažer tehdy převedl 220.000 eur (asi 5,6 milionu Kč) na účty podvodníků, kteří použili klon hlasu jeho německého nadřízeného.
Společnosti po celém světě se již věnují předcházení těmto rizikům. Falešnost nahrávek se snaží rozpoznat tak, že se soustředí na charakteristické znaky jako opakování, digitální zvuk nebo i použití určitých vět nebo slov. Na toto téma se zaměřují také vlády jednotlivých zemí a nadnárodní instituce. V minulém roce například Europol, agentura Evropské unie pro spolupráci v oblasti prosazování práva, vyzvala členské státy, aby učinily značné investice do technologií, které dokážou falešné nahrávky odhalit.
Že by klonování hlasu mohlo připravit dabéry o práci, se již zmiňovaný herec z Texasu Heller nebojí. „Jsem přesvědčen, že po skutečném lidském hlasu bude vždy poptávka. Smyslem mého klonu není nahradit mě nebo někoho jiného, ale poskytnout mi přídavný nástroj pro mé podnikání,“ vysvětluje. Svůj klon se mu zatím nepodařilo prodat, několik klientů prý ale projevilo zájem.
