Americká Federální komise pro spoje (FCC) ve čtvrtek zakázala používání hlasů vygenerovaných umělou inteligencí v automatizovaných telefonátech využívaných k propagaci obchodních či jiných sdělení. Opatřením chce bojovat proti podvodům a dezinformacím, uvádí americká média. Oznámení kroku předcházelo šíření vzkazu, který imitoval hlas amerického prezidenta Joea Bidena.
Na takzvané robocalls, jak jsou označovány nevyžádané automatizované hovory s různým obsahem, si Američané stěžují už roky. Nyní ale fenomén nabírá nový rozměr se vzestupem systémů, které umožňují věrně napodobovat hlasy politiků či jiných osobností. I z tohoto důvodu sílí před listopadovými volbami v USA obavy z vlny dezinformací poháněných AI.
„Zdá se to jako něco ze vzdálené budoucnosti, ale tohle už se děje,“ uvedla podle deníku The New York Times ředitelka FCC Jessica Rosenworcelová. „Aktéři s nekalými úmysly používají hlasy generované AI v nevyžádaných robocallech, aby vydírali zranitelné členy rodin, napodobovali celebrity a klamali voliče,“ pokračovala.
Dosud mohly americké úřady strůjce stíhat za výsledky takovýchto podvodů, nyní ale bude považováno za protiprávní samotné uplatnění „technologie klonování hlasu“, uvádí FCC. Zpřísnění pravidel přitom založila na zákonu z roku 1991, který reguluje „telemarketing“ a nástroje na automatické vytáčení telefonních čísel.
Americká Federální obchodní komise (FTC) v minulém roce varovala, že podvody využívající napodobeniny hlasů skutečných lidí jsou čím dál častější. Podle veřejnoprávního rozhlasu NPR mimo jiné Američané čelí pokusům o vydírání prostřednictvím záznamů vydávaných za slova jejich blízkých, kteří se ocitli v ohrožení.
Na problém falešných vzkazů minulý měsíc znovu upozornil incident ve státě New Hampshire, kde se konaly prezidentské primárky. Tisíce lidí tam byly terčem uměle vytvořeného vzkazu imitujícího prezidenta Bidena, který je vyzýval, aby se hlasování neúčastnili.
Generální prokurátor severovýchodního státu USA zahájil vyšetřování pro podezření z potlačování volebního práva a tento týden uvedl, že za telefonáty zřejmě stála skupina z Texasu. Pachatelé podle něj zmanipulovali údaje o hovorech tak, aby se zdálo, že přichází od bývalé šéfky Demokratické strany v New Hampshiru.
