Tak jako dosud skoro každá technologie, i umělá inteligence se dostane do rukou zločincům. Jak s její pomocí mohou škodit?
Studie University College London se soustředila na bezprostřední rizika v horizontu příštích zhruba 15 let, nikoliv na sci-fi (jaké vůbec bude v éře pokročilé umělé inteligence místo člověka apod.). Jako základní faktor, který bude rozhodovat o atraktivitě různých aplikací pro zločince, ze studie vychází možnost škálování.
Jinak řečeno, zločinci mohou např. vytvářet zabijácké roboty, útočící drony nebo nenápadně fungující miniaturní nanostrojky, pustit do akce vlastní samořízená auta plná výbušnin, ale to všechno je značně nákladné. Mnohem levnější a efektivnější je zkoušet zneužívat samořízená auta již fungující v běžném provozu. Z tohoto hlediska pak rizikový může být libovolný systém umělé inteligence, pokud ho útočníci dokáží nějak ovládnout či modifikovat – totéž ale platí pro každý automatizovaný systém.
Když zůstaneme skutečně u aplikací AI v rukou těch špatných, ze studie vyplývá, že pro zločince budou nejvýnosnější aplikace čistě softwarové, kde se náklady na zkopírování jednou použitého útoku blíží nule. Podvržené zprávy či videa si dnes dáváme do souvislosti hlavně s ovlivňováním veřejného mínění. Příležitostí je zde ale relativně málo (jak často se konají volby apod.) a podvodníci zde obvykle stojí proti jinému silnému protivníkovi, třeba provozovatelům sociálních sítí, médiím apod. Ty zase mají v rukou vlastní technologie (opět včetně AI) k odhalování padělků a boji proti nim.
Mnohem účinnější bude zřejmě „fake“ zaměřit proti jednotlivcům, malým firmám apod. Fotografie a vzorek hlasu stačí k vytvoření přesvědčivého videa, že dotyčný byl unesen nebo akutně potřebuje zaslat peníze. Vydírání rodinných příslušníků se stane běžným. Přímo se nabízí i propojení těchto technik s phishingem. Pokud umělá inteligence dokáže dostatečně věrně zahrát roli konkrétního člověka, podvodníci mají v rukou velmi účinný prostředek, jak získat přístup do systémů. Výsledkem může být (do značné míry rozumná) všeobecná nedůvěra k digitálnímu obsahu, ke všemu, co člověk neviděl na vlastní oči nebo mu někdo nesdělil osobně.
Obecně pak stejně jako u jiných verzí počítačové kriminality také nejúspěšnější aplikace využívající AI budou takové, které půjde jednoduše prodávat a pronajímat jako službu.
Zdroj: University College London/ZDNet