Rozpoznávání obrazu lze ošálit

Pavel Houser , 18. květen 2017 15:00 0 komentářů
Rozpoznávání obrazu lze ošálit

Rozpoznávání obrazu, ať už s pomocí metod strojového učení/umělé inteligence nebo jinak, je v poslední době stále rozšířenější aplikací. Rozhraní Google Cloud Vision API nyní umožňuje příslušnou funkcionalitu začlenit i do služeb třetích stran. Trocha šumu však stačí, aby rozpoznávání obrázků přestalo fungovat, jak má.

Viz také: Rozpoznávání obrazu – nenápadný příchod nové killer aplikace?

Práce bezpečnostních expertů z University of Washington ale nyní ukázala, že příslušnou službu lze snadno zmást. Stačí, když je v obrázcích trocha šumu. Autoři výzkumu (Hossein Hosseini, Baicen Xiao a Radha Poovendran, publikováno na Arxiv) demonstrují několik případů, kdy přidání 10-15 % šumu způsobuje, že systém již obrázek zařadí špatně, a to i když původní rozeznat dokázal. Platí to stejně pro čajovou konvičku, budovu i letadlo.

Autoři výzkumu se primárně zabývají zabezpečením a naznačují, že přidávání šumu by mohlo fungovat i jako vektor útoku. Tímto způsobem by třeba šlo oslepit dron nebo bezpečnostní kameru. Navíc rozpoznávání typu předmětů se používá třeba i v obchodech, při kontrole na regálech, při vážení. Chyby v rozpoznávání umožňují distribuovat obsah, který by byl jinak automaticky označen za nevhodný. U všech těchto metod útoků se samozřejmě nabízejí i námitky – má-li někdo např. přístup k záznamům bezpečnostních kamer, může s nimi dělat už cokoliv, nejen přidávat šum; a chce-li někdo distribuovat nějak problematický obsah a dosáhne toho, že bude jinak „otagován“, stane se tak současně problematicky dohledatelný i pro zamýšlené příjemce.

Autoři výzkumu v této souvislosti dodávají, že pro člověka zůstávají „zašuměné“ obrázky stále dobře rozpoznatelné, takže lidé by např. nějaké porušení databáze nemuseli vůbec zaznamenat. Google přitom mimochodem experimentuje speciálně s opačným postupem, tedy přidáváním informace, která v obrázku původně vůbec přítomná není: Neuronová síť Googlu rekonstruuje tváře

Zdroj: The Register a další


Komentáře

RSS 

Komentujeme

Virtuální realitou proti strachu ze smrti

Pavel Houser , 18. červenec 2017 07:00
Pavel Houser

Lidé, kteří reportují „zážitky blízké smrti“, pak mnohdy mají ze smrti menší strach. Nedalo by se to...

Více






Kalendář

22. 07.

27. 07.
Black Hat 2017
27. 07.

30. 07.
Defcon 2017
27. 08.

31. 08.
VMworld 2017
RSS 

Zprávičky

Firmy se při přeshraničním prodeji přes Internet bojí podvodů

ČTK , 25. červenec 2017 16:27

Prodejci se obávají, že pokud lidé z jiného unijního státu za zboží nezaplatí, bude složité peníze v...

Více 0 komentářů

Zákazníci preferují biometrii, ale její zavádění je pomalé

Pavel Houser , 25. červenec 2017 12:50

Manažeři v bankách, kteří jsou zodpovědní za zavádění biometrie, připouštějí nedostatek zkušeností....

Více 0 komentářů

Malware Stantinko napadl více než půl milionu uživatelů ve východní Evropě

Pavel Houser , 25. červenec 2017 10:36

Těžce identifikovatelný nový kmen malwaru se šíří prostřednictvím dvou plug-inů pro prohlížeč Chrome...

Více 0 komentářů

Starší zprávičky

Čeští technici měli omylem přístup k tajným databázím Švédska

ČTK , 25. červenec 2017 10:23

Při předávce systémů švédský úřad nedodržel bezpečnostní postupy....

Více 1 komentářů

Zisk Googlu kvůli pokutě z EU klesl o 28 %

ČTK , 25. červenec 2017 10:16

Příjmy Googlu stouply o 20 % na 18,4 miliardy dolarů. Cena za proklik u Googlu klesla o 26 %. ...

Více 0 komentářů

Roboty využívá téměř čtvrtina českých menších firem

ČTK , 24. červenec 2017 10:00

Důvodem investic do robotizace nesmí být všeobecný trend, ale faktická potřeba. ...

Více 0 komentářů

Začne platit nový zákon, který má šetřit náklady na budování sítí

ČTK , 24. červenec 2017 09:00

Provozovatelé vodovodních, energetických i kanalizačních sítí budou muset umožnit přístup zájemců o ...

Více 1 komentářů