Rozpoznávání obrazu lze ošálit

Pavel Houser , 18. květen 2017 15:00 0 komentářů
Rozpoznávání obrazu lze ošálit

Rozpoznávání obrazu, ať už s pomocí metod strojového učení/umělé inteligence nebo jinak, je v poslední době stále rozšířenější aplikací. Rozhraní Google Cloud Vision API nyní umožňuje příslušnou funkcionalitu začlenit i do služeb třetích stran. Trocha šumu však stačí, aby rozpoznávání obrázků přestalo fungovat, jak má.

Viz také: Rozpoznávání obrazu – nenápadný příchod nové killer aplikace?

Práce bezpečnostních expertů z University of Washington ale nyní ukázala, že příslušnou službu lze snadno zmást. Stačí, když je v obrázcích trocha šumu. Autoři výzkumu (Hossein Hosseini, Baicen Xiao a Radha Poovendran, publikováno na Arxiv) demonstrují několik případů, kdy přidání 10-15 % šumu způsobuje, že systém již obrázek zařadí špatně, a to i když původní rozeznat dokázal. Platí to stejně pro čajovou konvičku, budovu i letadlo.

Autoři výzkumu se primárně zabývají zabezpečením a naznačují, že přidávání šumu by mohlo fungovat i jako vektor útoku. Tímto způsobem by třeba šlo oslepit dron nebo bezpečnostní kameru. Navíc rozpoznávání typu předmětů se používá třeba i v obchodech, při kontrole na regálech, při vážení. Chyby v rozpoznávání umožňují distribuovat obsah, který by byl jinak automaticky označen za nevhodný. U všech těchto metod útoků se samozřejmě nabízejí i námitky – má-li někdo např. přístup k záznamům bezpečnostních kamer, může s nimi dělat už cokoliv, nejen přidávat šum; a chce-li někdo distribuovat nějak problematický obsah a dosáhne toho, že bude jinak „otagován“, stane se tak současně problematicky dohledatelný i pro zamýšlené příjemce.

Autoři výzkumu v této souvislosti dodávají, že pro člověka zůstávají „zašuměné“ obrázky stále dobře rozpoznatelné, takže lidé by např. nějaké porušení databáze nemuseli vůbec zaznamenat. Google přitom mimochodem experimentuje speciálně s opačným postupem, tedy přidáváním informace, která v obrázku původně vůbec přítomná není: Neuronová síť Googlu rekonstruuje tváře

Zdroj: The Register a další


Komentáře

RSS 

Komentujeme

Agilita a devops, přepracování a vyhoření

Pavel Houser , 12. červenec 2018 12:30
Pavel Houser

Michael Cote na The Register upozorňuje na častý problém: nové „agilní“ metody vývoje, všechny příst...

Více







RSS 

Zprávičky

50 let Intelu

ČTK , 16. červenec 2018 09:06

Intel nejprve produkoval paměti typu RAM, ale na počátku sedmdesátých let se firma rozhodla rozšířit...

Více 0 komentářů

USA zrušily zákaz dodávek amerického zboží čínské ZTE

ČTK , 14. červenec 2018 08:00

Firma již v rámci urovnání sporu s americkou vládou souhlasila, že zaplatí pokutu miliardy dolarů....

Více 0 komentářů

Trh PC ve 2. čtvrtletí rostl, tvrdí Gartner i IDC

ČTK , 13. červenec 2018 16:35

Růst odbytu táhla zejména poptávka firemního segmentu podpořená operačním systémem Windows 10....

Více 0 komentářů

Kalendář

04. 08.

09. 08.
Black Hat USA 2018
09. 08.

12. 08.
DEF CON 26
06. 09.

07. 09.
Humusoft Technical Computing Camp 2018

Starší zprávičky

Polovina kryptoměnových firem zanikne během čtyř měsíců od ICO

ČTK , 13. červenec 2018 10:09

Nejlepší strategií je prý mince v primární nabídce koupit a hned první den obchodů na otevřeném trhu...

Více 0 komentářů

Americká vláda se odvolává proti fúzi AT&T a Time Warner

ČTK , 13. červenec 2018 10:07

Ministerstvo se odvolalo proti červnovému rozhodnutí soudu, který spojení posvětil přes dřívější nám...

Více 0 komentářů

Německý soud: Rodiče mají mít přístup k facebooku mrtvé dcery

ČTK , 13. červenec 2018 09:00

Facebook nechtěl obsah účtu dívky otevřít, protože i její přátelé údajně spoléhali na to, že jejich ...

Více 1 komentářů

Broadcom koupí za 18,9 miliard dolarů CA Technologies

ČTK , 12. červenec 2018 13:01

Akvizice jsou důležité pro expanzi Broadcomu. Výběr firmy CA je však pro analytiky překvapením....

Více 0 komentářů