Rozpoznávání obrazu lze ošálit

Pavel Houser , 18. květen 2017 15:00 0 komentářů
Rozpoznávání obrazu lze ošálit

Rozpoznávání obrazu, ať už s pomocí metod strojového učení/umělé inteligence nebo jinak, je v poslední době stále rozšířenější aplikací. Rozhraní Google Cloud Vision API nyní umožňuje příslušnou funkcionalitu začlenit i do služeb třetích stran. Trocha šumu však stačí, aby rozpoznávání obrázků přestalo fungovat, jak má.

Viz také: Rozpoznávání obrazu – nenápadný příchod nové killer aplikace?

Práce bezpečnostních expertů z University of Washington ale nyní ukázala, že příslušnou službu lze snadno zmást. Stačí, když je v obrázcích trocha šumu. Autoři výzkumu (Hossein Hosseini, Baicen Xiao a Radha Poovendran, publikováno na Arxiv) demonstrují několik případů, kdy přidání 10-15 % šumu způsobuje, že systém již obrázek zařadí špatně, a to i když původní rozeznat dokázal. Platí to stejně pro čajovou konvičku, budovu i letadlo.

Autoři výzkumu se primárně zabývají zabezpečením a naznačují, že přidávání šumu by mohlo fungovat i jako vektor útoku. Tímto způsobem by třeba šlo oslepit dron nebo bezpečnostní kameru. Navíc rozpoznávání typu předmětů se používá třeba i v obchodech, při kontrole na regálech, při vážení. Chyby v rozpoznávání umožňují distribuovat obsah, který by byl jinak automaticky označen za nevhodný. U všech těchto metod útoků se samozřejmě nabízejí i námitky – má-li někdo např. přístup k záznamům bezpečnostních kamer, může s nimi dělat už cokoliv, nejen přidávat šum; a chce-li někdo distribuovat nějak problematický obsah a dosáhne toho, že bude jinak „otagován“, stane se tak současně problematicky dohledatelný i pro zamýšlené příjemce.

Autoři výzkumu v této souvislosti dodávají, že pro člověka zůstávají „zašuměné“ obrázky stále dobře rozpoznatelné, takže lidé by např. nějaké porušení databáze nemuseli vůbec zaznamenat. Google přitom mimochodem experimentuje speciálně s opačným postupem, tedy přidáváním informace, která v obrázku původně vůbec přítomná není: Neuronová síť Googlu rekonstruuje tváře

Zdroj: The Register a další


Komentáře

RSS 

Komentujeme

Makroviry inspirují

Pavel Houser , 20. září 2017 06:30
Pavel Houser

Úspěšný návrat malwaru šířeného pomocí maker vedl útočníky k tomu, že svou pozornost obrátili k příb...

Více






Kalendář

25. 09.

29. 09.
Susecon 17
25. 09.

29. 09.
Microsoft Ignite 2017
26. 09.

26. 08.
Affiliate konferencia 2017
RSS 

Zprávičky

Mobilní platby: Jak si ČR stojí ve srovnání s Evropou

Pavel Houser , 24. září 2017 09:00

Biometrii Češi považují za nejvhodnější formu ověření platby....

Více 0 komentářů

Důvěra Čechů v e-shopy roste

Pavel Houser , 23. září 2017 09:00

Drtivá většina české internetové populace nakupuje on-line dlouhodobě, dále však narůstá četnost nák...

Více 0 komentářů

Nové verze Javy: Java SE 9 a Java EE 8

Pavel Houser , 22. září 2017 14:51

Oracle oznamuje všeobecnou dostupnost nových verzí platformy Java: Java SE 9 (JDK 9), Java Platform ...

Více 0 komentářů

Starší zprávičky

Baidu investuje do vývoje autonomního řízení

ČTK , 22. září 2017 13:00

Cílem projektu Apollo je vyvinout technologii pro samořízené automobily do roku 2020....

Více 0 komentářů

Kaprain koupil kabelovou Rio Media

ČTK , 22. září 2017 09:00

Spojením Nej.cz a Rio Media vznikne druhý největší poskytovatel kabelové televize a významný poskyto...

Více 0 komentářů

Apple přiznává: Nové hodinky mají problémy s připojením

ČTK , 22. září 2017 08:00

Problémy s konektivitou mají hodinky v okamžiku, kdy mají použít veřejnou wi-fi síť....

Více 0 komentářů

Spíše než nové zákony k Airbnb je třeba zlepšit výběr daní

ČTK , 21. září 2017 13:00

Airbnb se svými službami v Praze už vyrovnala objemu obchodu klasických ubytovacích zařízení....

Více 0 komentářů