Rozpoznávání obrazu lze ošálit

Pavel Houser , 18. květen 2017 15:00 0 komentářů
Rozpoznávání obrazu lze ošálit

Rozpoznávání obrazu, ať už s pomocí metod strojového učení/umělé inteligence nebo jinak, je v poslední době stále rozšířenější aplikací. Rozhraní Google Cloud Vision API nyní umožňuje příslušnou funkcionalitu začlenit i do služeb třetích stran. Trocha šumu však stačí, aby rozpoznávání obrázků přestalo fungovat, jak má.

Viz také: Rozpoznávání obrazu – nenápadný příchod nové killer aplikace?

Práce bezpečnostních expertů z University of Washington ale nyní ukázala, že příslušnou službu lze snadno zmást. Stačí, když je v obrázcích trocha šumu. Autoři výzkumu (Hossein Hosseini, Baicen Xiao a Radha Poovendran, publikováno na Arxiv) demonstrují několik případů, kdy přidání 10-15 % šumu způsobuje, že systém již obrázek zařadí špatně, a to i když původní rozeznat dokázal. Platí to stejně pro čajovou konvičku, budovu i letadlo.

Autoři výzkumu se primárně zabývají zabezpečením a naznačují, že přidávání šumu by mohlo fungovat i jako vektor útoku. Tímto způsobem by třeba šlo oslepit dron nebo bezpečnostní kameru. Navíc rozpoznávání typu předmětů se používá třeba i v obchodech, při kontrole na regálech, při vážení. Chyby v rozpoznávání umožňují distribuovat obsah, který by byl jinak automaticky označen za nevhodný. U všech těchto metod útoků se samozřejmě nabízejí i námitky – má-li někdo např. přístup k záznamům bezpečnostních kamer, může s nimi dělat už cokoliv, nejen přidávat šum; a chce-li někdo distribuovat nějak problematický obsah a dosáhne toho, že bude jinak „otagován“, stane se tak současně problematicky dohledatelný i pro zamýšlené příjemce.

Autoři výzkumu v této souvislosti dodávají, že pro člověka zůstávají „zašuměné“ obrázky stále dobře rozpoznatelné, takže lidé by např. nějaké porušení databáze nemuseli vůbec zaznamenat. Google přitom mimochodem experimentuje speciálně s opačným postupem, tedy přidáváním informace, která v obrázku původně vůbec přítomná není: Neuronová síť Googlu rekonstruuje tváře

Zdroj: The Register a další


Komentáře

RSS 

Komentujeme

Deset minut s Einsteinem

Richard Jan Voigts , 18. listopad 2017 10:45
Richard Jan Voigts

Při návštěvě Švýcarska jsme strávili den na Eidgenoessiche Technische Hochschule Zurich – Swiss Fede...

Více







RSS 

Zprávičky

Prodeje potravin přes internet jsou v ČR třetí nejvyšší v Evropě

ČTK , 18. listopad 2017 08:00

Další inovace? Nabízí se např. doručování až domů bez přítomnosti majitele......

Více 0 komentářů

Slovenské soudy zakázaly přístup k více než 30 webům s hazardem

ČTK , 17. listopad 2017 09:00

Podobnou úpravu proti nepovoleným hazardním hrám jako Slovensko uplatňují i další členské země EU....

Více 1 komentářů

Foxconnu klesl čtvrtletní zisk o 39 %

ČTK , 17. listopad 2017 08:00

V důsledku slabého zájmu o iPhone 8 a problémům při výrobě iPhone X akcie společnosti za poslední tř...

Více 0 komentářů

Starší zprávičky

MPSV odstoupilo od zakázky na systém dávek za stovky milionů Kč

ČTK , 16. listopad 2017 17:45

Nový systém pro vyplácení dávek za stovky milionů korun úřady práce příští rok mít nebudou. ...

Více 0 komentářů

Europoslanci schválili větší ochranu při nákupech v e-shopech

ČTK , 16. listopad 2017 09:00

Nedůvěra spotřebitelů k nákupu v zahraničí stále přetrvává....

Více 0 komentářů

Apple ovládl trh s nositelnou elektronikou

ČTK , 16. listopad 2017 08:00

Apple v počtu prodaných kusů dosud zaostával za výrobci levnějších fitness náramků....

Více 0 komentářů

Rok 2018 bude pro kontaktní centra ve znamení automatizace a IoT

Pavel Houser , 15. listopad 2017 11:00

Bosch do svých praček montuje snímače, které odhalí, že se buben otáčí 5 000 otáček za minutu namíst...

Více 0 komentářů