Rozpoznávání obrazu lze ošálit

Pavel Houser , 18. květen 2017 15:00 0 komentářů
Rozpoznávání obrazu lze ošálit

Rozpoznávání obrazu, ať už s pomocí metod strojového učení/umělé inteligence nebo jinak, je v poslední době stále rozšířenější aplikací. Rozhraní Google Cloud Vision API nyní umožňuje příslušnou funkcionalitu začlenit i do služeb třetích stran. Trocha šumu však stačí, aby rozpoznávání obrázků přestalo fungovat, jak má.

Viz také: Rozpoznávání obrazu – nenápadný příchod nové killer aplikace?

Práce bezpečnostních expertů z University of Washington ale nyní ukázala, že příslušnou službu lze snadno zmást. Stačí, když je v obrázcích trocha šumu. Autoři výzkumu (Hossein Hosseini, Baicen Xiao a Radha Poovendran, publikováno na Arxiv) demonstrují několik případů, kdy přidání 10-15 % šumu způsobuje, že systém již obrázek zařadí špatně, a to i když původní rozeznat dokázal. Platí to stejně pro čajovou konvičku, budovu i letadlo.

Autoři výzkumu se primárně zabývají zabezpečením a naznačují, že přidávání šumu by mohlo fungovat i jako vektor útoku. Tímto způsobem by třeba šlo oslepit dron nebo bezpečnostní kameru. Navíc rozpoznávání typu předmětů se používá třeba i v obchodech, při kontrole na regálech, při vážení. Chyby v rozpoznávání umožňují distribuovat obsah, který by byl jinak automaticky označen za nevhodný. U všech těchto metod útoků se samozřejmě nabízejí i námitky – má-li někdo např. přístup k záznamům bezpečnostních kamer, může s nimi dělat už cokoliv, nejen přidávat šum; a chce-li někdo distribuovat nějak problematický obsah a dosáhne toho, že bude jinak „otagován“, stane se tak současně problematicky dohledatelný i pro zamýšlené příjemce.

Autoři výzkumu v této souvislosti dodávají, že pro člověka zůstávají „zašuměné“ obrázky stále dobře rozpoznatelné, takže lidé by např. nějaké porušení databáze nemuseli vůbec zaznamenat. Google přitom mimochodem experimentuje speciálně s opačným postupem, tedy přidáváním informace, která v obrázku původně vůbec přítomná není: Neuronová síť Googlu rekonstruuje tváře

Zdroj: The Register a další


Komentáře

RSS 

Komentujeme

Vládní čtvrť a vládní systém, tedy ten informační

Petr Zavoral , 06. leden 2018 16:15
Petr Zavoral

Jeden ze zakladatelů enterprise architektury John Zachman srovnává IT v institucích s Boeingem: Firm...

Více








RSS 

Zprávičky

Evropská komise: Apple dál dluží Irsku 16 miliard USD, nehledě na platby v USA

ČTK , 21. leden 2018 08:00

Firma využije novou daňovou legislativu, do USA převede ze zahraničí peníze a zaplatí pak na daních ...

Více 0 komentářů

Kampaň Dark Caracal prý vede k libanonské rozvědce

ČTK , 20. leden 2018 14:24

Spyware se tváří jako oblíbené komunikační aplikace WhatsApp a Signal pro Android a Windows....

Více 2 komentářů

Google bude sdílet patenty s čínskou firmou Tencent

ČTK , 20. leden 2018 08:00

Google loni v Číně otevřel výzkumné centrum umělé inteligence, samotný vyhledávač ale čínské úřady b...

Více 0 komentářů

Starší zprávičky

Eni má nejvýkonnější průmyslový počítač na světě

ČTK , 19. leden 2018 10:00

Po čtyřnásobném zvýšení výpočetního výkonu je počítač schopen provést až 22,4 kvadrilionů operací za...

Více 0 komentářů

IBM zvýšila po šesti letech příjmy

ČTK , 19. leden 2018 09:00

Společnosti pomohl přesun orientace na oblast cloudů a kybernetické bezpečnosti a na analýzu dat....

Více 0 komentářů

Vnitro má urychlit předložení zákona ke GDPR

ČTK , 19. leden 2018 08:00

Samotné nařízení označil premiér za "produkt totální byrokracie Bruselu"....

Více 2 komentářů

Zpomalování iPhonů půjde vypnout

ČTK , 18. leden 2018 13:01

Řada uživatelů Apple podezřívala, že zpomalováním starších telefonů tlačí spotřebitele k nákupu nové...

Více 1 komentářů