Jak zmást rozpoznávání obrázků – psychedelickými barvami

Pavel Houser , 10. únor 2018 06:30 0 komentářů
Jak zmást rozpoznávání obrázků – psychedelickými barvami

V Googlu vytvořili speciální samolepky s extrémně výraznými barevnými motivy. Jsou určeny k matení systémů pro rozpoznávání obrazu. Stačí samolepku umístit vedle banánu a neuronová síť náhle objekt neklasifikuje jako banán – a to i když se samotná samolepka mnohem menší než kus ovoce.

Umělá inteligence prý v tomto případě fungovala podobně jako lidé, nechala se rozptýlit, respektive se až zahltila výrazně zbarvenými obrazci. Ty v rámci experimentu měly tvar toustovače a obraz jako celek byl pak klasifikován jako toustovač.

Při výzkumu byla takto oklamána neuronová síť VGG16 (technologie vyvinutá skupinou Visual Geometry Group z Oxford University – odtud název). Autoři článku publikovaného na arXiv (Tom Brown, Dandelion Mané, Aurko Roy, Martín Abadi and Justin Gilmer) uvádějí, že tento problém zakládá možný specifický typ útoků na příslušné systémy. Narušitel nijak nemusí manipulovat se scénou jako celkem (osvětlení, úhel snímání apod.) ani se samotným předmětem, který chce zamaskovat, stačí mu do scény přidat nový prvek, navíc relativně malý, klidně jen 10 % velikosti původního předmětu. Daly by se takto mást např. detektory na letištích nebo ve věznicích, které by nezaznamenaly příslušný kontraband.

Problém údajně spočívá mj. Ve způsobu učení systému. Neuronová síť se při tom musí rozhodnout, co je vlastně obrázek znázorňuje. Za správné jsou považovány odpovědi, které přiřadí snímku jediný (cca převládající) „štítek“. Video na Youtube dále ukazuje, že obrázek samotného toustovače síť nezmátl, ale stačilo ho obarvit...

Zdroj: TechXplore.com, The Register


Komentáře

RSS 

Komentujeme

Jak probíhá adopce cloudu

Pavel Houser , 16. únor 2018 09:45
Pavel Houser

Cloud už neznamená jen SaaS, jenže… K dispozici je řada analýz i prognóz, které dokládají, jak se po...

Více








RSS 

Zprávičky

Pokles prodeje smartphonů potvrzuje i Gartner

ČTK , 24. únor 2018 12:04

Meziroční nárůst čtvrtletního prodeje zaznamenaly v rámci první pětky pouze Huawei a Xiaomi....

Více 0 komentářů

Broadcom snížil nabídku na rivala Qualcomm na 117 miliard dolarů

ČTK , 23. únor 2018 10:00

Převzetí Qualcommu by bylo největší akvizicí v historii technologického sektoru....

Více 0 komentářů

T-Mobile měl úspěšný rok

Pavel Houser , 23. únor 2018 09:00

T-Mobile oznámil finanční výsledky za rok 2017. Celkové tržby z mobilních a pevných služeb včetně pr...

Více 0 komentářů

Starší zprávičky

NÚKIB loni řešil méně hlášení o kybernetických incidentech

ČTK , 23. únor 2018 08:00

Na podzim NÚKIB musel řešit i útok na weby, na kterých se zobrazovaly aktuální volební výsledky....

Více 0 komentářů

Hackeři zneužili cloudový systém Tesly k těžbě kryptoměn

ČTK , 22. únor 2018 10:00

Průnik se odehrál přes konzoli systému Kubernetes pro optimalizaci cloudových aplikací. ...

Více 0 komentářů

Dvakrát ze světa open source CRM: Sugar a SuiteCRM

Pavel Houser , 22. únor 2018 09:00

CRM systém Sugar je nabízen v několika edicích. Placené edice lze standardně provozovat formou služb...

Více 0 komentářů

Intel chce investovat 5 miliard dolarů do izraelské továrny

ČTK , 22. únor 2018 08:00

Předpokládá se, že Intel na rozšíření továrny obdrží státní podporu v hodnotě až 10 % investice....

Více 0 komentářů