Jak zmást rozpoznávání obrázků – psychedelickými barvami

Pavel Houser , 10. únor 2018 06:30 1 komentářů
Jak zmást rozpoznávání obrázků – psychedelickými barvami

V Googlu vytvořili speciální samolepky s extrémně výraznými barevnými motivy. Jsou určeny k matení systémů pro rozpoznávání obrazu. Stačí samolepku umístit vedle banánu a neuronová síť náhle objekt neklasifikuje jako banán – a to i když se samotná samolepka mnohem menší než kus ovoce.

Umělá inteligence prý v tomto případě fungovala podobně jako lidé, nechala se rozptýlit, respektive se až zahltila výrazně zbarvenými obrazci. Ty v rámci experimentu měly tvar toustovače a obraz jako celek byl pak klasifikován jako toustovač.

Při výzkumu byla takto oklamána neuronová síť VGG16 (technologie vyvinutá skupinou Visual Geometry Group z Oxford University – odtud název). Autoři článku publikovaného na arXiv (Tom Brown, Dandelion Mané, Aurko Roy, Martín Abadi and Justin Gilmer) uvádějí, že tento problém zakládá možný specifický typ útoků na příslušné systémy. Narušitel nijak nemusí manipulovat se scénou jako celkem (osvětlení, úhel snímání apod.) ani se samotným předmětem, který chce zamaskovat, stačí mu do scény přidat nový prvek, navíc relativně malý, klidně jen 10 % velikosti původního předmětu. Daly by se takto mást např. detektory na letištích nebo ve věznicích, které by nezaznamenaly příslušný kontraband.

Problém údajně spočívá mj. Ve způsobu učení systému. Neuronová síť se při tom musí rozhodnout, co je vlastně obrázek znázorňuje. Za správné jsou považovány odpovědi, které přiřadí snímku jediný (cca převládající) „štítek“. Video na Youtube dále ukazuje, že obrázek samotného toustovače síť nezmátl, ale stačilo ho obarvit...

Zdroj: TechXplore.com, The Register


Komentáře

firefox #0
firefox 21. březen 2018 09:39

If you are using the outdated browser then i have one of the best browser you can download mozilla firefox browser for our homepage https://foxdownload.org it is really an awesome browser with many advanced features like add ones.

RSS 

Komentujeme

Microsoft a GitHub

Pavel Houser , 13. červen 2018 13:30
Pavel Houser

Transakce v hodnotě 7,5 miliardy dolarů je dost velká i na poměry Microsoftu, takže se prodejem GitH...

Více







RSS 

Zprávičky

Útočníci se snaží zneužít fotbalovou horečku

Pavel Houser , 23. červen 2018 11:59

Nová phishingová kampaň se snaží lákat oběti ke stažení infikovaného rozpisu a výsledků fotbalového ...

Více 0 komentářů

Systém pro STK by měl za 120 mil. Kč nadále provozovat AutoCont

ČTK , 22. červen 2018 10:00

V novém smluvním období by firma měla zajistit také propojení s obdobnými systémy jednotlivých člens...

Více 0 komentářů

Divize firmy Deutsche Telekom T-Systems ruší 10 000 míst

ČTK , 22. červen 2018 09:00

Na 6000 míst z celkového počtu má být zrušeno v Německu v průběhu příštích tří let....

Více 0 komentářů

Kalendář

04. 08.

09. 08.
Black Hat USA 2018
09. 08.

12. 08.
DEF CON 26
06. 09.

07. 09.
Humusoft Technical Computing Camp 2018

Starší zprávičky

Šéfovi Intelu srazil vaz vztah na pracovišti

ČTK , 22. červen 2018 08:00

Ve funkci předsedy představenstva a člena správní rady Krzaniche přechodně nahradí dosavadní finančn...

Více 0 komentářů

Musk: Favoritem pro evropskou továrnu na baterie Tesly je Německo

ČTK , 21. červen 2018 10:00

Revoluce elektrických aut zvýší do roku 2025 hodnotu evropského trhu s bateriemi na zhruba 250 milia...

Více 1 komentářů

Česko testuje komunikaci mezi auty, vlaky a MHD

ČTK , 21. červen 2018 09:00

Vozidla si budou vyměňovat informace například o tom, jak je vlak daleko od závor, nebo že tramvaj v...

Více 0 komentářů

Xiaomi chce při vstupu na burzu získat až 6,1 miliardy dolarů

ČTK , 21. červen 2018 08:00

Půjde o jednu z největších primárních nabídek akcií v technologickém sektoru za posledních několik l...

Více 0 komentářů