Jak zmást rozpoznávání obrázků – psychedelickými barvami

Pavel Houser , 10. únor 2018 06:30 1 komentářů
Jak zmást rozpoznávání obrázků – psychedelickými barvami

V Googlu vytvořili speciální samolepky s extrémně výraznými barevnými motivy. Jsou určeny k matení systémů pro rozpoznávání obrazu. Stačí samolepku umístit vedle banánu a neuronová síť náhle objekt neklasifikuje jako banán – a to i když se samotná samolepka mnohem menší než kus ovoce.

Umělá inteligence prý v tomto případě fungovala podobně jako lidé, nechala se rozptýlit, respektive se až zahltila výrazně zbarvenými obrazci. Ty v rámci experimentu měly tvar toustovače a obraz jako celek byl pak klasifikován jako toustovač.

Při výzkumu byla takto oklamána neuronová síť VGG16 (technologie vyvinutá skupinou Visual Geometry Group z Oxford University – odtud název). Autoři článku publikovaného na arXiv (Tom Brown, Dandelion Mané, Aurko Roy, Martín Abadi and Justin Gilmer) uvádějí, že tento problém zakládá možný specifický typ útoků na příslušné systémy. Narušitel nijak nemusí manipulovat se scénou jako celkem (osvětlení, úhel snímání apod.) ani se samotným předmětem, který chce zamaskovat, stačí mu do scény přidat nový prvek, navíc relativně malý, klidně jen 10 % velikosti původního předmětu. Daly by se takto mást např. detektory na letištích nebo ve věznicích, které by nezaznamenaly příslušný kontraband.

Problém údajně spočívá mj. Ve způsobu učení systému. Neuronová síť se při tom musí rozhodnout, co je vlastně obrázek znázorňuje. Za správné jsou považovány odpovědi, které přiřadí snímku jediný (cca převládající) „štítek“. Video na Youtube dále ukazuje, že obrázek samotného toustovače síť nezmátl, ale stačilo ho obarvit...

Zdroj: TechXplore.com, The Register


Komentáře

firefox #0
firefox 21. březen 2018 09:39

If you are using the outdated browser then i have one of the best browser you can download mozilla firefox browser for our homepage https://foxdownload.org it is really an awesome browser with many advanced features like add ones.

RSS 

Komentujeme

Když obrázek není tím, čím se zdá být

Pavel Houser , 10. listopad 2018 06:30
Pavel Houser

Problematika falešných zpráva je dnes módní záležitostí. Následující výzkum se zaměřuje na jeden spe...

Více







RSS 

Zprávičky

Rostly ceny smartphonů, počítačů i tiskáren

Pavel Houser , 14. listopad 2018 11:53

Trh s technickým spotřebním zbožím zaznamenal podle statistik GfK v České republice ve 3. čtvrtletí ...

Více 0 komentářů

Zisk Foxconnu ve čtvrtletí stoupl o 18 %

ČTK , 14. listopad 2018 10:22

Apple varoval, že jeho předvánoční tržby budou horší, dodavatelům součástek Applu také hrozí slabší ...

Více 0 komentářů

Macronova dohoda o zabezpečení kyberprostoru nemá podporu velmocí

ČTK , 14. listopad 2018 09:00

MIT: Bylo by lepší začít s užším projektem ve snaze zakázat kyberútoky na klíčovou infrastrukturu....

Více 0 komentářů

Starší zprávičky

Vodafone se v pololetí kvůli odpisům a Indii propadl do ztráty

ČTK , 14. listopad 2018 08:00

Akcie firmy od začátku letošního roku klesly zhruba o 39 procent. ...

Více 0 komentářů

EY představila prototyp blockchainu pro privátní transakce v platformě Ethereum

Pavel Houser , 13. listopad 2018 10:41

Společnosti budou moci bezpečně provádět transakce díky sadě nástrojů a služeb EY Ops Chain Public E...

Více 0 komentářů

E-shopy čekají rekordní vánoční tržby 44 miliard Kč

ČTK , 13. listopad 2018 10:27

Obchodníci letos spustili marketingové kampaně už na přelomu října a listopadu, přestože Černý pátek...

Více 0 komentářů

Investiční firma Vista koupí za 1,9 mld. USD softwarovou Apptio

ČTK , 13. listopad 2018 08:00

Mezi produkty Apptio patří software pro správu podniku....

Více 0 komentářů