Virtuální asistenti reagují na skryté příkazy, člověk je neslyší

ČTK , 12. květen 2018 11:00 1 komentářů

Vědci z Berkeley tvrdí, že instrukce zakomponovali do nahrávek hudby či mluveného slova.

Hlasem ovládané asistenty, jakými jsou Siri od firmy Apple, Alexa vyvinutá Amazonem nebo Google Assistant, lze aktivovat pro člověka prakticky nerozeznatelnými příkazy skrytými v hudbě či záznamu mluveného slova. Vyplývá to z nedávno zveřejněného výzkumu badatelů z Kalifornské univerzity v Berkeley, na který ve čtvrtek upozornil deník The New York Times (NYT). Pomocí metody použité v laboratoři by mohla nepovolaná osoba za někoho jiného zaslat peníze, odemknout dveře nebo nakoupit na internetu.

S neslyšitelnými pokyny pro chytré asistenty podle NYT vědci ve Spojených státech a Číně úspěšně experimentují už dva roky. Podařilo se jim tak aktivovat systémy umělé inteligence v chytrých telefonech a domácích asistentech, které pak například vytočily určité číslo nebo otevřely webovou stránku. Týmu amerických studentů se pak v roce 2016 podařilo příkazy vmísit do takzvaného bílého šumu vysílaného z reproduktoru.

Vědci z Berkeley ale tvrdí, že dosáhli ještě pokročilejší úrovně, když instrukce zakomponovali do nahrávek hudby či mluveného slova. "Takže zatímco lidský posluchač slyší hrát orchestr nebo někoho mluvit, přístroj Amazon Echo může dostávat instrukci, aby něco přidal na váš nákupní seznam," vysvětluje NYT.

"Chtěli jsme se přesvědčit, zda to můžeme udělat ještě nenápadněji," popsal motivaci k novému výzkumu jeden z jeho autorů a doktorand oboru počítačové bezpečnosti Nicholas Carlini.

Se svými kolegy při pokusech využil rozdílu mezi způsoby rozpoznávání řeči u lidí a u strojů. Použité audiosoubory dokázali vědci upravit tak, že vyrušili zvuky, které měl systém umělé inteligence slyšet, a nahradili je takovými, které vedly k jinému strojovému přepisu, zatímco pro člověka byla změna takřka neznatelná.

Zjištění podle NYT ukazují zranitelnost současných chytrých technologií, přestože činí velký pokrok. Nebezpečí podobných manipulací zvyšují odhady, podle nichž počet zařízení s virtuálními pomocníky do roku 2021 převýší celosvětovou populaci lidí, nebo že ve stejném časovém horizontu bude mít alespoň jednoho digitálního domácího asistenta polovina amerických domácností.

Podle Carliniho zatím nic nenasvědčuje tomu, že by se postupy popsané v novém článku dostaly mimo světové laboratoře. Dodal ale, že je pouze otázkou času, než je někdo začne zneužívat. "Můj předpoklad je takový, že lidé s nekalými úmysly už platí lidi, aby dělali to, co dělám já," podotkl Carlini.


Komentáře

Milan Krištof #0
Milan Krištof 15. květen 2018 15:40

Pokud správně chápu skryté příkazy, jde o filtraci audio sdělení. Zajímavé, ale jak jsem zjistil, lze libovolné sdělení použít současně jak ve své původné podobě, tak i v transformované, t.j. sdělení č. 1 se současně stává nositelem jiného sdělení č.2, které může mít zcela jiný význam (a to i řetězově). Např. libovolná zpráva o počasí nebo šifr. zpráva č.1 může být současně šifrovou zprávou č.2, samozřejmě bez použití tlusté kódové knihy.

RSS 

Komentujeme

Agilita a devops, přepracování a vyhoření

Pavel Houser , 12. červenec 2018 12:30

Michael Cote na The Register upozorňuje na častý problém: nové „agilní“ metody vývoje, všechny příst...

Více







RSS 

Zprávičky

Hackeři ukradli zdravotní záznamy 1,5 milionu Singapurců

ČTK , 20. červenec 2018 14:37

Cílem útoku bylo prý získat podrobné údaje o singapurském premiérovi a také o lécích, které užíval....

Více 0 komentářů

Ericsson je díky úsporám v mírném zisku

ČTK , 20. červenec 2018 11:36

Švédský podnik se v poslední době potýkal se slábnoucí poptávkou telekomunikačních operátorů....

Více 0 komentářů

Čip v občanském průkazu si zatím aktivovala třetina lidí

ČTK , 20. červenec 2018 08:00

Prostřednictvím Portálu občana lidé mají přístup např. k údajům o důchodu nebo si mohou pořídit výpi...

Více 0 komentářů

Kalendář

04. 08.

09. 08.
Black Hat USA 2018
09. 08.

12. 08.
DEF CON 26
06. 09.

07. 09.
Humusoft Technical Computing Camp 2018

Starší zprávičky

Red Hat Ansible Engine přináší další automatizaci cloudu

Pavel Houser , 19. červenec 2018 13:52

Nejnovější verze platformy Red Hat Ansible Engine 2.6 rozšiřuje automatizaci cloudů AWS, Google Clou...

Více 0 komentářů

Samsung chystá na příští rok telefon se sklopným displejem

ČTK , 19. červenec 2018 10:00

Displej půjde složit na polovinu jako peněženku. Ve složeném stavu je na přední straně přístroje men...

Více 0 komentářů

Internet Mall snížil ztrátu, tržby mu vzrostly na 7,2 miliardy Kč

ČTK , 18. červenec 2018 17:29

Internet Mall mj. investuje do distribučního centra v Jirnech u Prahy, které by mělo sloužit 7 střed...

Více 0 komentářů

Google dostal kvůli Androidu od EK rekordní pokutu 4,34 mld. eur (aktualizace)

ČTK , 18. červenec 2018 13:26

Google využil Android k upevnění dominantní pozice svého internetového vyhledávače, uvádí EK....

Více 0 komentářů