• Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události
Žádné výsledky
Zobrazit všechny výsledky
ITBiz.cz
ITBiz.cz
Žádné výsledky
Zobrazit všechny výsledky

Kvantové počítače mohou ochránit strojové učení před podvrhy

Pavel Houser
7. 9. 2023
| Články
DevOps lze realizovat i v režimu on-premise

Zdroj: PIxabay

Navzdory velkým úspěchům a stále širšímu nasazení zůstávají systémy AI založené na strojovém učení velmi náchylné k útokům – to znamená ke škodlivým zásahům do zpracovávaných dat, které způsobují jejich překvapivé selhání. Například modely pro klasifikaci obrázků (které analyzují fotografie za účelem identifikace a rozpoznání nejrůznějších kritérií) mohou být často oklamány přidáním dobře připravených změn (tzv. perturbace) do vstupních obrázků. Tyto změny jsou přitom tak malé, že jsou lidským okem nepostřehnutelné. Útočníci toho mohou využít.
Přetrvávající zranitelnost vůči podobným útokům také vyvolává vážné otázky ohledně bezpečnosti nasazení neuronových sítí se strojovým učením v situacích, které mohou ohrozit lidský život. To se týká i aplikací, jako jsou samořízená auta, kde by systém mohl být zmaten nevinným graffiti na značce stop a projet křižovatkou.
Jak lze v této oblasti využít kvantové počítače, respektive kvantové algoritmy? Autoři nové studie z University of Melbourne přišli s následujícím nápadem. Vycházejí z toho, že již byly navrženy různé algoritmy „kvantového strojového učení“, včetně kvantových zobecnění standardních (klasických) metod strojového učení. Předpokládá se, že některé kvantové modely strojového učení se mohou učit určité typy dat podstatně rychleji než jakýkoli model určený pro počítače klasické. To ale není prozatím jasné (otázkou je samotné nasazení kvantových počítačů, zda kvantové algoritmy budou výhodnější pro data, která nás skutečně zajímají atd.) a v případě nové studie o to ani nejde. Práce publikovaná v Physical Review Research namísto toho navrhuje, že kvantové modely strojového učení mohou být lépe chráněny proti útokům protivníka generovaným klasickými počítači. Tyto útoky fungují tak, že identifikují vlastnosti používané konkrétním modelem strojového učení a pak se s touto znalostí snaží systém obelstít. Pracují cca na základě reverzního inženýrství původního trénovacího algoritmu (ať už přímo vědí, jaký konkrétně byl použit, nebo ne).
Funkce používané obecnými kvantovými modely strojového učení jsou však pro klasické počítače prakticky nedostupné, a tudíž pro protivníka vyzbrojeného pouze klasickými výpočetními prostředky neviditelné, uvádí studie.
Modely vytvořené pomocí klasického a kvantového strojového učení lze pak spustit vedle sebe, kvantově vyvinutý klidně jen v nějaké okleštěné verzi (a samozřejmě už na klasickém systému). Za normálních okolností by obě sítě měly dávat cca stejné odpovědi, ale v případě útoku pomocí speciálně upravených dat se jejich výstupy budou radikálně rozcházet – přičemž „zmanipulován“ byl systém s AI, který se učil na klasickém modelu (samozřejmě odlišné výstupy obou modelů mohou nastat i z jiných důvodů).

Maxwell T. West et al, Benchmarking adversarially robust quantum machine learning at scale, Physical Review Research (2023). DOI: 10.1103/PhysRevResearch.5.023186
Zdroj: University of Melbourne / TechXplore.com

Poznámka: Upravená verze téhož přístupu, používat vedle sebe více systémů vyvinutých klasicky a opět zpozornět, pokud se odpovědi začnou podstatně lišit. Upravit data tak, aby zmátly dva modely současně, by také bylo dost obtížné.

Rubriky: ScienceTechnologieVývoj a HTML

Související příspěvky

Zákony informatiky: Když Brooksův zákon neplatí
Články

Open source jako klíčové aktivum pro digitální suverenitu

7. 7. 2025
Články

IDC: Trh podnikových sítí WLAN vzrostl meziročně o 10,6 %

4. 7. 2025
Zprávičky

Evropská komise: Kodex postupů na pomoc firmám s AI by mohl být na konci roku

4. 7. 2025
Zprávičky

V Temelíně testují autonomní drony

4. 7. 2025

Zprávičky

Kriminalisté vyšetřují kyberútok na Nemocnici Nymburk i kvůli vydírání

ČTK
7. 7. 2025

Krajští kriminalisté vyšetřují kybernetický útok na Nemocnici Nymburk z minulého týdne kvůli neoprávněnému přístupu

USA v pondělí či v úterý budou mluvit s Čínou o TikToku, řekl Trump

ČTK
6. 7. 2025

Prezident Donald Trump prohlásil, že Spojené státy v pondělí nebo v úterý budou jednat

Technologičtí giganti bojují o experty na AI astronomickými odměnami

ČTK
5. 7. 2025

Technologické společnosti jako Meta, OpenAI nebo Alphabet vedou stále intenzivnější boj o špičkové experty

Ransomwarový útok stojí české oběti 8,25 milionu korun

Hackerský útok paralyzoval fungování městského úřadu v Uničově na Olomoucku

ČTK
4. 7. 2025

Hackerský útok vyřadil tento týden z provozu městský úřad v Uničově na Olomoucku. Radnice

Sophos představil XDR řešení pro synchronizované zabezpečení

Nemocnice Nymburk po kyberútoku dál obnovuje systémy,černé scénáře se nenaplnily

ČTK
4. 7. 2025

V nymburské nemocnici pokračují v obnově informačních systémů po úterním kybernetickém útoku, obnova zřejmě

Microsoft se chystá propustit 4 % zaměstnanců, přes 9000 lidí

ČTK
4. 7. 2025

Americká softwarová společnost Microsoft propustí až čtyři procenta zaměstnanců, zhruba 9100 lidí. S odkazem

Evropská komise: Kodex postupů na pomoc firmám s AI by mohl být na konci roku

ČTK
4. 7. 2025

Kodex postupů, který má pomoci tisícům společností dodržovat pravidla Evropské unie v oblasti umělé

V Temelíně testují autonomní drony

Pavel Houser
4. 7. 2025

V temelínské jaderné elektrárně energetici zkouší využití autonomních dronů pro inspekce technologií v obtížně

Tiskové zprávy

Nejnovější modely Acer Chromebook Plus nyní s 12měsíčním balíčkem Google AI Pro včetně služby NotebookLM zdarma

ANECT mění vedení společnosti a posiluje management

Optimize by Acer: nejnovější evoluce v oblasti podnikových záručních podmínek

QNAP vylepšuje Qsync 6.0 Beta: Komplexní řešení pro zálohování a synchronizaci souborů

Sophos oznámil nový program MSP Elevate, podporuje růst i ziskovost poskytovatelů řízených služeb

České dráhy testují vysokorychlostní satelitní internet Starlink ve vlaku

Zpráva dne

Květen je měsícem růstu, můžete růst s Windows 11 jen za €20.00!

Květen je měsícem růstu, můžete růst s Windows 11 jen za €20.00!

Redakce
15. 5. 2025

Kupte Windows 11 CDkey od Goodoffer24.com a můžete růst s tímto OS jak při...

Videa ITBiz.cz

Vodafone otestoval Nokia 25G PON
Glenn Mallon, Dell Technologies

Elektronická recepční

FORXAI Mirror

Kamery pro průmysl a detekci požárů

Kamery pro vyhodnocení spokojenosti zákazníků

Kalendář

Zář 22
22. září @ 8:00 - 26. září @ 17:00

EMO Hannover 2025

Říj 1
Celý den

Cyber Attacks

Říj 21
Celý den

Bezpečnosť a dostupnosť dát

Zobrazit kalendář

Komentujeme

Chvála černých skřínek

Malé modely AI mají být velkým trendem

Pavel Houser
3. 1. 2025

V záplavě prognóz technologického vývoje (nejen) v roce 2025 zde prozatím trochu zapadlo jedno téma, které...

Odebírat newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Slovník

Přímý marketing

Čtenost

ADSL 2+ (Asymetric Digital Subscriber Line)

Kategorie

  • Články
  • Komentujeme
  • Slovník
  • Tiskové zprávy
  • Zprávičky

Portál ITbiz.cz přináší informace z IT a byznysu již od roku 2006. Provozuje jej internetové vydavatelství Nitemedia. Hosting zajišťuje společnost Greenhousing.cz. Mezi další naše projekty patří například ABClinuxu.cz a Sciencemag.cz. Na stránce Redakce naleznete informace o redakci a možnostech inzerce.

Rubriky

Akce a události Byznys Cloud Ekomerce Hardware Internet Operační systémy Podnikový software Právo Science Security Technologie Telekomunikace Veřejná správa Vývoj a HTML Zpráva dne České IT

Píšeme jinde

RSS ScienceMag RSS

  • Chemická analýza potvrdila, že starověcí Egypťané používali halucinogeny
  • Teploty supravodivosti mohou souviset se základními konstantami přírody
  • Starou sondu novým kouskům naučíš

RSS AbcLinuxu RSS

  • OpenNebula 7.0 "Phoenix"
  • Thunderbird 140.0 ESR „Eclipse“
  • Organizace Video Games Europe k občanské iniciativě Stop Destroying Videogames

Newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Žádné výsledky
Zobrazit všechny výsledky
  • Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události

© 2019 Vydává Nitemedia s.r.o. Hosting zajišťuje Greenhousing.cz.

Tento web používá cookies. Pokračováním dáváte souhlas s jejich používáním. Více na itbiz.cz/soukromi.