• Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události
Žádné výsledky
Zobrazit všechny výsledky
ITBiz.cz
ITBiz.cz
Žádné výsledky
Zobrazit všechny výsledky

Studie: Umělá inteligence by se mohla dostat do nesprávných rukou

ČTK
22. 2. 2018
| Články

V roce 2014 před umělou inteligencí varoval známý astrofyzik Stephen Hawking, v poslední době se k němu přidal třeba podnikatel Elon Musk.
Mezinárodní experti bijí na poplach před možností zneužití umělé inteligence ze strany „kriminálníků, teroristů či zločineckých států“. Stostránkovou zprávu, která byla zveřejněna ve středu, napsalo 26 odborníků na umělou inteligenci, kyberzločiny a robotiku včetně expertů z univerzit (Cambridge, Oxford, Yale, Stanford) a z neziskového sektoru (společnosti jako OpenAI, Středisko pro novou americkou bezpečnost či Electronic Frontier Foundation).

Ve zprávě píší, že v příštích deseti letech by mohla zvyšující se efektivnost umělé inteligence posílit počítačovou kriminalitu a teroristé by mohli více využívat drony či roboty. Odborníci také zmiňují možnost snadnější manipulace voleb na sociálních sítích prostřednictvím takzvaných internetových botů, což jsou počítačové programy, které pro svého majitele opakovaně vykonávají nějaké rutinní činnosti.

Tito odborníci vyzývají vlády a další vlivové skupiny k omezení těchto možných hrozeb. „Domníváme se, že útoky, které by snadnější přístup k umělé inteligenci mohl umožnit, budou obzvlášť účinné, přesně cílené a těžko odhalitelné,“ píše se ve zprávě.

Odborníci zmiňují i některé „hypotetické možnosti“ zneužití umělé inteligence. Teroristé by například mohli uzpůsobit systémy umělé inteligence používané třeba v dronech či samořiditelných dopravních prostředcích pro vyprovokování srážek a výbuchů.

Odborníci připomínají i možnost zneužití například úklidového robota v nějakém úřadu, který by se mohl dostal mezi jiné roboty, kteří připravují třeba jídlo. Takovýto robotí vetřelec by pak mohl pomocí výbušniny zaútočit na nějakého úředníka poté, co by jej identifikoval.

Podle jednoho z autorů zprávy a ředitele střediska z Cambridgeské univerzity Seána Ó hÉigeartaigha by se mohla „s větším zneužitím umělé inteligence zvýšit zejména počítačová kriminalita“.

Větší záběr by mohly představovat i útoky pomocí tzv. spear phishingu, což je podvodná technika používaná na internetu k získávání citlivých údajů (útočník zasílá e-mail konkrétní osobě; pro tradiční phishing je typické rozeslání obrovského množství mailů).

Velké nebezpečí vidí Seán Ó hÉigeartaigh „v možném zneužití umělé inteligence v politice“. „Již jsme zažili, jak se jednotlivci či skupiny snažili zasahovat pomocí internetu do demokratických voleb,“ připomíná a dodává: „Jestliže umělá inteligence umožní, aby byly tyto útoky silné, jednoduché na zopakování a složité na odhalení, mohlo by to znamenat velký problém pro politickou stabilitu.“

Umělá inteligence by mohla sloužit třeba i k výrobě falešných a velmi realistických videí, která by pak mohla být použita k diskreditaci politických činitelů. Do rozvoje umělé inteligence by se mohly zapojit i některé autoritářské státy, které by pak mohly s její pomocí snadněji sledovat své občany.

Není to poprvé, co se upozorňuje na možné zneužití umělé inteligence. V roce 2014 před tím varoval známý astrofyzik Stephen Hawking, k němuž se v poslední době přidal třeba podnikatel Elon Musk a další. Zveřejněny byly také zprávy například o možném užívání zabijáckých dronů.

Tato nová zpráva přináší „nový pohled na část umělé inteligence, která by mohla přinést nové hrozby nebo změnit existující hrozby v oblastech počítačové, politické i lidské bezpečnosti“.

Umělá inteligence, která se objevila v 50. letech 20. století, je obor informatiky zabývající se tvorbou strojů vykazujících známky inteligentního chování. V posledních letech bylo dosaženo pokroku v oblastech kupříkladu vnímání, hlasového rozeznávání či obrazové analýzy.

„V současnosti ještě existuje rozdíl mezi rychlostí výzkumu a možnými aplikacemi novinek. Ještě je čas jednat,“ říká vědec z Oxfordské univerzity Miles Brundage. Právě na jeho pracovišti začala tato zpráva vznikat.

„Na zmírnění těchto hrozeb by měli spolupracovat vědci na umělou inteligenci, vývojáři robotů a dronů i regulační orgány a politici,“ říká Seán Ó hÉigeartaigh.

Rubriky: ByznysCloudEkomerceInternetOperační systémyPodnikový softwareScienceSecurityTechnologieVývoj a HTMLZajímavosti

Související příspěvky

Zprávičky

České i světové organizace čelí nejčastěji útokům malwaru Emotet

18. 1. 2021
Články

Výdaje na umělou inteligenci se zdvojnásobí už za necelé 4 roky

18. 1. 2021
Ripple 20 představuje nebezpečí pro stovky tisíc zařízení
Zprávičky

EMA: Hackeři zveřejnili ukradené e-maily o vakcíně, pozměnili je

17. 1. 2021
Evoluce a optimismus: Šest trendů, které ovlivní kyberbezpečnostní situaci v roce 2021
Články

Na čem u IT bezpečnosti skutečně záleží: obměna technologií

16. 1. 2021

Zprávičky

Dědic Samsungu I Če-jong dostal dva a půl roku vězení za korupci

ČTK
18. 1. 2021

Rozhodnutí vrchního soudu bude mít značný dopad na vedení technologického giganta. Na dva a

České i světové organizace čelí nejčastěji útokům malwaru Emotet

Pavel Houser
18. 1. 2021

Emotet začal jako bankovní trojan, nyní funguje univerzálněji. Následují škodlivé kódy Trickbot a FormBook.

Ripple 20 představuje nebezpečí pro stovky tisíc zařízení

EMA: Hackeři zveřejnili ukradené e-maily o vakcíně, pozměnili je

ČTK
17. 1. 2021

Při kybernetickém útoku na Evropskou agenturu pro léčivé přípravky (EMA) se pachatelům podařilo získat

Operátoři o ověřovacích SMS k očkování podle asociace nevěděli

ČTK
15. 1. 2021

Operátoři se dozvěděli o požadavku státu na SMS ověření při registraci k očkování proti

USA umístily Xiaomi na černou listinu, akcie firmy prudce klesly

ČTK
15. 1. 2021

Administrativa amerického prezidenta Donalda Trumpa umístila na černou listinu podniků spojených s ozbrojenými silami

Wikipedia je po 20 letech existence jedním z nejpopulárnějších webů

ČTK
15. 1. 2021

Původně měla Wikipedia jen podporovat jiný projekt nazvaný Nupedia - tradičněji pojatou encyklopedii. Vybraná

Zákony informatiky: Když Brooksův zákon neplatí

Nový nejvýkonnější český superpočítač se bude jmenovat Karolina

Pavel Houser
14. 1. 2021

Karolina bude dosahovat špičkového výkonu 15,2 PFlop/s. V posledním čtvrtletí minulého roku proběhla soutěž

Výrobce čipů TSMC má za sebou nejlepší kvartál v historii

ČTK
14. 1. 2021

Poptávka po čipech je v poslední době tak vysoká, že továrny na celém světě

Telefónica se dohodla na prodeji svých stožárů za 7,7 mld. eur

ČTK
14. 1. 2021

Evropské telekomunikační firmy doposud spíše odmítaly ztrátu kontroly nad stožáry, které považovaly za strategicky

Tiskové zprávy

Český startup Memsource kupuje německou společnost Phrase

Alienware představil vylepšené herní stroje

Acer a PrinterLogic poskytují pro podniky řešení pro tisk bez serveru

IBM Cloud Pak pro integraci umožňuje digitální transformaci Komerční banky

Společnost Pure Storage byla v magickém kvadrantu Gartneru označena za lídra

Lenovo představuje nové modely ThinkBook pro mobilní profesionály

Zpráva dne

Šťastný celý rok 2021 s levným softwarem!

Šťastný celý rok 2021 s levným softwarem!

Redakce
6. 1. 2021

Nabídka levného a hlavně legálního softwaru od GoodOffer24.com, od nástrojů produktivity od Microsoftu přes...

Odebírat newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Komentujeme

Chvála černých skřínek

Největší rizika umělé inteligence

Pavel Houser
26. 12. 2020

Tak jako dosud skoro každá technologie, i umělá inteligence se dostane do rukou zločincům. Jak s...

Slovník

Contracting manager

Linkfarm

Tiskový mluvčí

Nejpopulárnější články

Studie: Umělá inteligence by se mohla dostat do nesprávných rukou

ČTK
22. 2. 2018

Analytici: Cena bitcoinu dál poroste, může ale přijít korekce

ČTK
17. 12. 2020

Operátoři musí nově uvádět přesnou rychlost internetu

ČTK
3. 1. 2021

Za bezpečnostní incidenty v cloudu mohou hlavně samotní zákazníci

Německá policie odhalila zřejmě největší obchod na darknetu

ČTK
12. 1. 2021

Zákony informatiky: Návštěva u Annie DeCaprio s Hofstadterem a Cheopsem

Zákony informatiky: Návštěva u Annie DeCaprio s Hofstadterem a Cheopsem

Petr Zavoral
24. 12. 2020

Kategorie

  • Články
  • Komentujeme
  • Slovník
  • Tiskové zprávy
  • Zprávičky

Portál ITbiz.cz přináší informace z IT a byznysu již od roku 2006. Provozuje jej internetové vydavatelství Nitemedia. Hosting zajišťuje společnost Greenhousing.cz. Mezi další naše projekty patří například ABClinuxu.cz a Sciencemag.cz. Na stránce Redakce naleznete informace o redakci a možnostech inzerce.

Rubriky

Akce a události Byznys Cloud Ekomerce Hardware Internet Marketing Operační systémy Podnikový software Právo Rozhovory Science Security Technologie Telekomunikace Veřejná správa Vývoj a HTML Zajímavosti Zpráva dne České IT

RSS abclinuxu – čerstvé zprávičky

  • VLC 3.0.12
  • Jak otevřít soubor v Emacsu
  • InstallFest 2021 – CFP

RSS Sciencemag.cz

  • V Brně budou vznikat nové typy elektronových mikroskopů
  • Elektronový mikroskop kombinovaný se světlem
  • U 8 z 25 druhů eurasijských netopýrů našli protilátky na vzteklinu

Newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Žádné výsledky
Zobrazit všechny výsledky
  • Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události

© 2019 Vydává Nitemedia s.r.o. Hosting zajišťuje Greenhousing.cz.

Tento web používá cookies. Pokračováním dáváte souhlas s jejich používáním. Více na itbiz.cz/soukromi.