• Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události
Žádné výsledky
Zobrazit všechny výsledky
ITBiz.cz
ITBiz.cz
Žádné výsledky
Zobrazit všechny výsledky
Home Zprávičky

Musk a další chtějí kvůli vážným rizikům pauzu ve vývoji umělé inteligence

ČTK
29. 3. 2023
| Zprávičky

Zdroj: Pixabay

Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“. Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.

Výzva k okamžitému přerušení vývoje se vztahuje na „trénink systémů AI silnějších než GPT-4“, což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.

„Toto přerušení by mělo být veřejné a ověřitelné… Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium,“ uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.

Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely „vycvičené“ na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.

I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se „trošku bojí“. „Musíme tady být opatrní,“ řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být „nejlepší technologií, jakou dosud lidstvo vyvinulo“. Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.

Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, „jak ukazuje výzkum a uznaly přední laboratoře AI“. „Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI… Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI,“ píše se v prohlášení.

Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.

„Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná,“ uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného „přechytračení“ lidí a „ztráty kontroly nad naší civilizací“.

Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. „Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy,“ míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. „Nemyslím si, že je potřeba tahat za ruční brzdu,“ dodala.

Rubriky: Technologie

Související příspěvky

Umělá inteligence: Nástroje vs. platforma, věda vs. kreativita
Zprávičky

Microsoft zařadí do Windows asistenta s umělou inteligencí

22. 9. 2023
Zprávičky

Před 40 lety uvedla Motorola na trh první mobilní telefon

21. 9. 2023
Zprávičky

Google rozšiřuje funkce svého modelu AI, bude například ověřovat své odpovědi

20. 9. 2023
Články

Invesco: Jaké má Apple šance na trhu s virtuální realitou

19. 9. 2023

Zprávičky

Amazon investuje až 4 miliardy dolarů do start-upu Anthropic zaměřeného na AI

Pavel Houser
25. 9. 2023

Americká internetová společnost Amazon investuje až čtyři miliardy dolarů (téměř 92 miliard Kč) do

Thajsko očekává miliardové investice Tesly, Googlu a Microsoftu

ČTK
25. 9. 2023

Thajsko očekává investice v řádu miliard dolarů od firem Tesla, Google a Microsoft. Uvedl

Americká FTC příští týden podá žalobu na Amazon

ČTK
24. 9. 2023

Americká Federální obchodní komise (FTC) podá v úterý dlouho očekávanou žalobu na internetového prodejce

Akcionář podal oznámení ohledně korupce při prodeji části Atosu

ČTK
24. 9. 2023

Minoritní akcionář francouzské skupiny Atos podal trestní oznámení ohledně korupce při prodeji části této

Britský Vodafone jedná s firmou Zegona o prodeji svých aktivit ve Španělsku

ČTK
23. 9. 2023

Britská společnost Zegona jedná s britským telekomunikačním operátorem Vodafone Group o možném převzetí jeho

Evropská komise vyměřila Intelu novou pokutu, tu původní částečně anuloval soud

ČTK
22. 9. 2023

Evropská komise (EK) vyměřila americkému výrobci čipů Intel pokutu 376,36 milionu eur (9,2 miliardy

750 zaměstnanců ČSOB se díky Atosu zvládlo rychle přesunout do domácích kanceláří

Británie signalizovala, že schválí spojení Microsoftu a Activision

ČTK
22. 9. 2023

Britský Úřad pro hospodářskou soutěž a trhy (CMA) signalizoval že schválí upravený plán softwarové

Umělá inteligence: Nástroje vs. platforma, věda vs. kreativita

Microsoft zařadí do Windows asistenta s umělou inteligencí

ČTK
22. 9. 2023

Americká softwarová společnost Microsoft od příštího týdne zařadí do svého operačního sytému Windows asistenta

Tiskové zprávy

Společnosti Schneider Electric a STACK EMEA společně usilují o digitální a udržitelnou budoucnost

ZEBRA SYSTEMS slaví 30 let jako VAD distributor roku

Objem bezhotovostních plateb dosáhne letos 1,3 bilionu a dál poroste

Sophos: Při podvodech typu Sha Zhu Pan byly využity falešné kryptoměnové obchodní platformy a odcizen více než milion dolarů

Sdružení CZ.NIC posiluje svůj .CZ DNS anycast zprovozněním nové lokality v Sydney

HPE Aruba Networking rozšiřuje portfolio zařízení, a tak pomáhá malým a středním podnikům v rostoucích požadavcích na síť a zabezpečení

Zpráva dne

OMEZENÁ NABÍDKA od Goodoffer24: 91% sleva na Windows 10/11 za € 12 a Office 2016 za € 23

OMEZENÁ NABÍDKA od Goodoffer24: 91% sleva na Windows 10/11 za € 12 a Office 2016 za € 23

Redakce
1. 9. 2023

Jsme na začátku září. Zvláště těm, kteří rádi utrácejí za hardware důležité peníze, šetří...

Kalendář

Zář 26
Celý den

Kontajnery v praxi

Říj 24
Celý den

Bezpečnosť a dostupnosť dát

Lis 15
Celý den

Umělá inteligence v IT infrastruktuře

Zobrazit kalendář

Komentujeme

Chvála černých skřínek

Web v éře, kdy obsah vytváří umělá inteligence

Pavel Houser
1. 9. 2023

Hned několik analýz a komentářů ve významných médiích spekulovalo v poslední době o tom, zda současná...

Odebírat newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Slovník

Domicil

Backend

Kword

Nejpopulárnější články

Synology DiskStation DS223: Moderní kompaktní NAS nejen pro SOHO

Synology DiskStation DS223: Moderní kompaktní NAS nejen pro SOHO

Redakce
21. 8. 2023

Křemík s nanosloupky efektivně přeměňuje teplo na elektrickou energii

Křemík s nanosloupky efektivně přeměňuje teplo na elektrickou energii

Pavel Houser
11. 7. 2023

Ransomwarový útok stojí české oběti 8,25 milionu korun

Zakázat zákonem platby ransomwarovým vyděračům není reálné

Pavel Houser
9. 8. 2023

Trendy pro vývojáře: monolitické aplikace neodepisovat a low code bude spíš okrajovou záležitostí

Redakce
25. 7. 2023

Hrátky s magnetickými víry

Feroelektricita a supravodivost se již nevylučují

Pavel Houser
10. 8. 2023

Kategorie

  • Články
  • Komentujeme
  • Slovník
  • Tiskové zprávy
  • Zprávičky

Portál ITbiz.cz přináší informace z IT a byznysu již od roku 2006. Provozuje jej internetové vydavatelství Nitemedia. Hosting zajišťuje společnost Greenhousing.cz. Mezi další naše projekty patří například ABClinuxu.cz a Sciencemag.cz. Na stránce Redakce naleznete informace o redakci a možnostech inzerce.

Rubriky

Akce a události Byznys Cloud Ekomerce Hardware Internet Operační systémy Podnikový software Právo Rozhovory Science Security Technologie Telekomunikace Veřejná správa Vývoj a HTML Zpráva dne České IT

Píšeme jinde

RSS ScienceMag RSS

  • V Chattušaši objevili text v dosud neznámém indoevropském jazyce
  • Týden na ITBiz: Flexibilní elektronika naráží na polovodiče typu n
  • Ve vesmíru objevili obří strukturu: bublinu galaxií velkou miliardu světelných let

RSS AbcLinuxu RSS

  • LibrePCB 1.0.0
  • Facebook má nové logo
  • Sweet Home 3D 7.2 a Sweet Home 3D Mobile

Newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Žádné výsledky
Zobrazit všechny výsledky
  • Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události

© 2019 Vydává Nitemedia s.r.o. Hosting zajišťuje Greenhousing.cz.

Tento web používá cookies. Pokračováním dáváte souhlas s jejich používáním. Více na itbiz.cz/soukromi.