• Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události
Žádné výsledky
Zobrazit všechny výsledky
ITBiz.cz
ITBiz.cz
Žádné výsledky
Zobrazit všechny výsledky

Mohou autonomní auta zabíjet své řidiče?

Pavel Houser
24. 6. 2015
| Články

Samočinně řídící auta se nepotýkají jen s problémy technickými a právními. Zůstává i otázka samotného návrhu – co vlastně požadujeme od strojové inteligence v pozadí. Má třeba systém volit mezi možnostmi s cílem minimalizovat (pravděpodobné) ztráty na lidských životech?
Paradox výhybky

Jinak řečeno: Má třeba automaticky řízené auto chránit svého řidiče i bez ohledu na to, že při tom ohrozí někoho jiného? Na tento jinak celkem pomíjený problém upozornili myslitelé z University of Alabama v Birminghamu. Nazývají to spor utilitarismu a deontologie. Pomiňme žargon profesionálních filozofů i profesionálních etiků, v zásadě se všechny tyhle úvahy odvíjejí od toho, čemu se říká „experiment s drezínou“, „paradox výhybky“ apod. Vlak se řítí proti hromadě lidí, můžete ho výhybkou přesměrovat na kolej, kde si vybere jedinou oběť. Uděláte to? Co pokud můžete vlak zastavit tím, že pod něj hodíte náhodného kolemjdoucího – a opět zachráníte více lidí. Liší se obě situace?

Utilitaristé obecně tvrdí, že správné je snažit se dosáhnout co největšího štěstí pro co nejvíce lidí („maximalizace užitku“). Konkurenční přístupy např. říkají, že někdy než volit mezi více zly, je lepší volbu odmítnout a „dát od toho ruce pryč“, tj. třeba výhybku nepřehodit a nevzít si na triko jedinou oběť, i když důsledkem nečinnosti je obětí víc. Samozřejmě jde o myšlenkové experimenty, s nimiž se v takto čisté podobě sotva kdo z nás setká. Rádi je mimochodem mají i neurologové, protože zjišťují, že podle toho, jaká centra mozku máme zrovna aktivovaná, se liší i naše reakce. Nakonec se ukazuje, že i drobná změna v designu celého experimentu velmi mění naše vnímání situace a rozhodování.

Asimovovy zákony robotiky

Je asi celkem jasné, o co půjde, převede-li se problém do situace autonomních aut, respektive algoritmů, které stojí za jejich fungováním. Představme si, že skutečně chytré auto skutečně dokáže odhadnout, co se kolem bude dít, a nedělá přitom chyby. Ostatně to třeba není až tak absurdní: všechny menší nehody, které zatím měla auta Googlu, prý způsobili lidští řidiči – ať už na protistraně, nebo řidiči vlastní, když autopilota vypnuli.
Jak se má ale geniální automatický vůz vlastně naprogramovat? Co bude dělat v situacích, kdy nějaké škody budou nevyhnutelné (neexistuje „win-win“ řešení), dejme tomu při píchnuté pneumatice? Měl by systém v plné rychlosti narazit do zdi, nebo vjet do protisměru? Druhá volba znamená pro řidiče vozu stále nějakou šanci, ale zato s velkou pravděpodobností povede ke smrti více lidí. Berme to tak, že systém to vše dokáže posoudit (třeba i spočítat lidi ve vozidlech kolem, aby zjistil, kdy se jich s největší pravděpodobností nejvíc přijde o život atd.), není to tedy problém technický, ale čistě otázka zabudovaných preferencí.
Je jasné, co vyplývá z utilitarismu. Konkurenční přístupy k etice tvrdí, že některé jednání je vždy špatné. Auto tedy nemá aktivně narazit do zdi nebo jinak někoho zabít, i kdyby tím zabránilo větší škodě. Co z toho konkrétně ale vyvodit? Měl by se autopilot v takovém případě prostě vypnout? A teď si můžete otázku různě doplňovat: počítač samozřejmě těžko dokáže posoudit hodnotu jednotlivých lidí, to ostatně nedělá ani zákon. Nicméně co když „konkurenční“ auto třeba překračuje rychlost nebo dokonce jede v protisměru? Neměl by si systém říci: ať pyká ten, kdo porušuje pravidla?

Do extrému vzato by pak automatický automobil možná vůbec nevyjel, nebo jel pouze beznadějně pomalu. Tudy cesta jistě nepovede. V této souvislosti přicházejí na mysl i Asimovovy zákony robotiky. Má robot zabít člověka, pokud tím zachrání více lidí? Jenomže automobil je prostě věcí konkrétního vlastníka (tohle mimochodem v Asimovových povídkách trochu chybí), kupec/zákazník bude chtít primárně auto, které bezpečně dopraví do cíle řidiče a samo se nezničí, neřeší hluboká etická dilemata a nesnaží se spasit svět.

Pravidla bez definic?

Na University of Alabama si prostě hrají. Když někdo v jejich týmu přijde s určitým řešením, vzápětí se jiný určí za „ďáblova advokáta“ a začne vymýšlet, k jakým špatným koncům by navržený přístup mohl vést.

Možná pravidla skutečně autonomního automobilu nepůjdou navrhnout přímo do všech podrobností, respektive prakticky nebudou definována explicitně. Vyjde se z několika jednoznačných požadavků a posléze se budou analyzovat situace, kdy se ocitají ve sporu. Tyto kolize pravidel pak posoudí lidský arbitr a finální podoba ideálního řízení vznikne víceméně „sama“, metodou strojového učení. To už je ale pouze moje (PH) domněnka, nikoliv názor vědců z University of Alabama.

A mimochodem, Ameen Barghi, hlavní autor popsané studie, zkoumá i další otázku. Pokud se ukáže, že automatické řízení je bezpečnější než lidské, mělo by se člověku řízení vozu prostě zakázat? Jeho odpověď zní: Ano.

Rubriky: Science

Související příspěvky

Matematika rychlostí světla: Optické počítání může být i analogové
Články

Matematika rychlostí světla: Optické počítání může být i analogové

27. 3. 2023
Zprávičky

Lidé budou mít jednou mobilní telefon integrovaný do těla, myslí si vynálezce

2. 3. 2023
Podařilo připravit husté křemíkové nanodrátky pro aplikace s vysokými frekvencemi
Články

Maxwellův démon resetuje qubity kvantového počítače

27. 2. 2023
Atos představil superpočítač BullSequana XH3000
Zprávičky

Atos postaví další superpočítač pro vědce

21. 2. 2023

Zprávičky

Padla další rekordní pokuta za porušení GDPR

Digitalizace veřejné správy pod jednou střechou, DIA zahajuje svou činnost

Pavel Houser
30. 3. 2023

Od 1. dubna 2023 začíná fungovat Digitální a informační agentura (DIA), která bude mít

Vodafone v Německu zruší přes 6 % pracovních míst

ČTK
30. 3. 2023

Telekomunikační společnost Vodafone se v Německu chystá zrušit přes šest procent pracovních míst, a

Musk a další chtějí kvůli vážným rizikům pauzu ve vývoji umělé inteligence

ČTK
29. 3. 2023

Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona

Pětice motorů technologických inovací v příští dekádě

Goldman Sachs: Umělá inteligence by mohla nahradit 300 milionů pracovních míst

ČTK
29. 3. 2023

Umělá inteligence by mohla ve světě nahradit člověka na 300 milionech pracovních míst. Vyplývá

Kryptoměny a jejich ekonomika

Americké úřady žalují kryptoměnovou burzu Binance za porušení předpisů

ČTK
28. 3. 2023

Americká Komise pro obchodování s termínovými kontrakty na komodity (CFTC) žaluje největší kryptoměnovou burzu

EK opět odmítla návrh ČTÚ na regulaci velkoobchodního trhu s mobilními daty

ČTK
27. 3. 2023

Evropská komise opět odmítla návrh Českého telekomunikačního úřadu (ČTÚ) na regulaci velkoobchodního trhu s

Intenzita jednotlivých DDoS útoků na české firmy v únoru rostla, nejvíce útoků míří z Ruska

Pavel Houser
27. 3. 2023

Počet DDoS útoků na české firmy v únoru klesl, zvýšila se ale intenzita jednotlivých útoků.

Sophos představil XDR řešení pro synchronizované zabezpečení

Acronis vylepšuje své bezpečnostní řešení o technologii Intel TDT

Pavel Houser
27. 3. 2023

Řada aktuálních hrozeb využívá pouze přístup do paměti. Acronis oznámil vylepšení své bezpečnostní ochrany

Tiskové zprávy

Česko-americký startup MANTA otevírá novou pobočku v Londýně

CETIN: průměrná rychlost dostupného připojení v síti se dostala na 202 Mb/s

Nová modulární roll-to-roll tiskárna Canon Colorado řady M

Česká platforma TENT.com umožňuje platby kryptem kdekoliv

T-Mobile chce chránit zákazníky před podvodnými telefonáty

Premiér Fiala se připojil k otevřenému dopisu předsedů vlád šéfům technologických gigantů

Zpráva dne

Březnový prodej – doživotní licence na Windows 10 za Goodoffer24 € 12 a Office za € 23!

Březnový prodej – doživotní licence na Windows 10 za Goodoffer24 € 12 a Office za € 23!

Redakce
3. 3. 2023

Ať už hledáte levnější cestu jak postavit nový počítač, nebo jen chcete upgradovat stárnoucí...

Odebírat newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Komentujeme

Chvála černých skřínek

Programování s pomocí umělé inteligence a open source licence

Pavel Houser
15. 3. 2023

S tím, jak se rozšiřuje využití umělé inteligence přímo při tvorbě softwaru, se intenzivněji začínají diskutovat...

Nadcházející akce

  1. Hannover Messe 2023

    17. dubna - 21. dubna

Zobrazit všechny Akce

Slovník

IP adresa

URL

Behaviorální marketing

Nejpopulárnější články

OKI na veletrhu EmbaxPrint zaujala potiskem etiket

OKI na veletrhu EmbaxPrint zaujala potiskem etiket

Tomáš Jirásko
1. 3. 2023

Kvalitních IT specialistů je nedostatek a práce na dálku jim může přinést až o 25 % víc peněz

Redakce
3. 3. 2023

Umělá inteligence: Nástroje vs. platforma, věda vs. kreativita

ChatGPT uspěl v testu teorie mysli

Pavel Houser
21. 2. 2023

Mýty kolem digitalizace firmy (1): Digitalizace je jen IT projekt a adopce je ztráta času

Mýty kolem digitalizace firmy (1): Digitalizace je jen IT projekt a adopce je ztráta času

itbiz
2. 3. 2023

Kouzla zbavené? Nepravděpodobné řešení hrozící personální krize ve finančních službách

10 let ABSL: Firmy využívající umělou inteligenci rostou rychleji

Redakce
2. 3. 2023

Kategorie

  • Články
  • Komentujeme
  • Slovník
  • Tiskové zprávy
  • Zprávičky

Portál ITbiz.cz přináší informace z IT a byznysu již od roku 2006. Provozuje jej internetové vydavatelství Nitemedia. Hosting zajišťuje společnost Greenhousing.cz. Mezi další naše projekty patří například ABClinuxu.cz a Sciencemag.cz. Na stránce Redakce naleznete informace o redakci a možnostech inzerce.

Rubriky

Akce a události Byznys Cloud Ekomerce Hardware Internet Operační systémy Podnikový software Právo Rozhovory Science Security techn Technologie Telekomunikace Veřejná správa Vývoj a HTML Zpráva dne České IT česk

Píšeme jinde

RSS ScienceMag RSS

  • Astronomové zkoumají zrod kupy galaxií v mladém vesmíru
  • Čeští vědci přispěli s mini-družicí GRBAlpha k pozorování nejmohutnější exploze od počátku lidské civilizace
  • Vysokorychlostní kamera ukázala srážku blesku s protibleskem

RSS AbcLinuxu RSS

  • Výsledky hackerské soutěže Pwn2Own Vancouver 2023
  • WordPress 6.2 Dolphy
  • Blender 3.5

Newsletter

Zásady ochrany osobních údajů.

Zkontrolujte svoji doručenou poštu a potvrďte odběr.

Žádné výsledky
Zobrazit všechny výsledky
  • Technologie
  • Byznys
  • Software
  • Hardware
  • Internet
  • Telco
  • Science
  • České IT
  • Události

© 2019 Vydává Nitemedia s.r.o. Hosting zajišťuje Greenhousing.cz.

Tento web používá cookies. Pokračováním dáváte souhlas s jejich používáním. Více na itbiz.cz/soukromi.