Na Purdue University se zaměřili na zajímavou otázku, totiž co si lidé myslí o umělé inteligenci – nikoliv obecně, ale o systému, s nímž právě interagují (bez ohledu na to, v jakém ohledu je skutečně „inteligentní“). Důvěřují tomu, že se autopilot chová správně, že se robotický systém nebo dron právě nezbláznil? To se dá automatizovaně zjistit třeba sledováním fyziologických parametrů, ale i z dalších reakcí dotyčného člověka.
A teď přichází otázka: chceme, aby umělá inteligence toto rozpoložení člověka (nedůvěru vůči ní samé) zaregistrovala? Vyvíjíme-li systémy k tomu, aby AI četla lidské emoce v podobě gest a výrazů tváře, pak jistě ano. Vědci z Purdue University ovšem tvrdí, že věc má navíc velmi praktický dopad: myslí-li si člověk, že se AI právě zbláznila, respektive funguje nespolehlivě, asi se jí pokusí co nejrychleji vypnout. Téměř ve všech případech to způsobí škodu – alespoň pokud je to tak, že AI ve skutečnosti funguje správně a přesvědčení lidí je chybné. Předpokládáme, že automatizované systémy pracují spolehlivěji než lidé, navíc ve vypjatých situacích je automatika od toho, aby lidé (třeba vojáci či záchranáři) mohli dělat něco jiného. Na Purdue University z toho vyvozují, že umělá inteligence by měla rostoucí nedůvěru zaznamenat a tomu upravit své chování. To může celkem dobře znamenat třeba vysvětlující dialog, jenže na to v krizových situacích není čas. Nebo třeba umělá inteligence nabídne své vypnutí a přechod na manuální řízení, což alespoň minimalizuje škody oproti situaci, kdyby člověk a AI přijímaly a chtěly současně realizovat rozhodnutí protichůdná. Nabízí se i možnost, že AI nedůvěřujícímu člověku naopak zabrání do procesu vůbec vstoupit – což lze zase mnoha různými způsoby.
Každopádně se dostáváme k otázce, co všechno umělé inteligenci v principu povolíme. Chceme, aby „věděla“, co si o ní myslíme? Dostáváme se tím do zajímavé smyčky sebereferenčních úvah, které jdou za jednoduchá pravidla typu Asimovových zákonů robotiky. Mimochodem, k tématu seberefence a jejím vztahu k umělé inteligenci v češtině právě znovu vychází kniha Douglase Hofstadtera „Gödel, Escher, Bach“, dílo již starší, ale minimálně ve své době kultovní.
Zdroj Purdue University, TechXplore.com a další