Jak zajistit důvěryhodné využití AI

AI zásadním způsobem promění náš svět a jednoznačně má potenciál, aby tato změna byla pro všechny k lepšímu. Abychom ale mohli tuto novou technologii využít naplno, musíme zajistit, že veřejnost i firmy systémům AI plně důvěřují.

Příchod AI byl předzvěstí skutečně zásadní změny – stejně jako bylo ovládnutí páry a elektřiny začátkem velké éry industrializace, bude umělá inteligence klíčovou technologií nadcházející doby digitální. AI může pomáhat firmám zlepšit svou udržitelnost i efektivitu, ale stejně jako každou novou technologii i tuto doprovází různé nejistoty a obavy.

Využití a měřitelnost AI

Odborníci ani veřejnost si však nejsou jisti tím, jak přesně AI rozhoduje, s jakými informacemi pracuje a jak je objektivní a spravedlivá. Dá se nějak měřit a srovnávat výkonnost různých AI systémů z tohoto hlediska? A jak by vlastně měla být tato technologie regulována?

Společnosti dnes využívají AI pro pomoc při screeningu talentů, zpracovávání pojistných událostí, poskytování služeb zákazníkům a dalších významných úkolech. Pro mnoho firem je ale dodnes AI černá skříňka, které nerozumí, a nemají ani nástroje, jež by jim pomohly s ní zodpovědně pracovat. Zákazníci a společnosti přitom ale stojí o to, aby mohli nové technologii plně důvěřovat. Podle Globálního indexu využití AI firmy IBM 91 procent firem, které dnes AI využívají, považují za jednu z klíčových vlastností AI řešení to, jestli dokážou svá rozhodnutí vysvětlit. V dalším průzkumu osmdesát procent respondentů uvedlo, že etika AI by se měla řešit na úrovni představenstva firem.

Stanovení principů

Je zodpovědností poskytovatelů, uživatelů systémů AI i politiků zajistit, aby umělá inteligence fungovala transparentně. A Evropská unie a mnoho zemí celého světa už skutečně pracuje na zásadách využívání AI. Společnost IBM patří mezi nejvýznamnější účastníky této debaty, zároveň ale již rozvíjí praktické přístupy k řešení etických otázek spojených s AI. S využitím holistického přístupu k nové technologii definovali odborníci IBM pět hlavních vlastností, které důvěryhodná AI musí mít: vysvětlitelnost, férovost, robustnost, transparentnost a ochrana soukromí. Ty přitom mohou představovat vzor obecnějšího rámce pro celý obor.

Příkladem aplikace těchto principů je dokument AI FactSheet, koncept představený IBM již před několika lety. Podobně jako tabulky s nutričními hodnotami potravin by takový přehled mohl obsahovat informace o provozu daného systému, o datech, na kterých byl vycvičen, dále o jeho základních algoritmech, konfiguraci a výsledcích jeho testování, o výkonnostních benchmarcích, účelu, k němuž byl systém vytvořen, či také potřebě údržby a průběžného přecvičování. Takové nástroje budou velmi zapotřebí, protože by měl existovat způsob, jak snadno systematicky změřit výkonnost libovolného systému AI.

Táhnout za jeden provaz

Nasazení důvěryhodné AI ve velkém měřítku ovšem není úkol pro jednu firmu ani pro jeden sektor. Ostatně vývoji zásad pro AI se dnes nevěnují jenom lidé z oboru, ale třeba dokonce Vatikán, který začátkem roku 2020 přišel s Římskou výzvou pro etiku AI, jíž se stala IBM jedním z prvních signatářů. I Evropská unie nedávno představila svou komplexní regulaci pro AI. Nicméně je důležité, aby zákony i regulační nařízení byly vytvořeny tak, aby nebrzdily inovace a neomezovaly potenciál nové technologie.

K tomu je možné využít rámce založeného na vyhodnocování rizik, jako je návrh IBM na Precizní regulaci AI, a v každém případě spolupracovat napříč soukromým i veřejným sektorem na společném regulačním systému. Protože abychom v tento klíčový moment na dlouhé cestě lidského pokroku mohli využít technologii AI co nejlépe, potřebujeme, aby se do diskuze zapojili úplně všichni.