Biometrickou identifikaci „v reálném čase“ lze použít pouze tehdy, jsou-li splněny přísné záruky.
Europoslanci včera schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii. Co nové nařízení upravuje?
– Cílem textu je chránit základní práva, demokracii a právní stát před vysoce rizikovou umělou inteligencí a zároveň podporovat inovace a zajistit Evropě v této oblasti vedoucí postavení.
– Nařízení stanoví povinnosti pro umělou inteligenci v závislosti na jejích potenciálních rizicích a míře dopadu.
– Nová pravidla zakazují některé aplikace umělé inteligence, které ohrožují práva občanů. Týká se to například systémů biometrické kategorizace, která je založena na citlivých charakteristikách, necíleného stahování snímků obličeje z internetu nebo kamerových záznamů za účelem vytvoření databází rozpoznávání obličeje.
– Zakázány budou také systémy rozpoznávání emocí na pracovišti a ve školách, hodnocení sociálního kreditu osob, prediktivní policejní práce (je-li založena výhradně na profilování určité osoby nebo posouzení jejich charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnost lidí.
– Používání systémů biometrické identifikace donucovacími orgány je v zásadě zakázáno, s výjimkou přesného výčtu úzce vymezených situací. Biometrickou identifikaci „v reálném čase“ lze použít pouze tehdy, jsou-li splněny přísné záruky, například pokud je její použití časově a geograficky omezeno a bylo k němu předem vydáno zvláštní soudní nebo správní povolení. V praxi se to může týkat například pátrání po pohřešovaných osobách nebo předcházení teroristickým útokům.
– Používání biometrické identifikace až zpětně je považováno za vysoce rizikové a lze se k němu uchýlit pouze po předchozím soudním povolení v souvislosti s trestnými činy.
– Využití biometrického sledování bylo v původní pozici Evropského parlamentu zcela zakázáno, při vyjednávání s členskými státy se ale do kompromisní verze aktu opět dostalo, což někteří europoslanci kritizovali.
– V aktu jsou rovněž stanoveny jasné povinnosti i pro další vysoce rizikové systémy umělé inteligence (vzhledem k tomu, že jejich používání může vést k významnému poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu).
– Za vysoce rizikové je považováno například využívání umělé inteligence v oblasti kritické infrastruktury, vzdělávání a odborné přípravy, zaměstnanosti, základních soukromých a veřejných služeb (jako je zdravotní péče či bankovnictví), vymáhání práva, migrace a správy hranic, spravedlnosti a demokratických procesů (například ovlivňování voleb).
– Občané budou mít právo podávat na systémy umělé inteligence stížnosti a znát důvody rozhodnutí, která byla učiněna na základě vysoce rizikových systémů a mají dopad na jejich práva.
– Obecné systémy umělé inteligence a modely, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost včetně dodržování autorského práva EU.
– Výkonnější modely umělé inteligence pro obecné účely, které by mohly představovat systémová rizika, budou podléhat dodatečných požadavkům, k nimž patří například hodnocení modelů, posuzování a zmírňování jejich systémových rizik a hlášení incidentů.
– Takzvané deepfakes, tedy uměle vytvořené nebo zmanipulované obrázky, audionahrávky nebo videonahrávky, musí být jako takové jasně označeny.
– Nařízení vstoupí v platnost dvacet dní po vyhlášení v Úředním věstníku a bude plně použitelné 24 měsíců po svém vstupu v platnost, s výjimkou zákazu nepřípustných praktik, který se použije šest měsíců po vstupu nařízení v platnost, pravidel pro obecné systémy umělé inteligence včetně jejich správy (12 měsíců po vstupu v platnost) a povinností pro vysoce rizikové systémy (36 měsíců).
Zdroj: Evropský parlament