Europoslanci dnes schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.
Nová pravidla by měla zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo. Aby akt vstoupil v platnost, musí ho ještě formálně schválit Rada EU, složená z členských států. Nařízení v hlasování podpořilo 11 zástupců Česka v EP – všichni europoslanci za TOP09, Starosty i za KDU- ČSL, kteří jsou členy lidovecké frakce, čtyři z pěti poslanců zvolených za ANO, kteří jsou členy liberální frakce Renew, a členka socialistické frakce Radka Maxová. Rovněž pro byl Hynek Blaško (zvolen za SPD). Proti hlasovali všichni tři europoslanci za Piráty, Ivan David (SPD) a Kateřina Konečná (KSČM). Čtyři čeští europoslanci z ODS, kteří jsou členy konzervativní frakce ECR, se pak hlasování zdrželi. Martina Dlabajová (za ANO) se podle záznamu hlasování neúčastnila.
Asi největší spory se v Evropském parlamentu vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávali zneužití umělé inteligence v této oblasti autoritativními režimy.
Text nařízení, o kterém se dnes hlasovalo, je dojednaným kompromisem mezi vyjednavači Evropského parlamentu, Evropskou komisí a belgickým předsednictvím v Radě EU, které zastupuje jednotlivé členské státy. Právě Piráti s konečnou verzí spokojeni nebyli, a proto hlasovali proti aktu. Legislativa totiž podle nich legalizuje užití umělé inteligence k plošnému sledování lidí za pomoci biometrických kamer, které umí podle obličejových rysů rozpoznat identitu člověka. Podle pirátského europoslance Marcela Kolaji jde o velké zklamání a promarněnou příležitost jasně v celé Evropě odmítnout autoritářské praktiky známé z Číny či Ruska.
„Akt o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití umělé inteligence a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak,“ uvedl Kolaja. „Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor‘,“ dodal.
Nařízení zkritizovala rovněž česká europoslankyně Kateřina Konečná (KSČM). „Byl zde potenciál udělat něco pozitivního. To se však nestalo. Biometrické sledování současný text povoluje a zisky nejbohatších zvítězily nad bezpečností,“ uvedla při úterní rozpravě.
Mnozí europoslanci ale nový akt o umělé inteligenci ocenili. „Jsem hrdá na to, že se nám podařilo dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace,“ uvedla dánská europoslankyně Karen Melchiorová z liberální frakce Renew. Německý europoslanec Sergey Lagodinsky z frakce Zelených uvedl, že „je zapotřebí kontrolovat budoucí vývoj, než budoucí vývoj bude kontrolovat nás“. Dnes přijatá úprava je podle něj slabší, než jakou si představoval, nicméně „je to lepší než vůbec nic“.
Podle české europoslankyně Dity Charanzové (za ANO) vytváří akt o umělé inteligenci „omezení pro vývoj, ale nesmí bránit ve vývoji“. Umělá inteligence je podle ní věcí budoucnosti. „Neměli bychom se vzdávat tohoto nástroje z důvodu strachu. U každé inovace existují rizika,“ uvedla v úterní rozpravě.
„Našli jsme správnou rovnováhu mezi ochranou a inovací? Máme dostatečné pojistky vůči rizikům pro občany? Ano. A měli bychom být hrdí, že ta odpověď je pozitivní,“ okomentoval akt jeden z jeho zpravodajů v EP, rumunský europoslanec Dragoš Tudorache z frakce Renew. Využití biometrického sledování bylo v původní pozici Evropského parlamentu zcela zakázáno, při vyjednávání s členskými státy se ale do kompromisní verze aktu opět dostalo. Podle rumunského europoslance jde ale o „využití velmi omezené a silně regulované“.
