Evropská unie by mohla mít hotová pravidla pro umělou inteligenci (AI) jako první na světě už za pár měsíců, domnívá se český europoslanec Luděk Niedermayer. O tomto tématu se včera debatovalo na plenárním zasedání Evropského parlamentu (EP), který tento týden schválí svůj postoj k regulaci AI. Ten bude pak předmětem jednání s Radou EU o jeho konečné podobě.
“Máme téměř hotovou regulaci v době, kdy svět teprve hledá způsob, jak reagovat na rychlý nástup umělé inteligence,“ řekl ČTK Niedermayer. “Je dobře, že jsme s tím začali zavčas a že máme šanci se během pár měsíců dostat k úpravě, která začne platit, a třeba bude inspirovat část světa,“ dodal europoslanec z frakce evropských lidovců.
Podle europoslance Marcela Kolaji z evropské skupiny Zelení/Evropská svobodná aliance skrývá AI obrovský potenciál, ale také veliká rizika. Unijní pravidla mají kromě obecných pravidel pro tento sektor stanovit i přísnější podmínky pro vysoce riziková odvětví použití AI, jako je například školství či soudnictví.
Europoslanci se shodují na potřebě AI regulovat. Jedním z větších sporů je otázka zákazu systémů biometrické identifikace na dálku, kde evropští lidovci požadují výjimku v případě hledání pohřešovaných dětí či zabránění teroristických činů. Zejména při pátrání po hledaných dětech je důležitá rychlost a systémy AI tak mohou výrazně pomoci, zdůraznila europoslankyně Michaela Šojdrová.
“Prosazujeme střední cestu – regulovat, ale nesnížit konkurenceschopnost,“ řekl dnes novinářům v EP europoslanec Tomáš Zdechovský. A zatímco čeští pirátští europoslanci mají obavy ze “šmírování” lidí na veřejných prostranstvích umělou inteligencí, lidovci zdůrazňují zejména bezpečnost. “Rozpoznávání obličejů už běžně funguje například na letištích,“ připomněl Zdechovský.
AI dokážou být tak přesvědčivé, že běžný uživatel internetu ani nepozná, že hovoří s umělou inteligencí. Právě proto je jedním z bodů navrhovaných unijních pravidel povinnost pro velké internetové platformy jasně označovat obsah vytvořený generativní umělou inteligenci, jako je například ChatGPT.
Regulace AI má podle EP také zabránit generování nezákonného obsahu, což by se mohlo řešit kontrolou vstupních dat, aby nelegální obsah nezahrnovala. Pravidla mají zahrnovat také povinnost zveřejňování souhrnů dat chráněných autorskými právy, na kterých se systémy AI učily. Zakázána by měla být rovněž AI pro rozpoznávání emocí při prosazování práva, správě hranic, na pracovišti či ve vzdělávacích institucích.
Obavy, že systémy umělé inteligence “přechytračí” lidstvo, vyjádřila v posledních týdnech řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jemuž se přezdívá “kmotr umělé inteligence”. Hinton letos opustil společnost Google, kde se deset letech podílel na vývoji AI. Nyní varoval, že chatboty mohou například umožnit autoritářským vůdcům manipulovat s voliči. Rovněž Altman má z AI jisté obavy, a proto navrhuje vytvořit mezinárodní organizaci, která by v tomto odvětví vytvářela pravidla a dohlížela na jejich plnění. Podle něj by mohlo jít o podobnou organizaci, jakou je Mezinárodní agentura pro atomovou energii.
