Evropská unie chce regulovat umělou inteligenci

Schválení Aktu o umělé inteligenci výrazně ovlivní další vývoj globálního trhu se systémy umělé inteligence. Členské státy Evropské unie se na jeho celosvětovém obratu podílejí přibližně jednou pětinou. Technologické firmy záměr oceňují, ale nezřídka kritizují stávající podobu návrhu, uvádí analýza společnosti IDC.
V roce 2018 se Evropská komise začala věnovat tvorbě nového legislativního rámce, ve kterém usiluje o regulaci systémů umělé inteligence. V současnosti se návrh nařízení známý pod zkráceným názvem Akt o umělé inteligenci nachází na začátku etapy svého konečného schválení. Po dokončení procesů půjde o první závazný předpis svého druhu na světě, který v tomto rozsahu ošetřuje oblast umělé inteligence.
„Velmi oceňuji snahu chránit lidská práva a mít pro to jasná a jednotná pravidla napříč Evropou, byť zrovna u rozeznávání tváří bych více ocenil úplný zákaz vzhledem k dopadu na soukromí lidí,“ říká poslanec Evropského parlamentu Mikuláš Peksa a dodává: „Výrazně složitější je otázka, jaký to bude mít vliv na dostupnost služeb na evropském trhu a jejich rozvoj. Mám obavu ze schvalovacích procesů, které pokud budou nastaveny neefektivně, mohou se stát výrazně dražšími a pomalejšími, než by bylo únosné.“
Názor českého europoslance lze doplnit komentářem Jana Romportla, ředitele centra umělé inteligence O2 Czech Republic: „Nařízení o umělé inteligenci je zásadním pokusem o globální koordinovanou akci, přinejmenším na půdě EU. Je sice pokusem těžkopádným, nedokonalým, nesoucím značný rukopis EU byrokracie, ale pořád pokusem silným, odvážným, průlomovým a velmi důležitým.“
Po schválení nové legislativy se evropské a mimoevropské firmy, jež působí na jednotném trhu starého kontinentu, budou muset vyrovnat s požadavky a dopady nové regulace. Mezi hlavní povinnosti se zařadí nutnost poskytovat algoritmy a změny v nich nezávislým dozorovým orgánům. Na praktickou aplikaci legislativní úpravy bude dohlížet nově zřízená Evropská rada pro umělou inteligenci.
„Nová legislativa nastaví podmínky pro vývoj a využívaní systémů umělé inteligence, jednu z nejrychleji rostoucích oblastí digitální ekonomiky. Ještě neznáme její konečnou podobu, vše se rozhodne v následujících měsících. Některé aspekty návrhu jako jsou důraz na důvěryhodnost a transparentnost aplikací umělé inteligence jsou již nyní součástí produktů a služeb,“ říká Milena Jabůrková, ředitelka vládních programů IBM Central.
Dodavatelé, kteří uvádějí řešení vybavená umělou inteligencí na vnitřní trh EU, musí v následujících letech v souvislosti s novou regulací počítat s možnými soudními řízeními. Ta se mohou zaměřit především na rozsah a bezpečnost systémů zaměřených na dohlížení a sledování, ukládání a správu osobních dat.
„Je pochopitelné, že kolem připravované legislativy panuje nemalá nejistota, která bude ovlivňovat vnitřní procesy soukromých společností a jejich investice do umělé inteligence. Potenciálně může dojít k výraznému zpomalení vývoje v oblastech, v nichž systémy s umělou inteligencí pracují s citlivými daty nebo slouží společensky kontroverzním účelům,“ říká Jack Vernon, expert společnosti IDC na software s umělou inteligencí. Jednotliví dodavatelé společně s uživateli systémů umělé inteligence musejí začít přemýšlet o tom, jak nová legislativa ovlivní jejich aktivity. Čím dřív tuto úvahu zahájí, tím spíše budou schopni předejít pozdějším nepříjemným překvapením.
„Na dopady nařízení Akt o umělé inteligenci se zatím nepřipravujeme a nemáme je finančně podchycené. Zatím nemáme ani odezvu od našich evropských zákazníků. Je to proto, že stále vnímáme vysokou míru nejistoty, co se týče finální podoby a rozsahu regulace,“ doplňuje Petr Baudiš, zakladatel a technologický ředitel společnosti Rossum, a dodává: „Jsem však přesvědčen, že nedává smysl regulovat plošně umělou inteligenci, ale předcházet nežádoucímu chování v konkrétních citlivých situacích.“