Jak za pomoci umělé inteligence garantovat spolehlivost takzvaných kyberfyzikálních systémů, to bude v rámci grantu ERC Consolidator od Evropské výzkumné rady řešit profesor Jan Křetínský, který už druhým rokem působí na Fakultě informatiky Masarykovy univerzity.
„V rámci projektu se budeme snažit o verifikaci spolehlivosti a návrh spolehlivých kontrolérů kyberfyzikálních systémů tak, aby čelily nejen tradičním výzvám, jako je komplexita systémů, ale i těm moderním výzvám vycházejícím z použití umělé inteligence. Řešení budeme hledat za použití integrování právě umělé inteligence do tradičních verifikačních metod,“ uvedl informatik Křetínský.
Kyberfyzikální systémy jsou počítači řízené přístroje, stroje, ale i výrobní linky. Tyto systémy, kam patří například autonomně řízená auta, propojují kybernetiku a fyzické prostředí, a kromě jiného je u nich třeba zajistit, že jsou nastavené a fungují podle našich požadavků a bezpečně s ohledem na své okolí. Tato verifikace jejich spolehlivosti je už nyní náročná a zvyšuje se s potenciálním zapojením umělé inteligence do rozhodovacích mechanismů těchto systémů. „Subsystémy řízené umělou inteligencí jsou totiž nespolehlivé, a navíc mají složitější strukturu, které často nerozumíme a těžko ji tedy můžeme analyzovat a verifikovat tak její fungování,” přiblížil předmět svého grantu Křetínský.
Jeho cílem je vytvořit takové verifikační nástroje, které umožní bezpečné nasazení umělé inteligence do kyberfyzikálních systémů. Tradiční verifikační algoritmy navržené lidmi fungují v zásadě tak, že se spouští na všech systémech podobně. Křetínský ale chce dosáhnout toho, aby se umělá inteligence podívala na konkrétní systém, snažila se pochopit jeho strukturu a pak přímo pro daný systém přizpůsobila stávající nebo navrhla nový algoritmus, který umožní efektivnější fungování systému, ale při zachování dané úrovně spolehlivosti a bezpečnosti.
„Bude to velmi náročné, protože současná umělá inteligence je z podstaty nespolehlivá a my ji chceme použít v situaci, kdy nám o tu spolehlivost jde především. Pokusíme se propojit aktuálně pomalé a ověřené algoritmy vytvořené člověkem s umělou inteligencí, která je rychlá, má řadu nových nápadů, ale je nevyzpytatelná.”
Křetínský dodává, že abychom mohli umělou inteligenci používat bezpečněji, musíme s její pomocí pracovat buď na méně složitých systémech, nebo jí omezit prostor pro fungování. „Například můžeme využít umělou inteligenci pro optimalizaci spotřeby paliva, pokud jí necháme naprostou volnost, bude řídit úsporněji než jakýkoliv člověk, ale nedokážeme pak zaručit bezpečnost provozu toho auta. Abychom byli schopní garantovat, že se bude auto chovat na silnici tak, jak chceme my, musíme ji tedy nějakým způsobem omezit, a tak i snížit její efektivitu v oblasti úspory paliva,” dodal Křetínský.
Součástí jeho projektu, na kterém bude spolupracovat nejen se svým týmem studentů a doktorandů, ale i s experty z celého světa, bude také dokumentace toho, jak se syntetizované kontroléry chovají a rozhodují. Je to nutné i z hlediska stávající evropské legislativy, která požaduje, aby byly systémy využívající umělou inteligenci zdokumentované tak dobře, aby bylo v případě potřeby možné jasně určit, proč se v konkrétní situaci umělá inteligence rozhodla určitým způsobem a že to její rozhodnutí bylo v pořádku. „Opět na příkladu auta je tato dokumentace nutná proto, abychom v případě nehody mohli říct, proč se auto nějak rozhodlo a že to bylo správně.“
Křetínský se verifikaci počítačových systémů se zapojením umělé inteligence věnuje už deset let. Před příchodem na Masarykovu univerzitu působil na Technické univerzitě v Mnichově. Na Fakultu informatiky v Brně, kde získal paralelně s mnichovskou univerzitou doktorát, jej přivedl zpět unikátní grant MUNI Award in Science and Humanities (MASH), kterým se Masarykova univerzita snaží přilákat na svou půdu špičkové zahraniční i české vědce.
„Působení na Technické univerzitě v Mnichově, která patří v informatice mezi světovou desítku univerzitních pracovišť, mi dalo příležitost učit se od těch nejlepších v oboru. To mě obrovsky posunulo a mohl jsem získat zkušenosti, k nimž bych se v České republice jen obtížně dostával. K návratu mě motivovala rodina a také fakt, že grant MASH nabízí takové podmínky, které mi umožnily rozumně se přesunout i s částí mého německého týmu a plynule tak navázat na předchozí vědeckou práci,” řekl Křetínský s tím, že část týmu má stále v Mnichově, takže se zvýšila provázanost obou univerzit.
