Některé z největších světových podniků se potýkaly s pokusy o okamžitý průnik do svých interních agentů AI.
Společnost Cato Networks, dodavatel bezpečnostní architektury SASE (Secure Access Service Edge), oznámila akvizici Aim Security. Společnost Aim se zaměřuje na zabezpečení umělé inteligence a podporuje bezpečné zavádění agentů AI a veřejných i soukromých aplikací AI v podnicích.
Umělá inteligence transformuje veškeré podnikání. Zároveň však nové způsoby interakce s podnikovými daty – ať už ze strany lidí, AI agentů nebo AI modelů – přinášejí rizika v oblasti bezpečnosti, dodržování předpisů a ochrany soukromí. Vzhledem k tomu, že se architektura SASE stává de facto standardem pro bezpečnou síťovou vrstvu propojující všechny podnikové zdroje, má i pozici být i primárním řídicím bodem pro všechny interakce s AI.
S tím, jak se umělá inteligence se stává klíčovou technologií pro stále více firem, rostou i související bezpečnostní rizika. Zaměstnanci využívají ChatGPT a další jazykové modely, v řadě oddělení se nasazuje Microsoft Copilot i další asistenční nástroje a vývojářské týmy vytvářejí vlastní AI agenty. Každá z těchto interakcí může ale vést ke kompromitaci citlivých data, představovat riziko porušení předpisů nebo regulatorních požadavků.
Podle Eyala Heimana, CTO Cato Networks, skutečně v poslední době došlo k několika bezpečnostním incidentům. Například výzkumný tým společnosti Aim odhalil EchoLeak (CVE-2025-32711), první zranitelnost typu zero-click v Microsoft 365 Copilot, kterou lze zneužít k exfiltraci dat bez interakce uživatele. Tým Cato CTRL zase objevil techniku jailbreakingu, která dokázala přesvědčit hlavní asistenty AI – včetně ChatGPT, Copilot a DeepSeek – k generování malwaru pro krádež hesel. A v praxi se některé z největších světových podniků potýkaly s pokusy o okamžité vniknutí do svých interních agentů AI. Tyto příklady ilustrují, proč podniky potřebují specializované zabezpečení AI již dnes, a ne až za několik let.
Podle Heimana patří k útokům nebo zranitelnostem spojený s využitím umělé inteligence ve firmách útoky typu prompt injection, při nichž útočníci manipulují s modely LLM, aby získali data nebo obešli bezpečnostní opatření. Dobře známým problémem je i zadávání citlivých informací, jako je zdrojový kód nebo záznamy o zákaznících, do veřejných aplikací. Výsledkem pak může být únik dat.
Útočníci se mohou zaměřit i na interní agenty a aplikace AI s cílem přimět je k provedení nechtěných akcí (odpovídá útoku na libovolnou jinou podnikovou aplikaci). A nakonec bych zmínil rizika v dodavatelském řetězci AI, včetně zranitelností v modelech nebo nesprávně nakonfigurovaných procesů (toků dat) souvisejících s AI. Tyto metody umí Aim detekovat a útoky odrážet. Řešení monitoruje interakce zaměstnanců s veřejnými AI aplikacemi, dále vynucuje bezpečnostní politiky pro soukromé AI aplikace a agenty (jde vlastně o obdobu firewallu). A nakonec Aim zabezpečuje celý vývojový cyklus AI, od trénování modelů strojového učení až po vytváření vlastních AI agentů.
„AI transformace překoná digitální transformaci a stane se hlavní sílou, která bude v příštím desetiletí formovat podniky,“ dodává Shlomo Kramer, výkonný ředitel a spoluzakladatel společnosti Cato Networks. „Akvizicí společnosti Aim Security dodáváme naší SASE platformě turbo pohon v podobě pokročilých bezpečnostních funkcí pro AI.“
