Bezpečné nasazení agentní AI? Rozhodují kvalitní data a efektivní správa

Se zrychlujícím se zaváděním umělé inteligence a rostoucími kybernetickými hrozbami téměř 8 z 10 vedoucích pracovníků v oblasti IT bezpečnosti přiznává, že jejich bezpečnostní postupy potřebují zásadní proměnu. Nová data společnosti Salesforce o stavu IT potvrzují stoupající optimismus ohledně agentů AI. Podle průzkumu všichni dotázaní manažeři v oblasti bezpečnosti uvedli, že tato technologie dokáže zlepšit alespoň jeden bezpečnostní problém.
Navzdory této naději však globální průzkum mezi více než 2 000 IT bezpečnostními lídry odhaluje závažné překážky při zavádění agentních systémů. Téměř polovina (48 %) se obává, že jejich datová infrastruktura není připravená na plné využití potenciálu agentů AI , a více než polovina (55 %) není přesvědčena, že má pro bezpečné nasazení agentů AI k dispozici odpovídající ochranné mechanismy.
Proč je to důležité: S umělou inteligencí dnes stále častěji pracují jak obránci firemních systémů, tak útočníci. Autonomní agenti AI mohou bezpečnostním týmům odlehčit od rutinní práce a umožnit jim soustředit se na složitější výzvy. Nasazení agentů AI však vyžaduje robustní datovou infrastrukturu a správu, aby bylo úspěšné.
Pohled Salesforce: „Důvěryhodní agenti AI jsou postaveni na důvěryhodných datech. Firmy, které mají dobře zvládnutou správu dat, budou moci rozšířit své bezpečnostní kapacity o agenty a zároveň chránit data a zůstat v souladu s předpisy,“ řekla Alice Steinglass, EVP & GM, Salesforce Platform, Integration and Automation.

Složitá pravidla komplikují zavádění AI
Čtyři z pěti IT bezpečnostních manažerů věří, že agenti AI pomohou s plněním regulatorních požadavků, například zlepšit soulad s globálními zákony o ochraně osobních údajů. Téměř stejný podíl (79 %) ale upozorňuje, že právě tito agenti přinášejí i nové problémy a výzvy v oblasti dodržování předpisů. Důvodem může být složité a neustále se měnící regulační prostředí napříč odvětvími a regiony, ale i to, že většina firem stále spoléhá na manuální procesy náchylné k chybám.
• Pouze 47 % dotázaných si je jistých, že zvládnou nasadit agenty AI v souladu s platnými předpisy a normami.
• Až 83 % firem uvádí, že zatím nemá zajištěný plně automatizovaný soulad s předpisy.

Rozpočty na zabezpečení se zvyšují s vývojem hrozeb
IT lídři kromě tradičních hrozeb, jako je malware nebo phishing, nově zmiňují i tzv. „otrávená data“, kdy útočníci narušují tréninkové datasety AI systémů. Tři čtvrtiny organizací (75 %) proto plánují navýšit rozpočet na bezpečnost.
Důvěra v AI se teprve rodí
Nedávná spotřebitelská studie zjistila, že důvěra ve firmy výrazně klesá. Tři pětiny (60 %) respondentů se shodují, že s rozvojem AI je důvěryhodnost firem důležitější než kdy dřív. Zároveň ale jen 42 % lidí věří, že firmy používají umělou inteligenci eticky – oproti 58 % v roce 2023. Většina IT bezpečnostních manažerů si uvědomuje, že získat tuto důvěru bude ještě vyžadovat hodně práce:
• 57% nedůvěřuje přesnosti nebo vysvětlitelnosti AI výstupů.
• 60 % transparentně nezveřejňuje, jak jsou data zákazníků v AI systémech využívána.
• 59 % nemá zdokonalená etická pravidla pro používání AI.

Základem je správa dat
Téměř polovina bezpečnostních manažerů si není jistá, zda má k dispozici dostatečně kvalitní data nebo správná oprávnění k nasazení AI agentů. Pomalu ale dochází k pokroku. Nedávný průzkum mezi řediteli IT zjistil, že na datovou infrastrukturu a správu je vyčleněno čtyřikrát více prostředků než na umělou inteligenci. To naznačuje, že si uvědomují potřebu postavit nejdřív pevné základy.

Agenti umělé inteligence už pomáhají a jejich využití poroste
Průzkum State of IT ukazuje, že již více než 40 % týmů IT bezpečnosti využívá agenty při své každodenní činnosti. A očekává se, že toto číslo se v příštích dvou letech téměř zdvojnásobí. Bezpečnostní IT manažeři si od agentů AI slibují řadu výhod, od detekce hrozeb až po sofistikovaný audit výkonnosti modelů umělé inteligence. Do dvou let plánuje AI agenty používat 75 % organizací, oproti dnešním 41 %

Firmy připravují taktické změny
Kromě nutnosti posílit datovou infrastrukturu se ukazuje, že ani celkové bezpečnostní a compliance postupy nejsou vždy připraveny na nástup AI agentů. Jen 47 % respondentů věří, že jejich procesy jsou skutečně připraveny na vývoj a implementaci agentů AI.
Pohled zákazníků: Arizonská státní univerzita (ASU) patří mezi první univerzity, které využívají Agentforce, digitální pracovní platformu společnosti Salesforce určenou k rozšíření týmů o důvěryhodné autonomní agenty AI přímo v rámci pracovních procesů. ASU zdůrazňuje potřebu relevantních dat, zejména s tím, jak univerzita rozvíjí své iniciativy v oblasti AI. Univerzita nasadila řešení pro zálohování, obnovu a archivaci dat od společnosti Own (nyní součást Salesforce), které jí zajišťuje komplexní správu dat, včetně požadavků na zálohování, obnovu, dodržování předpisů i podporu inovací.

Metodika
Data pocházejí ze segmentu vedoucích pracovníků v oblasti bezpečnosti, ochrany soukromí a dodržování předpisů z dvojitého anonymního průzkumu mezi osobami s rozhodovací pravomocí v oblasti IT, který byl proveden v období od 24. prosince 2024 do 3. února 2025. Respondenti zastupovali Austrálii, Belgii, Brazílii, Dánsko, Finsko, Francii, Indii, Indonésii, Irsko, Izrael, Itálii, Japonsko, Kanadu, Německo, Mexiko, Nizozemsko, Nový Zéland, Norsko, Portugalsko, Singapur, Jižní Koreu, Spojené arabské emiráty, Španělsko, Švédsko, Švýcarsko, Thajsko, Spojené království a Spojené státy.