Agentic AI v kybernetické bezpečnosti: kdy je autonomie výhodou a kdy rizikem
Umělá inteligence přestává být nástrojem, který čeká na pokyn. AI agenti jednají samostatně — a CISO musí rozhodnout, jak daleko jim dovolí zajít.
Ještě před rokem byla hlavní otázka CISO, zda nasadit AI do bezpečnostních operací. Dnes je otázka jiná: jak daleko nechat AI jednat autonomně? Přechod od AI jako asistenta k AI jako agentovi, který sám vyhodnocuje, rozhoduje a jedná, se v kybernetické bezpečnosti odehrává rychle — a ne vždy řízeně.
Čísla ukazují, že nasazení AI v bezpečnosti je masové. Přibližně 97 % organizací AI v bezpečnostních operacích buď již používá, nebo plánuje. Využití je soustředěno na detekci hrozeb, automatizaci bezpečnostních procesů a threat intelligence. AI v těchto rolích funguje jako analytická vrstva, která zpracovává objemy dat, na které lidský tým nestačí — a CISO i seniorní analytici mohou svoji energii věnovat rozhodování, nikoliv třídění alertů.
Agentic AI jde o krok dál. Nejde jen o to, že AI detekuje hrozbu a upozorní analytika. Jde o to, že AI hrozbu detekuje, vyhodnotí kontext, rozhodne o reakci a reakci provede — bez lidského vstupu v každém kroku. V bezpečnostních operacích to může znamenat automatickou izolaci kompromitovaného systému, zablokování podezřelého účtu nebo spuštění forenzní analýzy. Rychlost, která je v případě incidentu kritická, hovoří ve prospěch autonomie.
Problém je v tom, že stejnou logiku používají útočníci. Automatizované útoky řízené AI agenty jsou schopny přizpůsobovat taktiku v reálném čase, masivně paralelizovat pokusy o průnik a reagovat na obranná opatření způsoby, které tradiční bezpečnostní nástroje neočekávají. CISO tak stojí před symetrickým soubojem: autonomní obrana proti autonomnímu útoku.
Pro manažera kybernetické bezpečnosti z toho plynou konkrétní rozhodnutí. První je, kde nastavit hranici autonomie vlastních AI nástrojů. Plná autonomie — AI jedná bez schválení — je rychlá, ale přináší riziko špatných rozhodnutí s nechtěnými dopady, například výpadek legitimního systému nebo uzamčení klíčového uživatele. Částečná autonomie s lidskou kontrolou nad kritickými rozhodnutími je pomalejší, ale předvídatelnější a snáze obhajitelná.
Druhé rozhodnutí se týká řízení rizika samotných AI nástrojů. AI systémy nasazené do bezpečnostních operací jsou samy potenciálním cílem útoku. Kompromitovaný AI agent může být zneužit k obejití detekce nebo k vytvoření slepých míst v obraně. CISO musí posuzovat dodavatele AI bezpečnostních nástrojů stejně přísně jako jiné kritické dodavatele — včetně toho, jak dodavatel sám své AI systémy zabezpečuje.
Třetí rozhodnutí je dohled a auditovatelnost. Autonomní systémy musí být přezkoumatelné. Každé rozhodnutí AI agenta musí být zaznamenáno a vysvětlitelné. V případě incidentu, kdy AI agent jednal autonomně, bude třeba rekonstruovat, proč se rozhodl tak, jak se rozhodl — a zda to bylo v souladu s nastavenou politikou. Bez tohoto záznamu není možné ani poučit se z chyby, ani obhájit rozhodnutí před vedením nebo regulátorem.
Agentic AI není téma budoucnosti — je to otázka, se kterou se bezpečnostní týmy potýkají dnes. CISO, kteří o ní začnou strategicky přemýšlet nyní, budou mít výhodu v podobě řízeného nasazení s jasnými pravidly. Ti, kteří počkají, až je k tomu přinutí incident nebo tlak ze strany vedení, budou reagovat ze ztráty.
