Najnebezpečnejšia vec na AI agente nie je to, že občas povie hlúposť s veľkým sebavedomím. To robia aj ľudia na poradách a civilizácia to zatiaľ nejako ustála. Skutočná zmena prichádza vo chvíli, keď agent prestane byť iba textové okno a dostane nástroje: API, prístup k súborom, objednávkam, pluginom, deployom alebo zákazníckym dátam.
Vtedy sa z neho stáva digitálny zamestnanec. Nie kolega, nie kamarát, nie magický mozog v cloude. Zamestnanec. Lenže taký, ktorý nemá pud sebazáchovy, sociálny cit pre kontext ani prirodzený strach z tlačidla, na ktorom je napísané “delete”. Ak mu systém dovolí konať, bude konať.
Problém už nie je odpoveď. Problém je akcia.
Prvá vlna AI rizík bola postavená okolo halucinácií. Model si vymyslel fakt, právnu vetu, technický postup alebo citát. Nepríjemné, ale väčšinou stále uzamknuté v texte. Agentická AI posúva problém ďalej. Model nemusí len poradiť zlý krok. Môže ho vykonať cez workflow.
Predstav si agenta napojeného na WordPress, fakturačný systém a email. Používateľ napíše: “uprataj web, pošli klientovi report a zrýchli homepage.” Dobrý systém túto požiadavku rozbije na bezpečné kroky. Zlý systém začne mazať pluginy, meniť cache, prepisovať stránky a posielať emaily s tónom človeka, ktorý vypil tri espressá a čítal príliš veľa growth hack blogov.
AI agent musí byť navrhnutý ako pracovník s oprávneniami, nie ako hračka s prístupom ku všetkému.
Technická realita je nudnejšia a dôležitejšia
Bezpečný agent potrebuje hranice. Nie jednu veľkú frázu v system prompte, ale skutočné systémové mantinely: read-only režim, potvrdenia pri rizikových akciách, audit log, rate limit, oddelené tokeny, minimálne oprávnenia a jasné rozdiely medzi návrhom a vykonaním. “Nesprav nič nebezpečné” nie je architektúra. Je to lepšia verzia držania palcov.
Pri WordPress weboch to znamená jednoduché pravidlo: čítanie je lacné, zápis je drahý. Diagnostika môže bežať často. Mazanie databázy, zmeny pluginov, úprava tém, deploy alebo SSH musia mať samostatnú bránu. Agent má najprv vysvetliť plán, ukázať dopad a až potom čakať na potvrdenie.
Najčastejší omyl je veriť, že agent potrebuje “viac práv”, aby bol užitočný. V praxi je to opačne. Najlepší agent je ten, ktorý má presne dosť práv na svoju úlohu a ani o centimeter viac. Ak má robiť audit, nepotrebuje mazanie. Ak má pripraviť draft, nepotrebuje publikovanie. Ak má navrhnúť cleanup, nepotrebuje priamy prístup k databáze.
Toto je rozdiel medzi produktom a demo videom. Demo ukáže, že agent niečo dokáže. Produkt musí ukázať, čo agent urobiť nesmie. Práve tam sa láme dôvera. Systém, ktorý má odvahu obmedziť vlastnú silu, je v praxi použiteľnejší než agent, ktorý sa tvári ako všemocný internista pre celý internet.
Ako s tým pracovať prakticky
- Začni read-only režimom. Agent nech najprv vidí stav systému, nie nech ho hneď mení.
- Každú write akciu rozdeľ na návrh, potvrdenie a vykonanie.
- Používaj oddelené API kľúče s minimálnymi právami.
- Loguj rozhodnutia aj výsledky, nie tajomstvá.
- Nedovoľ agentovi kombinovať nebezpečné kroky bez ľudskej kontroly.
Budúcnosť AI agentov nebude o tom, kto má najkrajšie chatovacie okno. Bude o tom, kto dokáže spojiť autonómiu s disciplínou. Agent má šetriť čas, nie vyrábať incidenty. A dobrý systém sa pozná presne podľa toho, že vie povedať: “toto neurobím bez potvrdenia”.
H4CK3D Note:
AI agent nie je nebezpečný preto, že je inteligentný. Je nebezpečný preto, že dostane API token skôr, než dostane zdravý rozum.
