3 poistky pre AI agentov vo firme

V júli 2025 skúšal Jason Lemkin zo SaaStr 12 dní tvoriť aplikáciu s AI agentom od Replitu. Agent mal jasný pokyn: nič nemeň bez súhlasu. Na deviaty deň aj tak spustil príkazy, ktoré zmazali z databázy záznamy o 1 206 manažéroch. Keď sa ho Lemkin pýtal, čo sa stalo, agent napísal, že spanikáril. A tvrdil, že dáta sa vrátiť nedajú. Mýlil sa. Záloha existovala a dáta sa obnovili.

Nepíšeme to, aby sme strašili. AI agenti firmám naozaj šetria hodiny práce a staviame ich aj my. Ten príbeh však ukazuje jednu vec: pokyn v chate nie je zámok. Kto pustí agenta k ostrým dátam, potrebuje poistky. Tu sú tri, ktoré nastavujeme každému agentovi. Na konci článku si ich môžete stiahnuť ako checklist na jednu stranu.

Čo je AI agent a prečo potrebuje poistky

AI agent je program postavený na jazykovom modeli, napríklad Claude, ktorý nielen odpovedá, ale aj koná. Číta e-maily, pracuje s tabuľkami, zapisuje do CRM, posiela správy. V tom je rozdiel oproti chatu. Chat sa môže pomýliť v texte. Agent sa môže pomýliť v čine.

Agenti navyše čoraz častejšie pracujú v tímoch. Anthropic opísal systém, v ktorom hlavný agent rozdeľuje úlohy špecializovaným agentom. Na internom teste prekonal jediného agenta o 90,2 %, no spotreboval asi 15-krát viac výpočtov než bežný chat. Viac agentov znamená viac odvedenej práce. A aj viac miest, kde môže chyba vzniknúť a šíriť sa ďalej.

Poistka 1: Vrátnik. Bez dovolenia nič

Pokyn „nič nemeň“ nestačí. Agent ho môže prehliadnuť, zle pochopiť alebo ho môže prebiť iný pokyn, ktorý mu niekto podstrčí v e-maile či dokumente. Zákaz preto musí byť v prístupoch, nie v slovách.

Agent má vlastný prístup s minimom práv, nie váš administrátorský účet.
Je spísané, čo smie: čítať, navrhnúť, pripraviť koncept.
Mazanie, zmena cien a odosielanie von sú zamknuté v nastaveniach, nie iba v prompte.
Ostré dáta smie len čítať. Skúša na kópii.

Niektoré nástroje to vedia priamo. V Claude Code sa dá nastaviť brána (tzv. hook), ktorá skontroluje každý krok agenta skôr, než sa vykoná, a nebezpečný príkaz zablokuje. Brána pritom nesleduje, čo agent píše, ale čo sa chystá urobiť.

Poistka 2: Prácu skontroluje niekto iný

Kto prácu urobil, ten ju nekontroluje. Platí to pre ľudí aj pre agentov. Kontrolórom môže byť druhý agent, automatický test alebo človek.

Každý výstup, ktorý ide ďalej, má svojho kontrolóra.
Kontrolór má jasné kritériá: sumy, mená, dátumy, IČO, odkazy.
Čísla sa prepočítavajú, nepreberajú.
V tíme agentov sa kontroluje po každom kroku, nie až na konci. Inak sa chyba množí.

Poistka 3: Čo sa nedá vrátiť, odklikne človek

Agent pripraví, človek schváli. Pri všetkom, čo sa nedá vziať späť.

Máte zoznam nevratných krokov: platba, e-mail klientovi, mazanie, zverejnenie, objednávka.
Pri nich agent zastaví a pošle vám návrh na jeden klik: schváliť.
Každé schválenie má záznam: kto, kedy, čo.
Záloha beží pravidelne a vyskúšali ste, že sa z nej dá obnoviť.

Posledný bod nie je náhoda. V prípade Replitu zachránila dáta práve záloha. Replit potom pridal automatické oddelenie skúšobnej a ostrej databázy, režim, v ktorom agent len plánuje, a obnovu zo zálohy jedným klikom.

Rýchly test pred spustením

Odpovedzte na tri otázky. Ak je pri niektorej odpoveď „neviem“, agent ešte nejde do ostrej prevádzky.

Čo najhoršie môže agent urobiť s prístupmi, ktoré má?
Kto skontroluje jeho prácu, kým pôjde ďalej?
Keď sa pomýli, vieme to vrátiť? A ako rýchlo?

Časté otázky

Nestačí agentovi dobre napísať pokyny?

Dobré pokyny pomáhajú, ale nie sú zámok. Agent Replitu mal pokyn nič nemeniť bez súhlasu, a aj tak ho porušil. Čo agent nesmie, musí byť zamknuté v prístupoch a nastaveniach.

Nespomalia poistky prácu agenta?

Človek vstupuje len pri krokoch, ktoré sa nedajú vrátiť. Všetko ostatné agent robí sám. Prejsť a schváliť 40 pripravených upomienok je stále rýchlejšie než ich písať.

Platí to aj pre malú firmu?

Áno, možno ešte viac. Malá firma má menej ľudí, ktorí si chybu všimnú, a jedna zlá správa klientovi bolí viac. Poistky sa dajú nastaviť aj pri jednom agentovi a pár nástrojoch.

Agentov, ktorých staviame pre firmy, nastavujeme s týmito poistkami od prvého dňa. Ak zvažujete AI agenta vo vašej firme, dohodnite si 15-minútový hovor.

3 poistky pre AI agentov: ako ich bezpečne pustiť k firemným dátam