Automatizace se schvalováním člověkem: tři pravidla, aby AI neposlala špatný e-mail

Odpovědi na naše obchodní poptávky navrhuje AI a schvaluje člověk. Z provozu vzešla tři závazná pravidla, každé z jedné skutečné chyby, a k tomu návod, co smí běžet bez člověka.

Vydáno 20. října 2026 · 5 min čtení · Redakce FlowsmithautomatizaceAI agentiprovoz

„Human in the loop", tedy člověk ve smyčce, se snadno řekne a snadno se nenápadně pokazí. Neznamená to, že se člověk občas podívá na nástěnku. Znamená to, že systém je postavený tak, aby nevratný krok nemohl proběhnout bez člověka, zatímco všechno před ním běží samo.

Tenhle vzorec provozujeme každý den. Příchozí obchodní poptávky do jedné schránky skupiny KH Group se roztřídí, model z firemní znalostní báze navrhne odpověď, koncept přistane ve schránce a člověk ho zkontroluje, případně požádá o úpravy, a stiskne Odeslat. Všechno stojí na n8n a malé provozní nástěnce nad databází. Tři pravidla níže se stala závaznými poté, co jsme každé z nich jednou porušili.

Tvar bezpečné smyčky

Nejdřív struktura, kterou pravidla chrání:

1. Spouštěč. Štítek na příchozím e-mailu. Klasifikátor běží čtyřikrát denně a bere jen označené zprávy.
2. Návrh. Agent načte znalostní bázi a napíše odpověď. Ve schránce založí koncept. Nikdy nic neodesílá.
3. Kontrola. Člověk otevře případ, čte koncept vedle zprávy zákazníka a buď požádá o změny (koncept se přepíše na místě), nebo ho schválí.
4. Odeslání. Schválení je tlačítko, které odeslání provede a zapíše výsledek. Odeslat nebo zastavit případ jde jen z přihlášené lidské relace. Náš vlastní servisní token to neumí, a tak to neumí ani žádný skript nebo agent.

Čtvrtý bod je jádro celého návrhu. Pokud agent s API tokenem může zavolat „odeslat", nemáte člověka ve smyčce. Máte člověka, který je náhodou poblíž.

Pravidlo 1: stav jen podle pozorování, nikdy podle odvození

Máme úklidovou úlohu, která drží frontu ke schválení v pořádku. Jednoho rána z ní odstranila několik živých případů. Její logika vypadala rozumně: databáze ukazovala, že každému z těch zákazníků už odešla pošta, takže usoudila, že případy jsou vyřízené.

Jenže „tomuto zákazníkovi odešla pošta" a „tento případ je zodpovězený" jsou dvě různá fakta. Zákazníci napsali znovu a jejich nové otázky odpověď ještě neměly. Úklid si stav odvodil z pole, které znamenalo něco jiného, a skutečné poptávky zmizely z fronty.

Pravidlo teď zní: automat smí nastavit stav jen podle něčeho, co přímo vidí. Koncept existuje bez značky rozpracovanosti, takže je připraven k odeslání. Poštovní služba potvrdila odchod zprávy, takže je odesláno. Koncept je v koši, takže je případ uzavřený. Cokoli odvozeného z dat se stává poznámkou pro operátora, nikdy změnou stavu. Úklid dál běží čtyřikrát denně, jen místo rozhodování píše poznámky.

Pravidlo 2: výsledek zapisuje ten, kdo jedná

Během jednoho dne se třikrát stalo, že akce proběhla a nikdo si nezapsal, že proběhla. Odpověď odešla, ale případ zůstal „připraven k odeslání". Koncept byl schválený, ale nástěnka ho dál ukazovala jako „ke kontrole". Pokaždé se počítalo s tím, že to později všimne úloha na pozadí a záznam opraví.

Úlohy na pozadí jsou špatné účetnictví. Běží pozdě, pracují s neúplnými daty (viz pravidlo 1) a když selžou, nástěnka lže a nikdo o tom neví. Pravidlo teď zní: požadavek, který akci provede, zapíše ve stejném požadavku i její výsledek. Tlačítko Odeslat odešle a zapíše odesláno. Tlačítko Schválit uloží koncept a zapíše připraveno k odeslání. Úklid je záchranná síť, ne mechanismus.

Je to stejné poučení jako v lekci Akademie When failure looks like success (zatím anglicky): systém, který hlásí úspěch odděleně od samotné práce, dřív nebo později ohlásí jedno bez druhého.

Pravidlo 3: nikdy nejednejte nad tím, co neprošlo vaším tokem

Obchodní schránka je sdílená. Kromě konceptů našeho agenta v ní leží koncepty od nástroje třetí strany, které čekají na zpracování, a koncepty, které kolegové píšou ručně. Ve schránce vypadají všechny stejně.

Každý koncept, který vytvoří náš tok, nese identifikátor relace, který ho váže k zaznamenanému případu. Koncept bez něj dostane vlastní stav, mimo tok. Nástěnka u něj tlačítko Odeslat skryje a server ho odmítne odeslat, i kdyby někdo zavolal API napřímo. Dvě vrstvy schválně: rozhraní chybě předejde a server ji znemožní.

Tohle platí obecně. Kdykoli automatizace sdílí prostor s lidmi nebo jinými nástroji, třeba schránku, složku nebo tabulku, označte, co je vaše, a nad vším ostatním odmítněte jednat.

Drobnější pojistky, které se vyplatí

• Limity na všechno automatické. Naše formulářová brána posílá automatické potvrzení „vaši zprávu jsme přijali", ale nejvýš jedno na adresu za deset minut a třicet za hodinu, a až když je odeslání bezpečně uložené. Chyba ani bot nesmí ze schránky udělat dělo na spam.
• Vratné jako výchozí. Úklid přesouvá koncepty do koše, odkud jdou vrátit. Nikdy nemaže. Zastavení případu vyžaduje písemný důvod.
• Jeden kanál pro chyby s prodlevou. Selhání upozorní člověka, ale jedno rozbité API vyrobí jedno upozornění za půl hodiny, ne stovky.
• Sloučení před návrhem. Když tentýž zákazník napíše během týdne třikrát, agent dostane zprávy pohromadě a po sobě a napíše jednu odpověď, ne tři, které si protiřečí.

Kdy může člověk ze smyčky vystoupit?

Ne najednou a ne automaticky. Naše pravidlo vychází ze smlouvy o autonomii, kterou učíme v lekci Agenti na plnou autonomii: volně jednej nad tím, co jde vrátit, a hlídej, co vrátit nejde. Shrnutí, třídění, návrhy a zakládání jdou vrátit, takže běží bez dozoru. Odeslání zákazníkovi, mazání, platby a zveřejnění vrátit nejdou, takže čekají na člověka.

Určitý druh zpráv může přejít na automatické odesílání, až budete mít záznam mnoha schválení v té kategorii bez podstatných úprav, spolehlivý způsob, jak poznat, že zpráva do ní patří, a tlačítko stop, které bude fungovat i potom. Do té doby není člověk, který dobrý koncept schválí za patnáct vteřin, úzkým hrdlem. Je to důvod, proč můžete věřit zbytku systému.

Postavte si vlastní smyčku

Začněte v malém: jeden spouštěč, jeden AI krok, který navrhuje, a jedna akce, která čeká na schválení. Lekce Akademie Tvoje první automatizace postaví přesně tohle v n8n. Autonomní motor ukazuje, jak daleko může práce bez dozoru dojít, když je hranice mezi vratným a nevratným jasně nakreslená. Pokud vybíráte nástroj, článek n8n vs. Zapier vysvětluje, proč placení za běh dělá kroky schvalování dostupnými.