Human in the loop: kdy má AI agent čekat na člověka

Human in the loop (člověk ve smyčce) znamená, že práci dělá AI agent, ale v domluvených bodech ji zkontroluje nebo schválí člověk. Agent připraví odpověď, objednávku nebo záznam a člověk je potvrdí, upraví nebo zamítne. Otázka pro firmu nezní, jestli člověka ve smyčce mít, ale u kterých kroků.

Níže najdete, které kroky schvalovat, jak nepřetížit lidi schvalováním a kdy pustit agenta samotného. Pojem ve zkratce je i v našem slovníku pojmů.

Co je human in the loop jednoduše?

Agent pracuje a u důležitého kroku se zastaví. Pošle návrh člověku a čeká. Člověk má tři možnosti: schválit, upravit, nebo zamítnout. Agent pokračuje až potom.

Stejně důležitá je druhá polovina smyčky. Každá oprava se vrací do podkladů agenta: do příkladů, pravidel a typů případů. Bez toho člověk opravuje pořád stejné chyby a smyčka nikam nevede.

U AI agentů to není opatrnost navíc. Agent stojí na jazykovém modelu, který pracuje s pravděpodobností a občas se splete. Člověk ve smyčce je důvod, proč můžete agenta nasadit i tam, kde chyba stojí peníze.

Human in the loop, on the loop, out of the loop: jaký je rozdíl?

V článcích o AI narazíte na tři úrovně. Liší se tím, kdy člověk do práce vstupuje.

Jeden agent může mít všechny tři najednou, u každého typu práce jinou. Přesně tak to má vypadat.

Které kroky má schválit člověk?

Ne všechny. Když člověk schvaluje každý krok, agent nic nešetří a lidé ho přestanou používat. Schvalovat je potřeba tam, kde je chyba drahá. Zaškrtněte, co platí o kroku, který chcete dát agentovi:

U agentů, které stavíme, důležité kroky schvaluje člověk. U kódu je to stejné: AI píše, každou změnu kontroluje senior. Co agent nesmí udělat vůbec, ani se schválením, rozebíráme v článku AI guardrails: jaké mantinely potřebuje AI agent ve firmě.

Jak nepřetížit lidi schvalováním?

Tady se human in the loop kazí nejčastěji. Člověk dostane desítky návrhů denně. První čte pozorně. Po týdnu klikne na „schválit“ bez čtení, protože agent měl dosud vždycky pravdu. Formálně je ve smyčce, ve skutečnosti ne.

Ten jev má jméno: automation bias, sklon spoléhat se na výstup stroje víc, než si zaslouží. Pojmenovává ho i AI Act v článku 14 o lidském dohledu nad vysoce rizikovými AI systémy. Většina firemních agentů mezi ně nepatří, princip ale platí pro všechny. Nejde o právní radu.

Co pomáhá:

• Méně ke schválení. Jen typy práce, kde je chyba drahá. Zbytek jde sám nebo do kontroly vzorku.
• Podklady u návrhu. Člověk vidí, z čeho agent vycházel: objednávku, historii, pravidlo. Nemusí je hledat.
• Jasná tlačítka. Schválit, upravit, zamítnout. Při zamítnutí jedna věta proč. Ta jde zpět do podkladů.
• Měřte opravy. Kolik návrhů člověk mění. Když opravy u typu práce zmizí, schvalování tam už nic nechrání.

Upřímně: přesné číslo, kolik návrhů denně člověk poctivě zkontroluje, nemáme. Záleží na práci. Kontrola odpovědi o stavu zásilky trvá sekundy, kontrola cenové nabídky minuty.

Kdy pustit agenta samotného?

Autonomie se nedává najednou. Přidává se po typech práce, když je agent prokazatelně zvládá. Postupujeme v tomto pořadí:

Krok 1 vypadá jako zdržení. Ve skutečnosti je to jediný způsob, jak zjistit, co agent zvládá. Kdo ho přeskočí, agenta buď vypne, nebo opravuje víc, než ušetřil.

Jak to vypadá v praxi?

U klienta s online prodejem jsme postavili agenta na zákaznickou podporu. Zákazníkům odpovídá do 5 minut. Případy, u kterých si není jistý, posílá člověku.

Člověk ve smyčce tu práci nezpomalil. Přesunul ji. Podpora přestala psát rutinní odpovědi a věnuje se případům, kde je potřeba úsudek. Celý postup je v článku AI agent na odpovědi na e-maily zákazníků.

U vývoje softwaru platí totéž. Kód u nás píše hlavně AI a každou změnu před nasazením kontroluje senior. Jak to funguje, popisujeme v článku AI softwarová továrna s člověkem ve smyčce.

Kdy to nedoporučujeme

• Úkol je levný a vratný. Třídění pošty do složek nebo interní poznámky. Schvalování by stálo víc než chyba.
• Schvalovatel nemá čas ani podklady. Kdo neumí návrh posoudit, jen ho odklikne. Nejdřív mu dejte podklady, nebo vyberte jiného člověka.
• Pevné pravidlo dá vždy stejný výsledek. Pak není potřeba agent ani schvalování. Stačí automatizace, jak píšeme v článku Agentic workflow vs automatizace.
• Opravy neubývají ani po týdnech. Další schvalování nepomůže. Chyba je v podkladech nebo v typu práce, který agentovi nesedí.

Nevíte, kde má u vás čekat člověk?

Napište nám, jakou práci chcete dát agentovi. Ozveme se do dvou pracovních dnů s pár otázkami k vaší práci. Pak dostanete seznam: co bude hotové a jak si to ověříte. Bude v něm i to, které kroky schvaluje člověk.

Pokud se chcete nejdřív pobavit, domluvte si úvodní hovor na 15 minut.

Jak takového agenta stavíme, popisujeme na stránce AI agent pro firmu na míru. Co agent je a kdy ho nepotřebujete, píšeme v článku Co je AI agent?

Který krok ve vaší firmě byste agentovi nikdy nedali bez kontroly?

Časté otázky

Co je human in the loop?

Human in the loop (člověk ve smyčce) znamená, že práci dělá AI agent, ale v domluvených bodech ji zkontroluje nebo schválí člověk. Agent připraví návrh a člověk ho potvrdí, upraví nebo zamítne. Agent pokračuje až potom.

Jaký je rozdíl mezi human in the loop a human on the loop?

U human in the loop agent čeká, až člověk krok schválí. U human on the loop agent jedná sám a člověk ho sleduje a může zasáhnout. První se hodí na riskantní kroky, druhé na ověřené typy práce.

Které kroky AI agenta má schvalovat člověk?

Ty, které nejdou vrátit, stojí peníze, jdou ven z firmy nebo se týkají reklamací a právních věcí. A všechno, u čeho si agent není jistý.

Jak zabránit tomu, aby člověk schvaloval naslepo?

Dejte mu ke schválení méně a lépe: jen riskantní typy práce a u návrhu podklady, ze kterých agent vycházel. Sledujte, kolik návrhů opravuje. Když opravy u typu práce zmizí, pusťte ho samostatně a kontrolujte vzorek.

Kdy může AI agent pracovat bez schvalování?

U typu práce, u kterého jste delší dobu schvalovali návrhy a opravy přestaly chodit. Chyba musí být levná a vratná. Nejisté případy má agent i tak posunout člověku.