Human in the loop: kedy má AI agent čakať na človeka

Human in the loop (človek v slučke) znamená, že prácu robí AI agent, ale v dohodnutých bodoch ju skontroluje alebo schváli človek. Agent pripraví odpoveď, objednávku či zápis a človek ich potvrdí, upraví alebo zamietne. Otázka pre firmu nie je, či človeka v slučke mať, ale pri ktorých krokoch.

Nižšie nájdete, ktoré kroky schvaľovať, ako nepreťažiť ľudí schvaľovaním a kedy pustiť agenta samého. Pojem v skratke je aj v našom slovníku pojmov.

Čo je human in the loop jednoducho?

Agent pracuje a pri dôležitom kroku zastaví. Pošle návrh človeku a čaká. Človek má tri možnosti: schváliť, upraviť alebo zamietnuť. Agent pokračuje až potom.

Rovnako dôležitá je druhá polovica slučky. Každá oprava sa vracia do podkladov agenta: do príkladov, pravidiel a typov prípadov. Bez toho človek opravuje stále tie isté chyby a slučka nikam nevedie.

Pri AI agentoch to nie je opatrnosť navyše. Agent stojí na jazykovom modeli, ktorý pracuje s pravdepodobnosťou a niekedy sa pomýli. Človek v slučke je dôvod, prečo môžete agenta nasadiť aj tam, kde chyba stojí peniaze.

Human in the loop, on the loop, out of the loop: aký je rozdiel?

V článkoch o AI sa stretnete s tromi úrovňami. Líšia sa tým, kedy človek do práce vstupuje.

Jeden agent môže mať všetky tri naraz, pri každom type práce inú. Práve tak to má vyzerať.

Ktoré kroky má schváliť človek?

Nie všetky. Ak človek schvaľuje každý krok, agent nič nešetrí a ľudia ho prestanú používať. Schvaľovať treba tam, kde je chyba drahá. Zaškrtnite, čo platí o kroku, ktorý chcete dať agentovi:

Pri agentoch, ktoré staviame, dôležité kroky schvaľuje človek. Pri kóde je to rovnaké: AI píše, každú zmenu kontroluje senior. Čo agent nesmie urobiť vôbec, ani so schválením, rozoberáme v článku AI guardrails: aké mantinely potrebuje AI agent vo firme.

Ako nepreťažiť ľudí schvaľovaním?

Tu sa human in the loop najčastejšie pokazí. Človek dostane desiatky návrhov denne. Prvé číta pozorne. Po týždni klikne „schváliť“ bez čítania, lebo agent mal doteraz vždy pravdu. Formálne je v slučke, v skutočnosti nie.

Tento jav má meno: automation bias, sklon spoliehať sa na výstup stroja viac, než si zaslúži. Pomenúva ho aj AI Act v článku 14 o ľudskom dohľade nad vysoko rizikovými AI systémami. Väčšina firemných agentov medzi ne nepatrí, princíp však platí pre všetkých. Nie je to právna rada.

Čo pomáha:

• Menej na schválenie. Len typy práce, kde je chyba drahá. Zvyšok ide sám alebo do kontroly vzorky.
• Podklady pri návrhu. Človek vidí, z čoho agent vychádzal: objednávku, históriu, pravidlo. Nemusí ich hľadať.
• Jasné tlačidlá. Schváliť, upraviť, zamietnuť. Pri zamietnutí jedna veta prečo. Tá ide späť do podkladov.
• Merajte opravy. Koľko návrhov človek mení. Keď opravy pri type práce zmiznú, schvaľovanie tam už nič nechráni.

Úprimne: presné číslo, koľko návrhov denne človek poctivo skontroluje, nemáme. Závisí od práce. Kontrola odpovede o stave zásielky trvá sekundy, kontrola cenovej ponuky minúty.

Kedy pustiť agenta samého?

Autonómia sa nedáva naraz. Pridáva sa po typoch práce, keď ich agent preukázateľne zvláda. Ideme v tomto poradí:

Krok 1 vyzerá ako zdržanie. V skutočnosti je to jediný spôsob, ako zistiť, čo agent zvláda. Kto ho preskočí, buď agenta vypne, alebo opravuje viac, než ušetril.

Ako to vyzerá v praxi?

U klienta s online predajom sme postavili agenta na zákaznícku podporu. Zákazníkom odpovedá do 5 minút. Prípady, pri ktorých si nie je istý, posiela človeku.

Človek v slučke tu prácu nespomalil. Presunul ju. Podpora prestala písať rutinné odpovede a venuje sa prípadom, kde treba úsudok. Celý postup je v článku AI agent na e-maily zákazníkov: ako začať.

Pri vývoji softvéru platí to isté. Kód u nás píše hlavne AI a každú zmenu pred nasadením kontroluje senior. Ako to funguje, opisujeme v článku AI softvérová továreň s človekom v slučke.

Kedy to neodporúčame

• Úloha je lacná a vratná. Triedenie pošty do priečinkov či interné poznámky. Schvaľovanie by stálo viac než chyba.
• Schvaľovateľ nemá čas ani podklady. Kto nevie posúdiť návrh, len ho odklikne. Najprv mu dajte podklady alebo vyberte iného človeka.
• Pevné pravidlo dá vždy rovnaký výsledok. Potom netreba agenta ani schvaľovanie. Stačí automatizácia, ako píšeme v článku Agentic workflow vs automatizácia.
• Opravy neubúdajú ani po týždňoch. Ďalšie schvaľovanie nepomôže. Chyba je v podkladoch alebo v type práce, ktorý agentovi nesedí.

Neviete, kde má u vás čakať človek?

Napíšte nám, akú prácu chcete dať agentovi. Ozveme sa do dvoch pracovných dní s pár otázkami k vašej práci. Potom dostanete zoznam: čo bude hotové a ako si to overíte. Bude v ňom aj to, ktoré kroky schvaľuje človek.

Ak sa chcete najprv porozprávať, dohodnite si úvodný hovor na 15 minút.

Ako takého agenta staviame, opisujeme na stránke AI agent pre firmu na mieru. Čo agent je a kedy ho netreba, píšeme v článku Čo je AI agent?

Ktorý krok vo vašej firme by ste agentovi nikdy nedali bez kontroly?

Časté otázky

Čo je human in the loop?

Human in the loop (človek v slučke) znamená, že prácu robí AI agent, ale v dohodnutých bodoch ju skontroluje alebo schváli človek. Agent pripraví návrh a človek ho potvrdí, upraví alebo zamietne. Agent pokračuje až potom.

Aký je rozdiel medzi human in the loop a human on the loop?

Pri human in the loop agent čaká, kým človek krok schváli. Pri human on the loop agent koná sám a človek ho sleduje a môže zasiahnuť. Prvé sa hodí na riskantné kroky, druhé na overené typy práce.

Ktoré kroky AI agenta má schvaľovať človek?

Tie, ktoré sa nedajú vrátiť, stoja peniaze, idú von z firmy alebo sa týkajú reklamácií a právnych vecí. A všetko, pri čom si agent nie je istý.

Ako zabrániť tomu, aby človek schvaľoval naslepo?

Dajte mu na schválenie menej a lepšie: len riskantné typy práce a pri návrhu podklady, z ktorých agent vychádzal. Sledujte, koľko návrhov opravuje. Keď opravy pri type práce zmiznú, pustite ho samostatne a kontrolujte vzorku.

Kedy môže AI agent pracovať bez schvaľovania?

Pri type práce, pri ktorom ste dlhšie schvaľovali návrhy a opravy prestali chodiť. Chyba musí byť lacná a vratná. Neisté prípady má agent stále posunúť človeku.