Human in the Loop: wann ein KI-Agent warten soll

Human in the Loop heißt: Ein KI-Agent erledigt die Arbeit, aber an vereinbarten Punkten prüft oder genehmigt sie ein Mensch. Der Agent bereitet eine Antwort, eine Bestellung oder einen Eintrag vor, und ein Mensch bestätigt, ändert oder verwirft sie. Die Frage für ein Unternehmen ist nicht, ob ein Mensch in der Schleife sein soll, sondern bei welchen Schritten.

Unten lesen Sie, welche Schritte Sie freigeben sollten, wie Sie Menschen nicht mit Freigaben überlasten und wann der Agent allein arbeiten darf. Die Kurzdefinition steht auch in unserem Glossar.

Was ist Human in the Loop, einfach erklärt?

Der Agent arbeitet und hält bei einem wichtigen Schritt an. Er schickt einem Menschen einen Entwurf und wartet. Der Mensch hat drei Möglichkeiten: freigeben, bearbeiten oder ablehnen. Erst dann macht der Agent weiter.

Genauso wichtig ist die zweite Hälfte der Schleife. Jede Korrektur fließt in die Unterlagen des Agenten zurück: in Beispiele, Regeln und Arten von Fällen. Ohne das korrigieren Menschen immer wieder dieselben Fehler, und die Schleife führt nirgendwohin.

Bei KI-Agenten ist das keine übertriebene Vorsicht. Ein Agent basiert auf einem Sprachmodell, das mit Wahrscheinlichkeiten arbeitet und sich manchmal irrt. Der Mensch in der Schleife ist der Grund, warum Sie einen Agenten auch dort einsetzen können, wo ein Fehler Geld kostet.

Human in the Loop, on the Loop, out of the Loop: was ist der Unterschied?

In Artikeln über KI begegnen Ihnen drei Stufen. Sie unterscheiden sich darin, wann ein Mensch in die Arbeit eingreift.

Ein Agent kann alle drei gleichzeitig haben, für jede Art von Arbeit eine andere. Genau so soll es aussehen.

Welche Schritte soll ein Mensch freigeben?

Nicht alle. Wenn ein Mensch jeden Schritt freigibt, spart der Agent nichts, und die Leute hören auf, ihn zu nutzen. Freigaben gehören dorthin, wo ein Fehler teuer ist. Haken Sie an, was auf den Schritt zutrifft, den Sie dem Agenten geben wollen:

Bei den Agenten, die wir bauen, gibt ein Mensch die wichtigen Schritte frei. Beim Code ist es genauso: KI schreibt, ein Senior prüft jede Änderung. Was ein Agent überhaupt nicht darf, auch nicht mit Freigabe, steht in KI-Guardrails: welche Leitplanken ein KI-Agent braucht.

Wie vermeidet man Freigabe-Müdigkeit?

Hier geht Human in the Loop am häufigsten kaputt. Ein Mensch bekommt Dutzende Entwürfe am Tag. Die ersten liest er genau. Nach einer Woche klickt er „freigeben“, ohne zu lesen, weil der Agent bisher immer recht hatte. Formal ist er in der Schleife, in Wirklichkeit nicht.

Das Phänomen hat einen Namen: Automation Bias, die Neigung, sich auf die Ausgabe einer Maschine mehr zu verlassen, als sie verdient. Auch der AI Act nennt es in Artikel 14 zur menschlichen Aufsicht über Hochrisiko-KI-Systeme. Die meisten Agenten in Unternehmen gehören nicht dazu, das Prinzip gilt aber für alle. Das ist keine Rechtsberatung.

Was hilft:

• Weniger zur Freigabe. Nur Arten von Arbeit, bei denen ein Fehler teuer ist. Der Rest läuft allein oder geht in Stichproben.
• Unterlagen beim Entwurf. Der Mensch sieht, worauf sich der Agent stützt: Bestellung, Verlauf, Regel. Er muss nichts suchen.
• Klare Knöpfe. Freigeben, bearbeiten, ablehnen. Beim Ablehnen ein Satz, warum. Der fließt in die Unterlagen zurück.
• Korrekturen messen. Wie viele Entwürfe ein Mensch ändert. Verschwinden die Korrekturen bei einer Art von Arbeit, schützt die Freigabe dort nichts mehr.

Ehrlich gesagt: Eine genaue Zahl, wie viele Entwürfe ein Mensch am Tag sorgfältig prüfen kann, haben wir nicht. Das hängt von der Arbeit ab. Eine Antwort zum Lieferstatus prüft man in Sekunden, ein Preisangebot in Minuten.

Wann darf der Agent allein arbeiten?

Autonomie gibt man nicht auf einmal ab. Sie wächst je Art von Arbeit, sobald der Agent nachweislich damit zurechtkommt. Wir gehen in dieser Reihenfolge vor:

Schritt 1 sieht nach Verzögerung aus. In Wahrheit ist er der einzige Weg herauszufinden, was der Agent kann. Wer ihn überspringt, schaltet den Agenten entweder ab oder korrigiert mehr, als er gespart hat.

Wie sieht das in der Praxis aus?

Für einen Kunden mit Onlinehandel haben wir einen Agenten für den Kundensupport gebaut. Er antwortet Kunden in unter 5 Minuten. Fälle, bei denen er unsicher ist, gehen an einen Menschen.

Der Mensch in der Schleife hat die Arbeit hier nicht gebremst. Er hat sie verschoben. Der Support schreibt keine Routineantworten mehr und kümmert sich um Fälle, die Urteilsvermögen brauchen. Den ganzen Ablauf beschreiben wir in KI-Agent für Kunden-E-Mails: so fangen Sie an.

In der Softwareentwicklung gilt dasselbe. Den Code schreibt bei uns überwiegend KI, und jede Änderung prüft vor dem Deployment ein Senior. Wie das funktioniert, steht in KI-Softwarefabrik mit Mensch im Loop.

Wann wir es nicht empfehlen

• Die Aufgabe ist billig und umkehrbar. Post in Ordner sortieren oder interne Notizen. Die Freigabe würde mehr kosten als der Fehler.
• Wer freigibt, hat weder Zeit noch Unterlagen. Wer einen Entwurf nicht beurteilen kann, klickt ihn nur weg. Geben Sie ihm zuerst die Unterlagen oder wählen Sie jemand anderen.
• Eine feste Regel liefert immer dasselbe Ergebnis. Dann brauchen Sie weder Agenten noch Freigabe. Automatisierung reicht, wie wir in Agentic Workflow vs. Automatisierung erklären.
• Die Korrekturen gehen auch nach Wochen nicht zurück. Mehr Freigaben helfen nicht. Der Fehler liegt in den Unterlagen oder in einer Art von Arbeit, die nicht zum Agenten passt.

Unsicher, wo bei Ihnen ein Mensch warten soll?

Schreiben Sie uns, welche Arbeit Sie einem Agenten geben wollen. Wir melden uns innerhalb von zwei Arbeitstagen mit ein paar Fragen zu Ihrer Arbeit. Danach bekommen Sie eine Liste: was fertig wird und wie Sie es prüfen. Darin steht auch, welche Schritte ein Mensch freigibt.

Wenn Sie lieber zuerst sprechen möchten, buchen Sie ein 15-minütiges Erstgespräch.

Wie wir einen solchen Agenten bauen, steht auf KI-Agent für Unternehmen nach Maß. Was ein Agent ist und wann Sie keinen brauchen, lesen Sie in Was ist ein KI-Agent?

Welchen Schritt in Ihrem Unternehmen würden Sie einem Agenten nie ohne Prüfung geben?

Häufige Fragen

Was ist Human in the Loop?

Human in the Loop heißt: Ein KI-Agent erledigt die Arbeit, aber an vereinbarten Punkten prüft oder genehmigt sie ein Mensch. Der Agent bereitet einen Entwurf vor, der Mensch bestätigt, ändert oder verwirft ihn. Erst dann macht der Agent weiter.

Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?

Bei Human in the Loop wartet der Agent, bis ein Mensch den Schritt freigibt. Bei Human on the Loop handelt der Agent selbst, ein Mensch beobachtet ihn und kann eingreifen. Das Erste passt zu riskanten Schritten, das Zweite zu bewährten Arten von Arbeit.

Welche Schritte eines KI-Agenten soll ein Mensch freigeben?

Schritte, die sich nicht rückgängig machen lassen, Geld kosten, das Unternehmen verlassen oder Reklamationen und Rechtsfragen betreffen. Und alles, bei dem sich der Agent nicht sicher ist.

Wie verhindert man, dass Menschen blind freigeben?

Geben Sie weniger und besser zur Freigabe: nur riskante Arten von Arbeit, und beim Entwurf die Unterlagen, auf die sich der Agent stützt. Messen Sie, wie viele Entwürfe korrigiert werden. Verschwinden die Korrekturen bei einer Art von Arbeit, lassen Sie sie allein laufen und prüfen Stichproben.

Wann darf ein KI-Agent ohne Freigabe arbeiten?

Bei einer Art von Arbeit, bei der Sie länger Entwürfe freigegeben haben und keine Korrekturen mehr kommen. Ein Fehler muss billig und umkehrbar sein. Unsichere Fälle gibt der Agent trotzdem an einen Menschen weiter.