Human in the loop: ¿cuándo debe esperar un agente de IA?

Human in the loop significa que un agente de IA hace el trabajo, pero una persona lo revisa o lo aprueba en puntos acordados. El agente prepara una respuesta, un pedido o un registro, y una persona lo confirma, lo edita o lo rechaza. Para una empresa, la pregunta no es si mantener a una persona en el proceso, sino en qué pasos.

A continuación: qué pasos aprobar, cómo no sobrecargar a la gente con aprobaciones y cuándo dejar que el agente trabaje solo. La definición breve está también en nuestro glosario.

¿Qué es human in the loop, dicho de forma sencilla?

El agente trabaja y se detiene en un paso importante. Envía un borrador a una persona y espera. La persona tiene tres opciones: aprobar, editar o rechazar. Solo entonces el agente continúa.

La segunda mitad del ciclo importa igual. Cada corrección vuelve al material del agente: sus ejemplos, sus reglas y sus tipos de casos. Sin eso, la gente corrige los mismos errores una y otra vez y el ciclo no lleva a ninguna parte.

Con los agentes de IA esto no es una precaución extra. Un agente funciona sobre un modelo de lenguaje, que trabaja con probabilidades y a veces se equivoca. Una persona en el proceso es la razón por la que puede usar un agente incluso donde un error cuesta dinero.

Human in the loop, on the loop, out of the loop: ¿qué diferencia hay?

Los artículos sobre IA usan tres niveles. Se diferencian en cuándo entra una persona en el trabajo.

Un mismo agente puede usar los tres a la vez, uno distinto para cada tipo de trabajo. Así es exactamente como debe ser.

¿Qué pasos debe aprobar una persona?

No todos. Si una persona aprueba cada paso, el agente no ahorra nada y la gente deja de usarlo. La aprobación va donde un error sale caro. Marque lo que se aplica al paso que quiere darle al agente:

En los agentes que construimos, una persona aprueba los pasos importantes. Con el código pasa lo mismo: lo escribe la IA y un senior revisa cada cambio. Lo que un agente no debe hacer en absoluto, ni siquiera con aprobación, está en Guardrails de IA: qué no debe hacer un agente de IA en la empresa.

¿Cómo evitar la fatiga de aprobación?

Aquí es donde human in the loop se rompe con más frecuencia. Una persona recibe decenas de borradores al día. Los primeros los lee con atención. Una semana después pulsa "aprobar" sin leer, porque hasta ahora el agente siempre ha acertado. Formalmente está en el proceso, en la práctica no.

El efecto tiene nombre: sesgo de automatización, la tendencia a fiarse del resultado de una máquina más de lo que merece. El Reglamento de IA lo menciona en su artículo 14 sobre la supervisión humana de los sistemas de IA de alto riesgo. La mayoría de los agentes de empresa no entran en esa categoría, pero el principio vale para todos. Esto no es asesoramiento jurídico.

Lo que ayuda:

• Menos que aprobar. Solo los tipos de trabajo en los que un error sale caro. El resto funciona solo o pasa a revisión por muestreo.
• El material junto al borrador. La persona ve lo que usó el agente: el pedido, el historial, la regla. No tiene que buscarlo.
• Botones claros. Aprobar, editar, rechazar. Al rechazar, una frase con el motivo. Vuelve al material.
• Medir las correcciones. Cuántos borradores cambia la gente. Cuando desaparecen las correcciones en un tipo de trabajo, la aprobación ahí ya no protege nada.

Con sinceridad: no tenemos una cifra exacta de cuántos borradores al día puede revisar bien una persona. Depende del trabajo. Revisar una respuesta sobre una entrega lleva segundos, revisar un presupuesto lleva minutos.

¿Cuándo puede dejar que el agente trabaje solo?

La autonomía no se entrega de golpe. Se añade tipo de trabajo a tipo de trabajo, a medida que el agente demuestra que puede con él. Nosotros vamos en este orden:

El paso 1 parece un retraso. En realidad es la única forma de averiguar qué puede hacer el agente. Los equipos que se lo saltan acaban apagando el agente o dedicando más tiempo a corregirlo del que les ahorró.

¿Cómo es en la práctica?

Para un cliente con venta online construimos un agente de atención al cliente. Responde a los clientes en menos de 5 minutos. Los casos en los que no está seguro van a una persona.

Aquí la persona en el proceso no frenó el trabajo. Lo desplazó. El soporte dejó de escribir respuestas rutinarias y dedica su tiempo a los casos que necesitan criterio. Todo el proceso está en Agente de IA para correos de clientes: cómo empezar.

En el desarrollo de software funciona igual. La IA escribe la mayor parte de nuestro código, y un senior revisa cada cambio antes de desplegarlo. Cómo funciona lo contamos en Fábrica de software con IA y una persona en el proceso.

Cuándo no lo recomendamos

• La tarea es barata y reversible. Clasificar correos en carpetas o notas internas. La aprobación costaría más que el error.
• Quien aprueba no tiene tiempo ni material. Alguien que no puede juzgar un borrador simplemente lo da por bueno. Dele antes el material o elija a otra persona.
• Una regla fija da siempre el mismo resultado. Entonces no necesita ni agente ni aprobación. Basta con una automatización, como explicamos en Agentic workflow vs automatización.
• Las correcciones no bajan ni después de semanas. Más aprobación no ayudará. El problema está en el material o en un tipo de trabajo que no encaja con el agente.

¿No sabe dónde debería esperar una persona en su proceso?

Cuéntenos qué trabajo quiere darle a un agente. Le respondemos en un plazo de dos días hábiles con algunas preguntas sobre su trabajo. Después acordamos qué hacemos primero. También acordamos qué pasos aprueba una persona.

Si prefiere hablar antes, reserve una llamada introductoria de 15 minutos.

Cómo construimos un agente así lo explicamos en Agente de IA a medida para empresas. Qué es un agente y cuándo no lo necesita, en ¿Qué es un agente de IA?

¿Qué paso de su empresa nunca le daría a un agente sin una revisión?

Preguntas frecuentes

¿Qué es human in the loop?

Human in the loop significa que un agente de IA hace el trabajo, pero una persona lo revisa o lo aprueba en puntos acordados. El agente prepara un borrador y la persona lo confirma, lo edita o lo rechaza. Solo entonces el agente continúa.

¿Qué diferencia hay entre human in the loop y human on the loop?

Con human in the loop, el agente espera hasta que una persona aprueba el paso. Con human on the loop, el agente actúa por su cuenta y una persona supervisa y puede intervenir. Lo primero encaja con pasos de riesgo, lo segundo con tipos de trabajo ya probados.

¿Qué pasos de un agente de IA debe aprobar una persona?

Los pasos que no se pueden deshacer, cuestan dinero, salen de la empresa o tienen que ver con reclamaciones y asuntos legales. Y todo aquello de lo que el agente no está seguro.

¿Cómo evitar que la gente apruebe a ciegas?

Deles menos que aprobar, y mejor: solo los tipos de trabajo con riesgo, con el material que usó el agente junto al borrador. Mida cuántos borradores corrigen. Cuando desaparecen las correcciones en un tipo de trabajo, déjelo funcionar solo y revise una muestra.

¿Cuándo puede un agente de IA trabajar sin aprobación?

En un tipo de trabajo en el que aprobó borradores durante un tiempo y dejaron de llegar correcciones. Un error tiene que ser barato y reversible. Aun así, el agente pasa los casos dudosos a una persona.