Intervención humana (human-in-the-loop) para AI agents

La intervención humana (human-in-the-loop) para AI agents consiste en incorporar al ciclo del agent puntos específicos en los que se detiene y espera a una persona antes de continuar, en lugar de dejarlo funcionar de principio a fin por su cuenta. El objetivo no es frenar al agent en todas partes. Es colocar la pausa exactamente donde una acción equivocada sería costosa, irreversible o difícil de explicar después, y en ningún otro lugar. Si la ubicación es correcta, el agent trabaja sin supervisión en todo lo demás; si es incorrecta en cualquiera de los dos sentidos, o se convierte en un cuello de botella que lo vuelve inútil, o se lanza uno que actúa con un criterio equivocado que nadie detecta a tiempo.

Qué significa human-in-the-loop para un agent, en concreto

El concepto general de human-in-the-loop abarca muchos casos de uso de AI: etiquetar datos de entrenamiento, validar las predicciones de un modelo, revisar contenido antes de publicarlo. Para un AI agent en particular, uno que ejecuta un ciclo de percibir, razonar, actuar y observar capaz de dar muchos pasos seguidos, la pregunta es más acotada y más mecánica: ¿en qué paso exacto se detiene el agent y espera, y qué le entrega a la persona para que esa espera valga la pena? Si todavía no ha decidido si un proceso determinado es siquiera un buen candidato para un agent, cuándo usar un AI agent es la verificación de preparación que conviene hacer primero. Este artículo da por hecho que ya superó ese filtro y ahora está diseñando las transferencias.

"Las personas deben revisar las acciones del agent" no es una especificación que alguien pueda construir ni auditar. "Antes de cualquier paso de Execute que envíe una comunicación externa, modifique un registro financiero o cambie un registro fuera del equipo del responsable de la tarea, el agent se detiene y presenta una solicitud de aprobación específica" sí lo es. Es el mismo paso de lo vago a lo operativo que hace la gobernanza por patrón en todos los patrones de AI, aplicado aquí específicamente a los puntos en que se disparan las llamadas a herramientas de un agent.

Los tres lugares donde una persona pertenece al ciclo

Los puntos de control corresponden a momentos distintos de la ejecución, con una vía de transferencia aparte para la incertidumbre que ninguna regla fija anticipó.

Todo agent bien diseñado usa alguna combinación de estos tres, no los tres en cada tarea. Un agent de bajo riesgo (que redacta briefs de SEO o resume reuniones) puede funcionar sin puertas y recibir una revisión puntual ligera después de la ejecución. Un agent de alto riesgo, uno que puede reembolsar dinero o enviar emails a clientes, necesita una revisión previa de su alcance más puertas durante la ejecución en las acciones específicas que tienen consecuencias. La guía de Anthropic sobre cómo construir agents plantea el mismo punto de forma directa: construya puntos de control donde el agent se detenga a pedir comentarios humanos, especialmente antes de acciones irreversibles, y dele condiciones de parada explícitas para que no pueda escaparse de sus propios errores.

Un cuarto mecanismo merece mención aparte: la transferencia por umbral de confianza. No es un punto de control fijo ligado a una acción. Se activa cuando el propio agent reconoce que no tiene señal suficiente para continuar con seguridad: dos fuentes discrepan y no puede reconciliarlas, falta un dato necesario, la situación no coincide con nada de su manual de escenarios. El agent escribe una breve nota de transferencia, esto es lo que encontré, esto es por qué estoy atascado, esto es lo que necesito de usted, y espera. A menudo es la puerta más valiosa de todo el sistema, porque captura los casos para los que nadie pensó en escribir una regla.

Esta estructura de cuatro partes, revisión previa, puertas durante la ejecución, transferencia por umbral de confianza y auditoría posterior, es exactamente lo que especifica, a nivel de patrón, el diseño de human-in-the-loop del patrón Autonomous Agent. Lo que sigue aquí es el detalle operativo: cómo decidir qué activa realmente una puerta y cuánto cuesta equivocarse en esa decisión.

Qué debe requerir siempre a una persona

En los planes de esta biblioteca, las mismas cuatro categorías aparecen una y otra vez como puertas no negociables, sin importar la industria o la función:

• Todo lo que sale de la empresa. Un email a un cliente, una publicación pública, un mensaje a un prospecto o a un candidato. Una vez enviado, no se puede deshacer, y el lector no tiene idea de que lo escribió una AI a menos que algo salga visiblemente mal.
• Todo lo que mueve dinero. Un reembolso, un pago, una factura aprobada, una reasignación de presupuesto. Las acciones financieras por encima de un umbral definido no deben ejecutarse sin que una persona las confirme, sin importar cuán seguro esté el agent.
• Todo lo irreversible o difícil de revertir. Eliminar un registro, cerrar una cuenta, revocar un acceso. Si deshacer la acción cuesta más esfuerzo que hacerla, una persona la confirma antes.
• Todo lo que queda fuera del alcance del responsable de la tarea. Que un agent actualice los registros de su propio operador es una cosa. Que modifique un registro que pertenece a otra persona, el deal de otro representante o la partida presupuestaria de otro departamento, requiere un control específico porque la persona mejor ubicada para detectar el error, el verdadero dueño del registro, no es quien activó la acción.

Esta lista no es una sugerencia. El artículo 14 de la EU AI Act exige que los sistemas de AI de alto riesgo se construyan de modo que un supervisor humano pueda entender lo que hace el sistema, reconocer cuándo algo ha salido mal y detenerlo o revertirlo. Ese requisito se corresponde casi directamente con estas cuatro categorías para cualquier agent que opere en empleo, servicios financieros o trabajo de cara al cliente, esté o no obligado a cumplirlo por su jurisdicción.

El costo de ubicar mal la puerta

Existen dos direcciones de falla, y los equipos tienden a sobrecorregir hacia una después de haberse quemado con la otra.

Poner pocas puertas es la falla más visible. Un agent con muy pocos puntos de control causa un daño real antes de que alguien lo note: envía el reembolso equivocado a decenas de cuentas, responde a una queja delicada con el tono equivocado, escribe un dato alucinado en un campo del CRM que se propaga a otros tres sistemas antes de que una persona lo detecte. Es el modo de falla en el que se centra toda conversación de seguridad y gobernanza, y con razón.

Poner demasiadas puertas es la falla más silenciosa, y es igual de común. Si hace pasar cada acción por una persona, incluidas las seguras y repetitivas, ha construido una cola de aprobaciones con pasos adicionales, no un agent. El objetivo de automatizar el triaje de tickets o la limpieza del CRM era sacar a una persona del tramo repetitivo del trabajo. Si cada acción sigue necesitando un clic, pagó por la AI y mantuvo el costo laboral. Peor aún, un agent con demasiadas puertas entrena a sus revisores a aprobar sin mirar: revisar 200 aprobaciones de bajo riesgo al día enseña a las personas a dejar de leerlas con atención, y eso anula en silencio el propósito de la puerta que sí conservó.

La solución no es una proporción universal entre acciones con puerta y sin puerta. Es ser específico sobre qué acciones realmente conllevan los cuatro tipos de riesgo anteriores, poner puerta solo a esas y dejar que todo lo demás funcione. Gartner predice que más del 40% de los proyectos de agentic AI serán cancelados para fines de 2027, y señala el aumento de los costos, un valor de negocio poco claro y controles de riesgo inadecuados como las causas principales; las dos direcciones de falla anteriores aparecen dentro de esa cifra. Un proyecto que se quemó por poner pocas puertas se cierra después de un incidente. Un proyecto frenado por demasiadas puertas se queda sin presupuesto en silencio porque nunca entregó el ahorro de tiempo que prometió.

Cómo diseñan sus transferencias los planes de Rework

El patrón aparece en funciones muy distintas una vez que se sabe qué buscar:

• El AI SDR Agent ejecuta secuencias de outbound por su cuenta, pero en cuanto una respuesta hace una pregunta de precios o señala una intención real de compra, detiene la secuencia y transfiere la conversación al AE asignado con un breve resumen, en lugar de improvisar una respuesta.
• El AI Contract Review Agent señala cláusulas riesgosas frente a su playbook, pero una persona aprueba cada cambio antes de que regrese a la contraparte. El agent nunca edita un contrato vigente por su cuenta.
• El Expense Approval Agent aprueba automáticamente los gastos que coinciden claramente con la política y deriva las excepciones a una persona, de modo que la puerta solo se activa en los casos que realmente requieren criterio.
• El AI Proposal/Quote Agent arma una propuesta a partir de su CRM y su catálogo y aplica sus reglas de precios; luego envía el borrador terminado a aprobación humana antes de que llegue algo al prospecto.
• El AI Collections AR Agent envía recordatorios de pago según un calendario, pero está construido para saber cuándo detenerse, y escala a una persona en lugar de seguir persiguiendo una cuenta hasta convertirla en una disputa.

Observe lo que tienen en común: el agent hace el trabajo de volumen, redactar, cotejar, puntuar, secuenciar, y la persona toma exactamente una decisión, en el momento exacto en que esa decisión vale la pena. Ese es el diseño, no una concesión sobre él.

Cómo incorporar la transferencia a su agent

Tres movimientos prácticos hacen que las transferencias funcionen en lugar de existir solo en el papel.

Prepare antes de confirmar. Dirija la salida del agent primero a un área de preparación, una carpeta de borradores, una cola de aprobaciones pendientes, una pestaña de revisión, en lugar de escribir directamente en el sistema de registro. Una revisión humana de cinco minutos sobre una actualización de CRM en preparación detecta la mayoría de los errores sin destruir el ahorro de tiempo, y es un modo de falla completamente distinto de revisar un registro en producción después del hecho.

Escriba la nota de transferencia con intención. Cuando un agent transfiere, debe transferir contexto, no solo una tarea. "Esto es lo que encontré, esto es por qué tengo dudas, esto es lo que usted debe decidir" le da al revisor todo lo que necesita en una sola lectura. Una notificación escueta de "requiere revisión" obliga a la persona a rehacer la investigación del agent solo para ponerse al día, y borra la mayor parte del tiempo ahorrado.

Registre cada puerta, no solo las que se activan. Un registro de auditoría de cada punto de control por el que pasó el agent, aprobado o rechazado, es lo que permite saber si sus puertas están bien calibradas. Si el 95% de las aprobaciones se dan con un sí automático y sin ediciones, esa puerta quizá pueda relajarse con seguridad. Si una puerta sigue detectando errores reales, está exactamente donde debe estar. Es la misma disciplina de registro de auditoría que sustenta los requisitos de gobernanza de cada patrón, y es lo que convierte "tenemos a una persona en el ciclo" de una afirmación en algo que realmente puede demostrar.

Si está construyendo estas puertas sobre una herramienta de workflow en lugar de código a medida, las funciones de pasos de aprobación y de preparación varían mucho entre plataformas. Compare opciones en la categoría de automatización y consulte cómo elegir software de automatización de workflows para saber qué preguntar sobre el enrutamiento de aprobaciones y el registro de auditoría antes de estandarizar en una.

Datos clave

• Human-in-the-loop para un agent significa puntos de pausa específicos dentro de su ciclo de percibir, razonar y actuar, no una política vaga según la cual una persona "supervisa" la AI.
• Cuatro categorías casi siempre necesitan una puerta: la comunicación externa, las acciones financieras, las acciones irreversibles y las acciones sobre registros fuera del alcance del responsable de la tarea.
• El artículo 14 de la EU AI Act exige que los sistemas de AI de alto riesgo permitan a una persona entender, anular y detener el sistema, una base legal que se corresponde estrechamente con estas mismas cuatro categorías.
• Poner demasiadas puertas es una falla tan real como poner pocas: si hace pasar todo por una persona, ha construido una cola de aprobaciones más lenta, no un agent automatizado.
• Gartner proyecta que más del 40% de los proyectos de agentic AI serán cancelados para 2027 y cita los controles de riesgo inadecuados como una de las causas principales, justo la falla que previene este trabajo de diseño.

A dónde ir a continuación

Colocar las puertas correctas es solo la mitad del trabajo. Guardrails para AI agents cubre la otra mitad, las reglas estrictas que un agent nunca debe cruzar sin importar quién aprobó qué, y prompt injection cubre el ataque específico que hace que una entrada no confiable sea lo bastante peligrosa como para necesitar estas puertas desde el principio. Empiece por cómo construir un AI agent si todavía está definiendo los otros cinco componentes básicos que rodean a este.