Humano en el bucle: cuándo un agente de IA debe pedir permiso antes de actuar
El agente que lo hace todo bien… hasta el día que no
Un agente de IA que contesta correos, actualiza fichas y prepara presupuestos puede pasar semanas sin un fallo. El problema es que el día que falla no avisa: envía el presupuesto con el precio equivocado, responde al cliente que no debía o cancela el pedido que no tocaba. Y lo hace con la misma seguridad con la que acertó las otras mil veces.
La respuesta corta: el patrón humano en el bucle (human-in-the-loop) consiste en diseñar el agente para que se detenga en momentos concretos y pida la aprobación de una persona antes de continuar. No se trata de revisar todo lo que hace, sino de elegir bien dónde se para: en las acciones irreversibles, caras o delicadas, y en los casos en los que el propio agente no está seguro.
La clave está en la palabra “bucle”: la persona forma parte del proceso, no lo vigila desde fuera.
La firma del jefe en el pedido grande
En cualquier oficina hay una regla no escrita: el administrativo puede pedir folios sin preguntar, pero el pedido de diez ordenadores necesita la firma del jefe. Nadie lo vive como desconfianza. Es una forma razonable de repartir la responsabilidad según lo que está en juego.
Un agente con humano en el bucle funciona igual. Hace solo lo rutinario, y cuando llega al “pedido grande” prepara todo, lo deja listo para firmar y espera. La persona no tiene que rehacer el trabajo: solo mira, decide y pulsa aprobar o rechazar.
En qué se diferencia de los guardarraíles
Los guardarraíles y la supervisión humana son el marco de seguridad completo: límites de lo que el agente puede tocar, registro de decisiones, vías de parada y responsables con nombre. El humano en el bucle es una pieza concreta de ese marco: el diseño de los puntos de aprobación dentro del flujo de trabajo.
Dicho de otra forma, los guardarraíles deciden qué puertas existen y cuáles están cerradas. El humano en el bucle decide en qué puertas hay alguien que abre a mano, y cómo se le pide que abra.
Los cuatro niveles de autonomía
No todos los agentes necesitan el mismo grado de supervisión. Una forma práctica de pensarlo es por niveles:
- Sugiere: el agente propone y la persona ejecuta. Por ejemplo, redacta la respuesta a un cliente y alguien la copia, la ajusta y la envía.
- Prepara y espera: el agente deja la acción lista y solo la ejecuta tras un sí explícito. Es el nivel típico de un humano en el bucle.
- Actúa y avisa: el agente ejecuta y notifica, con margen para deshacer. Útil cuando la acción es reversible, como mover un correo de carpeta o asignar una tarea.
- Actúa solo: autonomía completa, con revisión por muestreo. Solo para tareas de bajo riesgo con un historial de aciertos demostrado.
Lo habitual es que un mismo agente combine niveles: actúa solo al clasificar correos, avisa al asignar tareas y espera aprobación al enviar un presupuesto.
Dónde poner los puntos de aprobación
La pregunta útil no es “¿me fío del agente?”, sino “¿qué pasa si esta acción sale mal?”. Tres criterios ayudan a decidir:
- Reversibilidad: si se puede deshacer en un clic, el agente puede actuar y avisar. Si no se puede deshacer (un email enviado, un pago hecho, un dato borrado), necesita aprobación.
- Impacto: importes, número de personas afectadas, clientes importantes. Un umbral claro funciona mejor que el criterio del agente: “presupuestos de más de 3.000 euros, siempre a aprobación”.
- Confianza del propio agente: un buen agente sabe cuándo duda. Si la petición es ambigua, faltan datos o el caso no se parece a nada conocido, debe parar y preguntar en lugar de adivinar. Esto encaja con el patrón planificador-ejecutor, donde lo que se aprueba es el plan completo antes de empezar.
Umbrales que se mueven con el tiempo
Los puntos de aprobación no son para siempre. Al principio conviene ser estricto: aprobar casi todo y anotar en qué casos la persona corrige al agente. Si tras unas semanas un tipo de acción se aprueba siempre sin cambios, se puede subir de nivel. Si aparecen correcciones frecuentes, se baja. La autonomía se gana con historial, igual que con un empleado nuevo.
Cómo diseñar una buena petición de aprobación
Aquí es donde muchos proyectos fallan. Si la petición de aprobación obliga a la persona a abrir tres programas para entender qué está aprobando, acabará diciendo que sí a todo sin mirar, y el control desaparece. Una buena petición tiene:
- Qué va a hacer, en una frase: “Enviar presupuesto de 4.200 euros a Instalaciones Pérez”.
- Por qué: qué petición o dato lo ha originado.
- Lo necesario para decidir, a la vista: el borrador, el importe, el destinatario, los datos que ha usado.
- Opciones claras: aprobar, rechazar o editar antes de aprobar, sin pasos intermedios.
- Un plazo y un plan B: qué pasa si nadie responde (lo normal es que la acción se quede en espera, nunca que se ejecute sola).
El objetivo es que aprobar lleve segundos, no minutos. Si cuesta más revisar que hacerlo a mano, el diseño está mal.
Ejemplo hipotético: presupuestos en una empresa de reformas
Imagina una empresa de reformas que recibe solicitudes por su web. El agente lee cada solicitud, consulta la tarifa, calcula el presupuesto y redacta el correo. Con humano en el bucle, el flujo quedaría así:
- Presupuestos estándar por debajo de 1.500 euros: el agente los envía y avisa al comercial.
- Entre 1.500 y 6.000 euros: el agente los prepara y el comercial los aprueba desde el móvil con un toque.
- Por encima de 6.000 euros, o si la solicitud es ambigua: el agente prepara un borrador y pide al comercial que llame al cliente antes de enviar nada.
El comercial deja de redactar presupuestos y pasa a revisarlos, que es donde su experiencia aporta de verdad.
Errores habituales
- Aprobar todo: si cada acción pide permiso, la persona se cansa y aprueba a ciegas. Peor que no tener control, porque da una falsa sensación de seguridad.
- No aprobar nada: dar autonomía total desde el primer día porque “en las pruebas funcionó”.
- Peticiones opacas: pedir aprobación sin dar contexto para decidir.
- Un solo aprobador: si esa persona está de vacaciones, el proceso se para. Conviene un suplente.
- No aprender de los rechazos: cada corrección humana es información para mejorar el agente o ajustar los umbrales.
Preguntas frecuentes
¿El humano en el bucle no elimina la ventaja de automatizar?
No, si los puntos de aprobación están bien elegidos. El agente sigue haciendo el trabajo pesado (leer, buscar, calcular, redactar) y la persona solo dedica unos segundos a decidir en los casos que lo merecen.
¿Quién debe aprobar?
Quien ya tomaría esa decisión sin agente: el comercial para los presupuestos, administración para los pagos, el responsable del área para lo delicado. El agente no cambia quién decide, cambia cuánto trabajo cuesta decidir.
¿Qué pasa si nadie aprueba a tiempo?
La acción se queda en espera y, pasado un plazo, se avisa a un suplente. Lo que nunca debe ocurrir es que el agente interprete el silencio como un sí.
¿Sirve también para agentes que hablan con clientes?
Sí. Un agente de atención puede responder solo a las dudas frecuentes y pasar a una persona las quejas, las devoluciones o cualquier conversación en la que detecte enfado o una petición fuera de lo normal.
Conclusión
Un buen agente de IA no es el que nunca pide permiso, sino el que sabe cuándo pedirlo. El patrón humano en el bucle reparte el trabajo con sentido común: el agente hace lo rutinario y deja preparadas las decisiones importantes para que una persona las tome en segundos, con toda la información delante.
En Rakaty diseñamos agentes con los puntos de aprobación adecuados a tu negocio, ni más ni menos. Si quieres automatizar sin perder el control de lo que importa, hablemos.
