Cadena de verificación: el antídoto de los agentes contra las alucinaciones
Cuando el agente se inventa un dato, todo lo demás sobra
Un agente de IA puede redactar un informe impecable y aun así colar una cifra inventada con total seguridad. Es la alucinación: el modelo afirma lo falso con la misma convicción que lo cierto. Un solo dato erróneo en un documento que llega a un cliente o a gerencia puede costar más que todas las horas ahorradas. La cadena de verificación (Chain-of-Verification) es el patrón que ataca este problema de raíz.
La respuesta corta: con la cadena de verificación, el agente no da por buena su primera respuesta. Antes de entregarla, genera preguntas de comprobación sobre sus propias afirmaciones —“¿este dato de dónde sale?”, “¿este importe cuadra con la factura?”—, las responde una a una consultando las fuentes y reescribe la respuesta solo con lo verificado.
No es una simple relectura: es una comprobación hecho a hecho, con las fuentes delante y sin escapatoria.
El gestor que repasa cada cifra contra el justificante
Piensa en un buen gestor antes de presentar tus cuentas. No relee la declaración “a ver si suena bien”: coge cada cifra y la coteja con su justificante —esta base imponible, con las facturas; esta retención, con el certificado—. Solo firma cuando cada número tiene su papel detrás.
La cadena de verificación traslada esa disciplina al agente. Y aquí está la diferencia con el agente evaluador-optimizador: el evaluador juzga la calidad general del resultado —claridad, tono, completitud— y pide mejoras; la cadena de verificación no opina sobre el estilo, comprueba hechos concretos contra fuentes concretas. Son complementarios: uno pule el texto, el otro garantiza que lo que dice es verdad.
Cómo funciona, paso a paso
El patrón se ejecuta en cuatro fases:
- Borrador inicial: el agente responde a la tarea como lo haría normalmente.
- Preguntas de comprobación: el propio agente extrae las afirmaciones verificables del borrador y formula una pregunta por cada una: “¿la facturación de mayo fue realmente de 84.300 euros?”.
- Verificación una a una: responde cada pregunta consultando la fuente correspondiente —el ERP, el CRM, la base documental—, sin mirar el borrador, para no dejarse arrastrar por lo que ya escribió.
- Respuesta corregida: reescribe el resultado final incorporando solo lo verificado, y marca o elimina lo que no pudo comprobar.
El tercer paso exige que el agente tenga acceso real a las fuentes; por eso encaja de forma natural con el RAG agéntico sobre el conocimiento de tu empresa: de poco sirve preguntarse de dónde sale un dato si no hay dónde buscarlo.
Ejemplo práctico: el resumen mensual de ventas
Una distribuidora de material eléctrico con quince empleados usa un agente que, el primer día de cada mes, redacta el resumen de ventas para gerencia: facturación total, cinco mayores clientes y pedidos pendientes.
Sin verificación, el agente cometía errores ocasionales: mezclaba cifras con IVA y sin IVA, o atribuía a un cliente el pedido de otro. Con la cadena de verificación, el flujo cambia:
- Redacta el borrador, extrae las doce cifras que contiene y genera una pregunta de comprobación por cada una.
- Consulta el ERP para responderlas: la facturación del mes, el listado por cliente, el estado de los pedidos.
- Tres cifras no cuadran: dos las corrige con el dato del ERP y una la marca como provisional por tener el albarán pendiente.
- El resumen llega a gerencia con cada cifra contrastada y las dudas señaladas.
El matiz importante está en el último punto: el agente no esconde lo que no pudo verificar, lo señala. Esa transparencia separa una automatización fiable de una caja negra.
Cuándo compensa (y cuándo no)
La verificación añade llamadas y tiempo, así que conviene aplicarla con criterio. Compensa cuando:
- La respuesta contiene datos concretos (importes, fechas, nombres, cantidades) cuyo error tiene coste real.
- El resultado sale de la empresa o sube a dirección: informes, presupuestos, comunicaciones a clientes.
- Existen fuentes consultables contra las que verificar: ERP, CRM, contratos, base documental.
No compensa en tareas creativas o de opinión —una lluvia de ideas, un borrador de publicación—, donde no hay hechos que contrastar, ni en respuestas internas de bajo riesgo. La regla práctica: si un error te haría quedar mal ante un cliente o tomar una mala decisión, verifica; si no, no cargues el proceso.
Preguntas frecuentes
¿La cadena de verificación elimina las alucinaciones del todo?
No, pero las reduce de forma drástica en las afirmaciones verificables. Si un dato no aparece en ninguna fuente, lo correcto es que el agente lo marque como no verificado en lugar de afirmarlo. El patrón convierte los errores silenciosos en dudas visibles.
¿Cuánto encarece cada respuesta?
Multiplica las llamadas al modelo y las consultas a las fuentes: una respuesta verificada puede costar dos o tres veces más que una directa y tardar algo más. Cuando una cifra errónea acaba en una reclamación o en una mala decisión, la cuenta sale claramente a favor de verificar.
¿Cómo sé si la verificación está funcionando bien?
Midiéndolo: guarda las preguntas de comprobación, sus respuestas y las correcciones aplicadas, y revisa una muestra periódicamente. Ese registro te dice cuántos errores atrapa el patrón y dónde falla. Es la misma lógica que aplicamos al evaluar agentes de IA en producción: sin medición, la fiabilidad es una sensación, no un dato.
Conclusión
La cadena de verificación aplica a los agentes de IA una norma que cualquier negocio serio ya cumple: ningún dato se firma sin su justificante. El agente redacta, se pregunta de dónde sale cada afirmación, lo comprueba contra las fuentes y entrega una respuesta donde lo verificado y lo dudoso quedan claramente separados. Menos alucinaciones, más transparencia y una confianza que se puede auditar, no solo suponer.
En Rakaty construimos agentes que verifican antes de responder, conectados a las fuentes reales de tu empresa y con la transparencia como principio de diseño. Si quieres que tus automatizaciones sean tan fiables como tu mejor gestor, escríbenos.
