Cascada de modelos: paga el modelo caro solo cuando de verdad hace falta

Usar siempre el mejor modelo es pagar de más casi siempre

Los modelos de IA más potentes son también los más caros: la misma consulta puede costar diez o veinte veces más que con un modelo pequeño. Y sin embargo, casi todo lo que una empresa automatiza —clasificar un correo, extraer un dato de una factura, responder una duda frecuente— es rutina que un modelo modesto resuelve igual de bien. Pagar el grande para todo es tirar el dinero, y la cascada de modelos existe para evitarlo.

La respuesta corta: en la cascada de modelos (model cascading, en inglés) un modelo pequeño y barato atiende primero todos los casos, y solo los difíciles, ambiguos o importantes escalan automáticamente al grande y caro. En la práctica, el pequeño despacha en torno al 80 % del trabajo; la factura baja de forma drástica y la calidad se mantiene donde importa.

En el fondo es un enrutamiento de agentes particular: en lugar de dirigir cada petición por tema, la diriges por dificultad y coste.

El filtro del despacho: lo rutinario al administrativo, lo complejo al socio

Piensa en un despacho profesional. Las llamadas no las atiende el socio, sino el administrativo, que resuelve la inmensa mayoría de gestiones: citas, estado de un trámite, envío de documentación. Solo lo que lo merece —un requerimiento de Hacienda, un cliente importante con un problema serio— sube al socio. Y nadie diría que ese despacho da peor servicio: el socio dedica su tiempo (y su tarifa) a lo que lo necesita.

La cascada es ese mismo filtro: el modelo pequeño hace de administrativo, el grande de socio, y la clave está en la regla que decide qué casos suben.

Cómo decide la cascada cuándo escalar

Tres mecanismos habituales, combinables entre sí:

1. Por confianza del propio modelo: el modelo pequeño acompaña cada respuesta de una medida de lo seguro que está; si queda por debajo del umbral, el caso escala.
2. Por reglas de negocio: ciertos casos suben directamente por lo que está en juego: un importe alto, un cliente clave o una mención a reclamaciones legales.
3. Por verificador: un paso intermedio comprueba la respuesta del pequeño —¿cita el dato correcto?, ¿respeta el formato?— y, si no la valida, reenvía el caso al grande.

El ahorro tiene nombre: tokens. Cada llamada se factura por los tokens que entran y salen, y el precio por token del grande multiplica varias veces el del pequeño; en nuestra guía del contador de tokens lo explicamos con ejemplos.

Ejemplo práctico: clasificar 1.000 correos al día

Imagina una PYME española de suministros industriales que recibe unos 1.000 correos diarios: pedidos, consultas de precio, incidencias, reclamaciones. Quiere clasificarlos y preparar borradores de respuesta. Con números orientativos:

• Sin cascada, todo con el modelo grande: pongamos 1 céntimo por correo. Son unos 10 € al día, más de 200 € al mes solo en esta tarea.
• Con cascada: el modelo pequeño, a 0,1 céntimos por correo, resuelve 850 casos rutinarios. Los 150 difíciles —reclamaciones ambiguas, pedidos con condiciones especiales, clientes clave— escalan al grande. Total: unos 2,35 € al día, alrededor de 50 € al mes.

La factura baja en torno a un 75 %, dentro de la horquilla habitual del 60-80 %, sin renunciar a calidad: lo delicado sigue pasando por el mejor modelo y, cuando toca, por una persona. Los precios varían según el proveedor, pero la proporción se mantiene; puedes afinar el cálculo con nuestra guía de la calculadora de ROI en IA.

Cuándo compensa (y cuándo no)

Merece la pena cuando:

• Volumen alto y repetitivo: cientos o miles de casos al día, no una consulta suelta.
• Dificultad desigual: la mayoría de casos son fáciles y unos pocos, complicados.
• Coste sensible: la factura de IA ya pesa, o pesará al escalar el uso.

No compensa con volúmenes pequeños (el ahorro no paga la complejidad añadida) ni cuando casi todos los casos son difíciles: la cascada escalaría siempre y pagarías dos llamadas en lugar de una. Si buscas una palanca más sencilla antes de montar una cascada, empieza por recortar el relleno de las respuestas: da menos ahorro, pero se configura en cinco minutos. Y hay un requisito previo: medir. Antes de recortar costes necesitas saber qué tal responde cada modelo, algo que tratamos en cómo evaluar agentes de IA en producción. Sin esa medición, el pequeño puede fallar en silencio sin que la factura te avise.

Preguntas frecuentes

¿Los casos que escalan no se pagan dos veces?

Sí: pagan la llamada al pequeño y la del grande. Pero son minoría —un 15-20 % típico— y la primera es muy barata: el sobrecoste es marginal frente al ahorro del resto. Si escalas más de un tercio de los casos, algo está mal calibrado: revisa el umbral o el reparto de tareas.

¿Se pierde calidad al responder con un modelo pequeño?

En lo rutinario, no: los modelos pequeños actuales resuelven con solvencia clasificación, extracción de datos y respuestas tipo. La calidad se juega en el criterio de escalado: bien ajustado, los casos donde el pequeño flojea nunca llegan al cliente. Por eso conviene muestrear y medir de forma continua.

¿Necesito saber programar para montar una cascada?

Para una cascada por reglas de negocio, no: muchas plataformas de automatización permiten encadenar dos modelos con una condición sin escribir código. El escalado por confianza o con verificador ya pide un perfil técnico o un partner que diseñe los umbrales y vigile los resultados.

Conclusión

La cascada de modelos aplica a la IA una regla que cualquier empresa entiende: no pongas a tu perfil más caro a hacer tareas de trámite. Un modelo pequeño para el grueso rutinario, un criterio claro de escalado y el grande reservado para lo difícil o lo importante; con eso, la factura baja un 60-80 % y la calidad se concentra donde aporta valor.

En Rakaty diseñamos automatizaciones con cascada de modelos para PYMEs: analizamos tu volumen, elegimos los modelos y calibramos el escalado para que pagues lo justo. Si tu factura de IA crece más que tus resultados, escríbenos.