La paradoja de la inferencia: los tokens serán más baratos, pero los agentes de IA podrían costar más

Por eso, una reducción del precio unitario puede quedar anulada si aumenta más deprisa la cantidad de tokens y de llamadas necesarias para lograr un resultado útil. Además, cuando los modelos avanzados se abaratan, resulta económicamente viable utilizarlos en tareas que antes eran demasiado costosas. Las empresas pueden entonces diseñar flujos más largos, con más herramientas, más contexto y mayor autonomía.

En otras palabras: el precio de cada unidad baja, pero el volumen de trabajo crece.

Por qué un agente consume mucho más que un chatbot

Los sistemas agénticos añaden varias capas de actividad:

• Planificación y razonamiento: dividen un objetivo en pasos, comparan alternativas y pueden rehacer el plan.
• Uso de herramientas: las consultas a buscadores, bases de datos, API y aplicaciones generan entradas y salidas adicionales.
• Verificación: el agente puede criticar, probar o validar sus resultados intermedios y finales.
• Memoria y aprendizaje: recuperar información, incorporar comentarios, evaluar el desempeño y adaptarse requiere más actividad del modelo.
• Coordinación multiagente: delegar tareas añade mensajes, traspasos de contexto, duplicaciones y controles de supervisión.
• Recuperación ante errores: una llamada fallida a una herramienta o una respuesta poco fiable puede activar nuevos intentos y replanteamientos.

El problema se acumula. Las llamadas posteriores pueden incluir cada vez más información del historial, mientras que los modelos de razonamiento más capaces suelen consumir más tokens y cómputo al resolver varias decisiones encadenadas. Según la información publicada sobre el análisis de Gartner, un agente puede necesitar entre cinco y 30 veces más tokens que un chatbot para tareas equivalentes, aunque la cifra exacta depende del flujo y de la configuración del modelo.

Por tanto, el coste no depende solo de la tarifa por token. También intervienen el volumen de tokens, el modelo elegido, el número de llamadas y la estructura del flujo de trabajo.

La escalera de costes del modelo Tokenomics

El Tokenomics Model de Gartner analiza la IA como una serie de escenarios con distintos niveles de exigencia, en lugar de tratar cada petición como una unidad idéntica. La secuencia general descrita en la información pública es la siguiente:

1. Ejecución agéntica básica: cuesta más que una interacción sencilla con un chatbot.
2. Planificación: añade razonamiento y orquestación.
3. Aprendizaje y mejora iterativa: incorporan memoria, comentarios, evaluación y adaptación.
4. Razonamiento avanzado: representa la categoría más costosa, al requerir un cómputo más sofisticado y sostenido.

Los datos públicos respaldan la dirección de esta escalera y su umbral principal: encaminar una tarea hacia un modelo de razonamiento agéntico puede elevar el coste de inferencia al menos cinco veces frente a un chatbot básico, con incrementos potencialmente mayores a medida que aumenta la complejidad. Sin embargo, la información disponible no ofrece multiplicadores numéricos fiables y detallados para cada categoría. Esas cifras no deberían presentarse como si fueran referencias públicas consolidadas de Gartner.

¿Contradice esto la caída del coste de los modelos avanzados?

No. La paradoja no implica que dejen de mejorar el hardware, la arquitectura de los modelos o la eficiencia por token. Significa que esas mejoras pueden estimular la demanda de sistemas más potentes.

Cuando los modelos avanzados son más baratos, las organizaciones pueden justificar aplicaciones que antes no salían a cuenta. También pueden conceder a los agentes más autonomía, más herramientas, contextos más extensos y más oportunidades para razonar. Todo ello aumenta la cantidad de inferencia necesaria para completar cada tarea. En el marco de Gartner, la capacidad y el uso pueden crecer más deprisa que la caída del coste unitario.

La diferencia es importante para planificar productos de IA: un precio menor por token mejora la economía de una carga de trabajo fija, pero no garantiza un coste menor por resultado empresarial si la carga de trabajo está cambiando.

Cómo pueden controlar las empresas el coste de los agentes

1. Aplicar una estrategia de niveles de inferencia

No todas las tareas necesitan el modelo más potente. El trabajo determinista, la recuperación de información, la clasificación y las operaciones de bajo riesgo pueden asignarse a modelos pequeños o más económicos. Los modelos avanzados de razonamiento deberían reservarse para los pasos en los que las pruebas demuestren que su capacidad adicional mejora el resultado lo suficiente como para justificar el gasto. Gartner recomienda, entre otras medidas, establecer niveles de inferencia, limitar los tokens y monitorizar el consumo.

2. Poner límites a la complejidad del flujo

Las empresas deberían controlar las variables que pueden hacer que un agente se aleje de su presupuesto:

• número máximo de turnos y tokens;
• límites de reintentos y replanteamientos;
• cuotas de llamadas a herramientas;
• tamaño máximo del contexto;
• límites a la ramificación de agentes; y
• condiciones de parada ante comportamientos repetitivos o de baja confianza.

El almacenamiento en caché de resultados estables, la poda o el resumen del historial, el uso de salidas estructuradas y la derivación de casos excepcionales a una persona pueden reducir llamadas innecesarias sin eliminar la autonomía donde sí aporta valor.

3. Medir el coste por resultado completado

El coste por token y el coste por invocación del agente son métricas incompletas. También conviene medir cuánto cuesta obtener un resultado empresarial: resolver un caso, aprobar una reclamación, cualificar un cliente potencial o completar una tarea de ingeniería. Esas cifras deben analizarse junto con la calidad, la latencia, la tasa de fallos y la intervención humana.

Un piloto fiable debería establecer primero una línea base del proceso y un umbral de calidad. Solo así será posible saber si el agente genera suficiente valor para escalar. Ahorrar tokens no sirve de mucho si el resultado no es mejor, más rápido o más barato.

4. Hacer gobernable la facturación por uso

La facturación basada en el consumo puede provocar costes inesperados cuando los flujos se vuelven recursivos, extensos o muy autónomos. Los límites presupuestarios, las cuotas por flujo, la telemetría de costes en tiempo real, las alertas y los mecanismos internos de imputación o visibilidad del gasto permiten detectar el consumo antes de ampliar el despliegue.

5. Revisar los modelos con regularidad

La economía de los modelos no es estática. Un flujo construido alrededor de un modelo avanzado de precio elevado podría ejecutarse más adelante con un modelo competente y más barato, uno ajustado o destilado, o incluso mediante automatización determinista. La revisión debe centrarse en la combinación de modelo y flujo, en lugar de asumir que la arquitectura actual será permanente.

6. Exigir valor medible antes de ampliar la autonomía

Gartner ha previsto que más del 40% de las iniciativas de IA agéntica se cancelarán antes de que termine 2027 debido al aumento de los costes, la falta de claridad sobre el valor empresarial o unos controles de riesgo insuficientes. La previsión no significa que todos los despliegues vayan a fracasar, pero sí advierte contra la ampliación de la autonomía antes de comprender su economía y su gobernanza.

Una implementación bien optimizada todavía puede ofrecer un retorno de la inversión si acelera o sustituye un proceso valioso y repetible. La prueba es si el valor incremental del razonamiento, la coordinación y la autonomía supera el coste incremental de inferencia y operación.

La conclusión práctica

La hipótesis más prudente es que el precio de los tokens y el coste total de los agentes pueden avanzar en direcciones opuestas. Los tokens son solo una pieza del presupuesto. Las empresas deben modelar el flujo completo, utilizar la configuración menos potente que cumpla el objetivo de calidad, imponer límites operativos y ampliar la autonomía únicamente cuando los datos de producción demuestren que mejora un resultado empresarial definido.