Cloudflare AI Gateway estrena controles reales de gasto: presupuestos en dólares, ya no en peticiones

Dos niveles de control

Los límites de gasto se aplican en dos niveles independientes. Un límite a nivel de cuenta restringe el gasto total en todos los gateways para las organizaciones que utilizan la facturación unificada (Unified Billing). Las reglas por gateway ofrecen un control más preciso. El límite que se alcance primero será el que bloquee las siguientes solicitudes . Estos límites funcionan tanto para las peticiones de facturación unificada —donde Cloudflare carga créditos con una comisión de transacción del 5%— como para las configuraciones "trae tu propia clave" (BYOK, por sus siglas en inglés), siempre que se conozca el precio del modelo .

Enrutamiento dinámico: una alternativa al bloqueo

Un rechazo con un error 429 puede ser un instrumento demasiado contundente. El Enrutamiento Dinámico de Cloudflare (en fase beta) ofrece una alternativa más inteligente al permitir una redirección a modelos más baratos cuando se agota un presupuesto. Los flujos de enrutamiento pueden incluir nodos de Límite de Presupuesto que imponen cuotas de coste y, en lugar de rechazar la solicitud, cambian automáticamente a un modelo alternativo . El mismo sistema permite nodos de Límite de Tasa, divisiones de tráfico A/B por porcentaje y bifurcaciones condicionales basadas en los metadatos de la solicitud, como el plan del usuario o el equipo, todo ello sin necesidad de modificar el código de la aplicación .

Presupuestos basados en la identidad con Cloudflare Access

Quizás el anuncio más significativo es una beta cerrada para presupuestos basados en la identidad que se integra con Cloudflare Access y el proveedor de identidad (IdP) existente de una organización. Esto resuelve el persistente problema de las claves API compartidas, donde, como menciona el blog de Cloudflare, "nadie sabe quién gastó qué" . La atribución y el control por persona, vinculados directamente a la identidad corporativa, proporcionan a los directores de sistemas (CIO) y a los equipos financieros la misma economía unitaria para la IA que ya existe para cualquier otra partida de negocio .

Las presiones del sector que motivan el lanzamiento

Este conjunto de funciones es una respuesta directa a fallos de mercado específicos que Cloudflare ha observado entre sus clientes :

• Costes desbocados: Las empresas impulsaron una adopción agresiva de la IA con una mentalidad de "muévete rápido y ya veremos la factura después", lo que provocó dolorosos excesos de gasto y ansiedad en la dirección financiera.
• Agujeros negros en la atribución: Las claves API compartidas hacían imposible rastrear el gasto hasta un usuario, equipo o incluso un trabajo automático de integración continua (CI).
• Uso por defecto de los modelos más punteros: Sin presupuestos, los equipos enrutaban automáticamente cada tarea al modelo más caro disponible, incluso cuando una alternativa más barata habría sido suficiente.

Al vincular los límites de gasto a dólares reales y a personas reales, Cloudflare apuesta por que la gestión de costes de IA se convierta en algo tan rutinario como el seguimiento de cualquier otro gasto en infraestructura de la nube.