Cloudflare наносит удар по бесконтрольным счетам за ИИ: бюджеты в долларах, а не в токенах
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета. Функция позволяет устанавливать лимиты в разрезе моделей, провайдеров или метаданных (пользователь, команда) и автоматически переключаться на более дешев...
ОпубликовалОтредактировано с помощью DeepSeek-V4-ProИзображения созданы с помощью GPT Image 1.5
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета.
Функция позволяет устанавливать лимиты в разрезе моделей, провайдеров или метаданных (пользователь, команда) и автоматически переключаться на более дешевые модели при исчерпании бюджета [8][7].
Релиз — прямой ответ на тревогу CFO из за неконтролируемых расходов на ИИ, невозможность понять, кто именно потратил деньги, и привычку команд по умолчанию использовать самые дорогие модели [7][12].
What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate limCloudflare's AI Gateway now enforces cost-based budgets in dollars, not tokens.
Промпт ИИ
Create a landscape editorial hero image for this Studio Global article: What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate lim. Article summary: On June 5, 2026, Cloudflare released dollar-based spend limits for AI Gateway — budgets that track cumulative token cost rather than request count — and announced a closed beta for identity-driven budgets integrated with. Topic tags: general, documentation, general web. Reference image context from search candidates: Reference image 1: visual subject "Blank white background with no objects or features visible. # Cloudflare AI Gateway Pricing: Costs, Hidden Fees, and Alternatives. CloudFlare AI Gateway pricing guide for GenAI dev" source context "Cloudflare AI Gateway Pricing Explained For 2026 - Truefoundry" Reference image 2: visual subject "Blank white backgr
openai.com
Компании, агрессивно внедряющие ИИ, хорошо знакомы с ночным кошмаром: внезапный шести- или семизначный счет, по которому невозможно отследить, какая команда, пользователь или runaway-процесс стали причиной перерасхода. Обновление Cloudflare AI Gateway от 5 июня 2026 года напрямую решает эту проблему, перенося контроль с подсчета запросов на отслеживание реальных долларов и привязывая бюджеты к конкретным людям.
Как работают долларовые лимиты
Главное новшество — переход от традиционного ограничения частоты запросов (rate limiting), которое устанавливает лимит на количество API-вызовов, к бюджетам на основе реальной стоимости, отслеживающим совокупные долларовые траты по фактическому использованию токенов и ценам модели . При получении запроса шлюз рассчитывает его стоимость, исходя из известных цен модели и потребленных токенов. Если общая сумма расходов за заданный временной интервал превышает лимит, запрос блокируется с HTTP-ответом 429 .
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Каков краткий ответ на вопрос «Cloudflare наносит удар по бесконтрольным счетам за ИИ: бюджеты в долларах, а не в токенах»?
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета.
Какие ключевые моменты необходимо проверить в первую очередь?
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета. Функция позволяет устанавливать лимиты в разрезе моделей, провайдеров или метаданных (пользователь, команда) и автоматически переключаться на более дешевые модели при исчерпании бюджета [8][7].
Что мне делать дальше на практике?
Релиз — прямой ответ на тревогу CFO из за неконтролируемых расходов на ИИ, невозможность понять, кто именно потратил деньги, и привычку команд по умолчанию использовать самые дорогие модели [7][12].
Cloudflare наносит удар по бесконтрольным счетам за ИИ: бюджеты в долларах, а не в токенах
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета. Функция позволяет устанавливать лимиты в разрезе моделей, провайдеров или метаданных (пользователь, команда) и автоматически переключаться на более дешев...
ОпубликовалОтредактировано с помощью DeepSeek-V4-ProИзображения созданы с помощью GPT Image 1.5
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета.
Функция позволяет устанавливать лимиты в разрезе моделей, провайдеров или метаданных (пользователь, команда) и автоматически переключаться на более дешевые модели при исчерпании бюджета [8][7].
Релиз — прямой ответ на тревогу CFO из за неконтролируемых расходов на ИИ, невозможность понять, кто именно потратил деньги, и привычку команд по умолчанию использовать самые дорогие модели [7][12].
What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate limCloudflare's AI Gateway now enforces cost-based budgets in dollars, not tokens.
Промпт ИИ
Create a landscape editorial hero image for this Studio Global article: What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate lim. Article summary: On June 5, 2026, Cloudflare released dollar-based spend limits for AI Gateway — budgets that track cumulative token cost rather than request count — and announced a closed beta for identity-driven budgets integrated with. Topic tags: general, documentation, general web. Reference image context from search candidates: Reference image 1: visual subject "Blank white background with no objects or features visible. # Cloudflare AI Gateway Pricing: Costs, Hidden Fees, and Alternatives. CloudFlare AI Gateway pricing guide for GenAI dev" source context "Cloudflare AI Gateway Pricing Explained For 2026 - Truefoundry" Reference image 2: visual subject "Blank white backgr
openai.com
Компании, агрессивно внедряющие ИИ, хорошо знакомы с ночным кошмаром: внезапный шести- или семизначный счет, по которому невозможно отследить, какая команда, пользователь или runaway-процесс стали причиной перерасхода. Обновление Cloudflare AI Gateway от 5 июня 2026 года напрямую решает эту проблему, перенося контроль с подсчета запросов на отслеживание реальных долларов и привязывая бюджеты к конкретным людям.
Как работают долларовые лимиты
Главное новшество — переход от традиционного ограничения частоты запросов (rate limiting), которое устанавливает лимит на количество API-вызовов, к бюджетам на основе реальной стоимости, отслеживающим совокупные долларовые траты по фактическому использованию токенов и ценам модели . При получении запроса шлюз рассчитывает его стоимость, исходя из известных цен модели и потребленных токенов. Если общая сумма расходов за заданный временной интервал превышает лимит, запрос блокируется с HTTP-ответом 429 .
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Каков краткий ответ на вопрос «Cloudflare наносит удар по бесконтрольным счетам за ИИ: бюджеты в долларах, а не в токенах»?
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета.
Какие ключевые моменты необходимо проверить в первую очередь?
Новые долларовые лимиты AI Gateway отслеживают совокупные затраты по каждому запросу, а не количество запросов, блокируя трафик ошибкой 429 при превышении бюджета. Функция позволяет устанавливать лимиты в разрезе моделей, провайдеров или метаданных (пользователь, команда) и автоматически переключаться на более дешевые модели при исчерпании бюджета [8][7].
Что мне делать дальше на практике?
Релиз — прямой ответ на тревогу CFO из за неконтролируемых расходов на ИИ, невозможность понять, кто именно потратил деньги, и привычку команд по умолчанию использовать самые дорогие модели [7][12].
Лимиты не одинаковы для всех. Их можно гибко настраивать в разрезе модели, провайдера или произвольных метаданных, таких как ID пользователя, команда или приложение . Например, можно установить дневной бюджет в $200 на каждого пользователя, общий дневной лимит на шлюз в $10,000 или лимит в $50 в день на конкретную дорогую модель . Каждое правило использует настраиваемое временное окно с фиксированной (привязанной к календарю) или скользящей стратегией сброса .
Два уровня соблюдения
Лимиты расходов применяются на двух независимых уровнях. Лимит на уровне аккаунта ограничивает общие расходы по всем шлюзам для организаций, использующих Unified Billing. Правила на уровне конкретного шлюза обеспечивают более детальный контроль. Срабатывает тот лимит, который будет достигнут раньше . Функция работает как для запросов через Unified Billing (Cloudflare загружает кредиты с комиссией 5%), так и для схемы BYOK (bring-your-own-key), при условии, что известно ценообразование модели .
Динамическая маршрутизация: переключение вместо отказа
Простой отказ с ошибкой 429 — слишком грубый инструмент. Динамическая маршрутизация Cloudflare предоставляет более умную альтернативу, позволяя переключаться на более дешевые модели при исчерпании бюджета. В потоки маршрутизации можно включать узлы бюджетных лимитов (Budget Limit nodes), которые обеспечивают соблюдение квот по затратам и вместо сброса запроса автоматически переключают его на альтернативную модель . Та же система поддерживает узлы ограничения частоты, процентное A/B-распределение трафика и условное ветвление на основе метаданных запроса, таких как тарифный план пользователя или команда, и все это без изменения кода приложения .
Бюджеты на основе личности через Cloudflare Access
Пожалуй, самым значимым анонсом стала закрытая бета-версия бюджетов, привязанных к личности пользователя, с интеграцией с Cloudflare Access и существующим провайдером идентификации (IdP) организации. Это решает давнюю проблему общих API-ключей, из-за которой, как сообщается в блоге Cloudflare, «никто не знает, кто сколько потратил» . Персонифицированная атрибуция и контроль, напрямую привязанные к корпоративной учетной записи, дают ИТ-директорам и финансовым отделам ту самую юнит-экономику для ИИ, которая уже существует для любой другой статьи бизнес-расходов .
Рыночное давление, стоящее за релизом
Этот набор функций — прямой ответ на конкретные провалы рынка, которые Cloudflare наблюдала у своих клиентов :
Неконтролируемый рост затрат: Компании внедряли ИИ по принципу «действуй быстро, со счетом разберемся потом», что приводило к болезненным перерасходам и тревоге финансовых директоров.
«Черные дыры» атрибуции: Общие API-ключи делали невозможным отследить расходы до конкретного пользователя, команды или даже автоматизированной CI-задачи.
Использование топ-моделей по умолчанию: Без бюджетов команды автоматически направляли любую задачу на самую дорогую доступную модель, даже если можно было обойтись более дешевым аналогом.
Привязывая лимиты расходов к реальным деньгам и реальным людям, Cloudflare делает ставку на то, что управление затратами на ИИ станет такой же рутиной, как отслеживание любых других расходов на облачную инфраструктуру.
Лимиты не одинаковы для всех. Их можно гибко настраивать в разрезе модели, провайдера или произвольных метаданных, таких как ID пользователя, команда или приложение . Например, можно установить дневной бюджет в $200 на каждого пользователя, общий дневной лимит на шлюз в $10,000 или лимит в $50 в день на конкретную дорогую модель . Каждое правило использует настраиваемое временное окно с фиксированной (привязанной к календарю) или скользящей стратегией сброса .
Два уровня соблюдения
Лимиты расходов применяются на двух независимых уровнях. Лимит на уровне аккаунта ограничивает общие расходы по всем шлюзам для организаций, использующих Unified Billing. Правила на уровне конкретного шлюза обеспечивают более детальный контроль. Срабатывает тот лимит, который будет достигнут раньше . Функция работает как для запросов через Unified Billing (Cloudflare загружает кредиты с комиссией 5%), так и для схемы BYOK (bring-your-own-key), при условии, что известно ценообразование модели .
Динамическая маршрутизация: переключение вместо отказа
Простой отказ с ошибкой 429 — слишком грубый инструмент. Динамическая маршрутизация Cloudflare предоставляет более умную альтернативу, позволяя переключаться на более дешевые модели при исчерпании бюджета. В потоки маршрутизации можно включать узлы бюджетных лимитов (Budget Limit nodes), которые обеспечивают соблюдение квот по затратам и вместо сброса запроса автоматически переключают его на альтернативную модель . Та же система поддерживает узлы ограничения частоты, процентное A/B-распределение трафика и условное ветвление на основе метаданных запроса, таких как тарифный план пользователя или команда, и все это без изменения кода приложения .
Бюджеты на основе личности через Cloudflare Access
Пожалуй, самым значимым анонсом стала закрытая бета-версия бюджетов, привязанных к личности пользователя, с интеграцией с Cloudflare Access и существующим провайдером идентификации (IdP) организации. Это решает давнюю проблему общих API-ключей, из-за которой, как сообщается в блоге Cloudflare, «никто не знает, кто сколько потратил» . Персонифицированная атрибуция и контроль, напрямую привязанные к корпоративной учетной записи, дают ИТ-директорам и финансовым отделам ту самую юнит-экономику для ИИ, которая уже существует для любой другой статьи бизнес-расходов .
Рыночное давление, стоящее за релизом
Этот набор функций — прямой ответ на конкретные провалы рынка, которые Cloudflare наблюдала у своих клиентов :
Неконтролируемый рост затрат: Компании внедряли ИИ по принципу «действуй быстро, со счетом разберемся потом», что приводило к болезненным перерасходам и тревоге финансовых директоров.
«Черные дыры» атрибуции: Общие API-ключи делали невозможным отследить расходы до конкретного пользователя, команды или даже автоматизированной CI-задачи.
Использование топ-моделей по умолчанию: Без бюджетов команды автоматически направляли любую задачу на самую дорогую доступную модель, даже если можно было обойтись более дешевым аналогом.
Привязывая лимиты расходов к реальным деньгам и реальным людям, Cloudflare делает ставку на то, что управление затратами на ИИ станет такой же рутиной, как отслеживание любых других расходов на облачную инфраструктуру.
