| Инфраструктура уже построена на Cloudflare | Cloudflare AI | В документации Cloudflare указан model @cf/moonshotai/kimi-k2.6. |
Если у вас уже есть слой для вызова LLM по OpenAI-совместимому интерфейсу, Kimi Open Platform — естественная стартовая точка. Документация Kimi говорит, что API совместим с OpenAI Chat Completions по формату request/response и позволяет использовать OpenAI SDK напрямую.
Базовая подготовка выглядит так: создать Moonshot API account, пополнить баланс и получить API key; в настройках endpoint указывается https://api.moonshot.ai/v1/chat/completions. В production ключ должен храниться в secret manager или переменных окружения, а не в исходном коде.
Минимальный Python-каркас можно оставить в стиле OpenAI SDK:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ['MOONSHOT_API_KEY'],
base_url='https://api.moonshot.ai/v1',
)
completion = client.chat.completions.create(
model='PUT_KIMI_K2_6_MODEL_ID_FROM_KIMI_DOCS',
messages=[
{'role': 'system', 'content': 'Ты ассистент во внутреннем рабочем процессе.'},
{'role': 'user', 'content': 'Кратко суммируй этот issue и предложи следующий шаг.'},
],
max_completion_tokens=1024,
)
print(completion.choices[0].message.content)Важный момент: не угадывайте model ID. Возьмите точный идентификатор из quickstart Kimi K2.6 или официальной документации перед деплоем.
Cloudflare имеет смысл рассматривать, если приложение, воркеры, очереди или workflow уже завязаны на инфраструктуру Cloudflare. В документации Cloudflare модель указана напрямую как @cf/moonshotai/kimi-k2.6.
В описании этой модели у Cloudflare фигурируют поля для входного prompt, верхней границы числа генерируемых токенов, запрашиваемого типа output и модели для chat completion. Поэтому в production лучше не оставлять такие параметры «как получится»: задавайте token budget, timeout и политику output на уровне приложения.
OpenRouter публикует API quickstart для moonshotai/kimi-k2.6 и указывает, что нормализует request/response между провайдерами. SiliconFlow также выпустил материал о Kimi K2.6 и предлагает запускать модель через свой API.
Такой gateway удобен, если у вас уже настроены централизованные billing, routing, fallback или dashboard. Но перед production-запуском отдельно проверьте quota, logging, регион хранения данных, retry-политику, биллинг и SLA конкретного провайдера: эти детали в источниках для этой статьи полностью не подтверждены.
До написания боевого кода закройте базовую подготовку: Moonshot API account, баланс и API key. Затем разведите local, staging и production-конфиги; храните ключи в secret manager или переменных окружения; не пишите сырые prompt и ответы с чувствительными данными в логи, пока не определена политика хранения.
Kimi описывает rate limits через четыре метрики: concurrency, RPM — requests per minute, TPM — tokens per minute, и TPD — tokens per day. Для gateway, если в request есть max_completion_tokens, Kimi использует этот параметр при расчёте rate limit.
Отсюда практический вывод: короткий чат, длинная генерация отчёта и агентский workflow с инструментами не должны жить на одном дефолтном max_completion_tokens. Задайте отдельный output budget для каждого маршрута и прогоните нагрузку на staging до роста traffic.
FAQ Kimi поясняет: если ответ превышает max_completion_tokens, API вернёт только часть внутри лимита, а всё сверх него будет отброшено; результат может быть неполным или обрезанным, часто с finish_reason=length. Для продолжения генерации с места остановки Kimi указывает Partial Mode.
В пользовательском интерфейсе нельзя молча показывать такой ответ как финальный. Проверяйте finish_reason=length, решайте, нужно ли делать продолжение, и явно помечайте состояние, если контент ещё не завершён.
Страница pricing для Kimi K2.6 говорит, что цены указаны за 1M token, а налоги зависят от юрисдикции и рассчитываются отдельно. Общая документация Kimi по pricing уточняет, что Chat Completion API тарифицирует и input, и output по фактическому usage; если вы извлекаете содержимое из документа и передаёте его как input, эта часть также считается input.
Значит, production-оценка стоимости должна включать system prompt, историю диалога, retrieved context, извлечённые фрагменты документов и сгенерированный output. Если считать только output token, прогноз почти наверняка окажется заниженным.
В best practices Kimi для benchmarking есть конфигурации eval для задач с tools: например, ZeroBench w/ tools с max tokens 64k, AIME2025/HMMT2025 w/ tools с 96k и Agentic Search Task с total max tokens 256k.
Эти числа стоит воспринимать как benchmark или stress test, а не как дефолт для каждого production-request. Внутренний eval лучше строить на реальных задачах продукта: bug ticket, PR review, запросы к данным, анализ файлов или многошаговые workflow, которые действительно будут запускать пользователи.
Kimi Playground позволяет тестировать tool calling; документация говорит, что Kimi Open Platform предоставляет официально поддерживаемые tools, модель может сама решать, нужен ли вызов инструмента, а среди примеров указаны Date/Time, Excel file analysis, Web search и Random number generation.
Playground хорош для экспериментов и отладки. В production нужны allowlist инструментов, права на уровне user или tenant, timeout, audit log и подтверждение перед действиями, которые могут изменить данные или запустить внешний процесс.
Если ваши данные нельзя отправлять за пределы собственной инфраструктуры, вопрос self-host/on-prem неизбежен. Но по имеющимся источникам можно подтвердить только наличие страницы docs/deploy_guidance.md в репозитории moonshotai/Kimi-K2.6 на Hugging Face; доступного фрагмента недостаточно, чтобы подтвердить требования к GPU/VRAM, framework для serving, команды развёртывания или операционный чек-лист on-prem.
Поэтому официальный API и Cloudflare сейчас выглядят как более явно документированные маршруты интеграции. Self-host стоит выносить в план только после отдельной проверки полной документации развёртывания, лицензии и model card.
base_url на https://api.moonshot.ai/v1.max_completion_tokens, concurrency, RPM, TPM и TPD отдельно для разных маршрутов.finish_reason=length и проектируйте продолжение генерации, если оно нужно.Для большинства production-приложений разумнее начинать с Kimi Open Platform: использовать OpenAI SDK, указать base_url как https://api.moonshot.ai/v1 и вызывать Chat Completions через привычный LLM-адаптер. Если приложение уже работает в Cloudflare,
@cf/moonshotai/kimi-k2.6 — документированная альтернатива. А self-host/on-prem пока не стоит закладывать в production-план только на основании доступных фрагментов источников.
Главная сложность обычно не в первом успешном request, а в лимитах, стоимости, обрезанных ответах, eval и правах на tools. Если закрыть эти вопросы до роста нагрузки, интеграция Kimi K2.6 будет гораздо предсказуемее.