Почему Hermes бесконечно переключается на резервную модель и как это исправить

Многие пользователи Hermes Agent сталкиваются с, казалось бы, бесконечным сообщением: «⚠️ Rate limited — switching to fallback provider... 🔄 Primary model failed — switching to fallback: sg claude opus 4.7 via custom». Это не ошибка в привычном понимании, а корректное срабатывание механизма отказоустойчивости, который при определённых условиях может зацикливаться. Давайте детально разберём, почему это происходит и как восстановить стабильную работу.

Как работает механизм fallback в Hermes

Hermes Agent спроектирован так, чтобы не прерывать диалог при сбоях основного провайдера LLM — будь то превышение лимита запросов (rate limit), перегрузка сервера, ошибки аутентификации или обрыв соединения . Когда возникает любая из этих ситуаций, Hermes автоматически переключается на резервную связку «провайдер:модель», сохраняя весь контекст разговора.

Ключевая особенность — per-turn fallback

Важно понимать: переключение происходит только для текущего хода диалога (turn). В следующем сообщении Hermes снова попытается обратиться к основной модели, и только если она всё ещё недоступна — опять перейдёт на резервную . Именно эта логика и создаёт эффект «зацикливания», когда основная модель долгое время находится под ограничениями.

Hermes сохраняет контекст беседы при переключении, так что вы не теряете историю диалога — это плюс. Но постоянные сообщения о смене провайдера могут раздражать и указывать на системную проблему, требующую решения на уровне конфигурации, а не интерфейса.

Почему ошибка повторяется снова и снова

1. Основной провайдер стабильно недоступен

Непосредственная причина — основной LLM-провайдер продолжает возвращать ошибку rate limit (HTTP 429). Пока это ограничение активно, каждый новый ход диалога будет начинаться с неудачной попытки обращения к primary-модели, за которой последует fallback .

Согласно документации OpenClaw, ошибка 429 может возникать не только из-за исчерпания общей квоты запросов, но и в случаях работы с длинным контекстом: «Extra usage is required for long context requests» . Если вы работаете с большими объёмами данных или длинной историей диалога, ограничения могут срабатывать чаще и жёстче.

2. Возможное пересечение пулов ресурсов

Строка

sg claude opus 4.7 via custom

• Если и основная, и резервная модель работают через один и тот же шлюз (gateway) или используют общий пул API-ключей с единым лимитом — переключение на fallback не решит проблему, потому что лимит действует на уровне всего пула .
• В этом случае вы будете видеть сообщение о переключении, но по факту обе модели упираются в одно ограничение, создавая ложное ощущение, что «fallback не работает».

3. Конфигурация в config.yaml

Все настройки fallback-цепочки хранятся в ~/.hermes/config.yaml (или ./_data/config.yaml при использовании Docker Compose) . Кастомные эндпоинты, основные модели и список резервных fallback_providers прописываются именно там. Проблема часто кроется не в коде Hermes, а в том, как настроены эти параметры .

Пошаговая диагностика: что проверять

Шаг 1: Определите основную модель и цепочку fallback

Откройте config.yaml и найдите:

• Текущую основную модель (секция model или аналогичная).
• Список fallback_providers — какие «провайдер:модель» указаны для автоматического переключения .
• Секцию с кастомным эндпоинтом (если используется custom-провайдер) .

Проверьте, не используют ли основная и резервная модели один и тот же API-ключ, один прокси-сервер или один пул ресурсов провайдера.

Шаг 2: Проверьте состояние шлюза (gateway)

Если Hermes работает через OpenClaw Gateway или другой кастомный шлюз, выполните диагностические команды:

• openclaw gateway probe

  — проверяет доступность шлюза и уровень аутентификации .

• openclaw status --all

  — показывает состояние всех компонентов, включая активные клиентские процессы .

Обратите внимание на возможные «зависшие» (stale) клиентские процессы, которые могут потреблять квоту или создавать конфликты .

Шаг 3: Проверьте переменные окружения и API-ключи

Если шлюз читает ключи из переменных окружения:

• Убедитесь, что ключи находятся на том же хосте, где запущен шлюз.
• После изменения ключей или конфигурации перезапустите шлюз (рестарт демона systemd/launchd, если используется) .
• Проверьте, что ключ основной модели действительно рабочий — протестируйте его вне OpenClaw/Hermes, например, в Claude Code или через прямой API-запрос .

Шаг 4: Проанализируйте контекст использования

• Если проблема возникает преимущественно при длинных диалогах — проверьте настройки лимитов для длинного контекста .
• Убедитесь, что конфигурация fallback_providers содержит модель, способную обрабатывать объёмы контекста, сопоставимые с основной моделью.

Практические решения

Решение 1: Разнесите основную и резервную модели по разным пулам

Если диагностика подтвердит, что обе модели сидят на одном пуле — настройте fallback на действительно независимого провайдера. Например, если основной провайдер — Anthropic через кастомный шлюз, а резервный — OpenRouter с другой моделью .

Решение 2: Настройте мониторинг и охлаждение (cooldown)

OpenClaw имеет встроенный механизм охлаждения (cooldown) для шлюза, который может быть причиной ложных срабатываний rate limit даже при реально работающих API . Проверьте состояние cooldown через

openclaw gateway status --deep

Решение 3: Обновите или перенастройте API-ключи

Если ключ исчерпал квоту или был отозван — получите новый в консоли провайдера, разместите его на хосте шлюза и перезапустите процесс .

Решение 4: Настройте несколько уровней fallback

Hermes поддерживает цепочку из нескольких резервных провайдеров (список fallback_providers) . Используйте эту возможность, чтобы добавить второй и даже третий уровень резервирования на случай, если и основная, и первая резервная модели окажутся недоступны одновременно.

Краткий итог для быстрого устранения

1. Сообщение — не баг, а индикатор того, что основная модель недоступна .
2. Повторение — следствие per-turn логики: каждый ход диалога заново тестирует основную модель .
3. Корневая причина — либо реальный rate limit на стороне основного провайдера, либо пересечение ресурсов основной и резервной моделей .
4. Решение — диагностика через

   gateway probe

   /status, проверка config.yaml на предмет пересечения пулов, при необходимости — перенос fallback на независимого провайдера .

Если вы готовы предоставить актуальный config.yaml (без ключей, только структуру), можно точечно указать, какой именно провайдер вызывает сбой, куда указывает кастомный эндпоинт sg-* и почему возврат к primary происходит на каждом ходе — с конкретными рекомендациями по исправлению.

Использованные источники: документация Hermes Agent по fallback-провайдерам , руководство по провайдерам AI , документация OpenClaw по устранению неполадок , баг-репорты о ложных rate limit .