Red Hat AI 3.5: от ИИ-пилотов к управляемому внедрению

Red Hat AI 3.5 — это обновление прежде всего для эксплуатации ИИ в корпоративной среде, а не выпуск одной новой модели или чат-бота. Компания делает ставку на три вещи: проверку ИИ-систем до запуска, управляемое совместное использование дорогих GPU и мониторинг инференса после вывода сервиса в эксплуатацию. Релиз был объявлен 9 сентября 2026 года, а в обзоре Red Hat от 11 сентября отдельно подчёркивались безопасность, операционный контроль и прозрачность производительности. 4315

Главное изменение — EvalHub стал общедоступен

Центральное нововведение — EvalHub, набор инструментов для оценки моделей и ИИ-агентов, который теперь имеет статус GA (General Availability, общедоступная поддерживаемая версия). Он предназначен для моделей, которые заказчик предоставляет или дообучает сам, конфигураций retrieval-augmented generation (RAG, генерация с поиском по данным) и агентов.

Команды могут запускать проверки, ориентированные на безопасность: например, на устойчивость к prompt injection и jailbreak. По итогам можно формировать сертификационные материалы, связанные с соблюдением регуляторных требований. 13

Практический смысл понятен: успешная демонстрация ещё не означает, что модель готова к использованию в критичном бизнес-процессе. EvalHub должен сделать оценку повторяемой стадией перед развёртыванием, а не набором разрозненных самодельных тестов у каждой команды.

Red Hat также сообщила, что каталог валидированных моделей пополнился более чем 20 позициями, включая модели Google, NVIDIA и Alibaba Cloud. В каталог добавлены результаты бенчмарка Garak, а также индикаторы токсичности и потенциального раскрытия персональных данных — дополнительная основа для выбора модели. 34

Общие GPU: распределение ресурсов и учёт потребления

На этапе пилота GPU нередко выделяются одной команде и под ограниченную нагрузку. В рабочей среде появляются конкурирующие сервисы, разные приоритеты и вопрос: кто именно потребляет ресурсы и за чей счёт.

В Red Hat AI 3.5 для общих GPU-сред появились механизмы справедливого планирования, обслуживания с учётом приоритета, контроля допуска и маршрутизации запросов по приоритетам. 48

Кроме того, релиз включает учёт токенов по пользователям и панели мониторинга состояния инференса, загрузки GPU и производительности моделей. Это должно дать платформенным командам возможность видеть потребление мощностей, быстрее находить проблемы обслуживания моделей и относить затраты к конкретным подразделениям или командам. 414

Для инфраструктуры с ускорителями NVIDIA это формирует Kubernetes-ориентированный операционный слой вокруг обслуживания моделей: проверить нагрузку, управлять доступом к общим GPU и наблюдать за уже работающим сервисом. В Red Hat AI Inference 3.5 также доступны оптимизированные образы для инференса на NVIDIA CUDA, а также AMD ROCm, Google TPU, Intel Gaudi и IBM Spyre. 35

RAG и агенты: полезные возможности, но не все готовы для production

В версии 3.5 расширены инструменты для приложений с поиском по корпоративным данным и агентов. AutoRAG получил многоязычные возможности для неанглоязычных и смешанных коллекций документов: распознавание языка, разбиение текста с учётом языка и многоязычные эмбеддинги в пространстве поиска оптимальных настроек. Это актуально и для документов на кириллице. 1

Red Hat описывает AutoRAG как инструмент для оценки и настройки RAG-конвейеров, включая контекстный поиск, тестирование диалогов и визуальную отладку. Однако AutoRAG пока имеет статус Technology Preview — предварительной функции без обычного уровня готовности и поддержки для промышленной эксплуатации. Этот статус стоит учитывать при выборе компонентов для production-сервиса. 13

Также в релиз вошли шаблоны AI Hub — отправные точки для сценариев проверки кода, обработки документов и исследовательских задач. 43

Распределённый инференс вне OpenShift

Red Hat расширяет варианты развёртывания распределённого инференса с llm-d в управляемых Kubernetes-средах. В документации названы Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) и Amazon Elastic Kubernetes Service (EKS); среди требований — Kubernetes 1.33 или новее и подготовленные GPU-узлы. 37

Но уровень поддержки для этих платформ различается. Для Amazon EKS распределённый инференс с llm-d обозначен как Technology Preview: на него не распространяются производственные SLA Red Hat, и компания не рекомендует использовать его в production. В документации Red Hat AI Inference отдельно выделены инструкции по развёртыванию на Azure и CoreWeave Kubernetes Service — это поддерживаемые направления в данном релизе. 3940

Что меняется для платформенной команды

Red Hat AI 3.5 объединяет в одном направлении работы, которые в ИИ-пилотах часто существуют отдельно:

1. Проверка до запуска. Оценка собственных моделей, RAG-конвейеров и агентов на риски с получением аудируемых результатов. 13
2. Управление во время работы. Распределение общих GPU по правилам справедливости и приоритета с измерением расхода токенов. 4
3. Наблюдаемость после запуска. Контроль состояния инференса, использования ускорителей и показателей модели на дашбордах. 14
4. Переносимость инфраструктуры. Оптимизированный инференс на нескольких типах ускорителей и распределённое развёртывание в поддерживаемых Kubernetes-средах. 3540

Именно так Red Hat позиционирует платформу: не как набор отдельных ИИ-экспериментов, а как основу для общей корпоративной службы ИИ в гибридной инфраструктуре. 43

Lightwell — отдельная инициатива IBM и Red Hat

В более широкой стратегии IBM и Red Hat есть Lightwell — совместная инициатива по работе с уязвимыми сторонними зависимостями с открытым исходным кодом. В сентябре компания LTM сообщила о сотрудничестве с IBM и Red Hat вокруг Lightwell для устранения уязвимостей с применением ИИ. 2425

Это не функция Red Hat AI 3.5: Lightwell относится к безопасности цепочки поставки ПО. Однако обе инициативы объединяет общий подход — проверка результатов и снижение операционных рисков перед использованием в реальной среде.

Вывод

Главное обещание Red Hat AI 3.5 — операционная зрелость: дать платформенным командам средства для проверки ИИ до развёртывания, управления общей инфраструктурой ускорителей и наблюдения за обслуживанием моделей в гибридных средах. Основой этого подхода стал общедоступный EvalHub, а планирование GPU, учёт токенов и мониторинг закрывают ежедневные задачи, которые пилотные проекты часто обходят стороной.

Важная оговорка: статус доступности различается по компонентам. EvalHub уже общедоступен, тогда как AutoRAG и распределённый инференс с llm-d на Amazon EKS пока остаются Technology Preview. 1339