Red Hat AI 3.5: контроль, безпека й спільні GPU для корпоративного ШІ

Red Hat AI 3.5 — це не стільки реліз однієї нової моделі чи чатбота, скільки оновлення для щоденної експлуатації корпоративного ШІ. Його мета — дати платформним командам спосіб перевіряти системи до запуску, розподіляти дорогі GPU між різними користувачами та контролювати роботу інференсу після розгортання. Red Hat оголосила про реліз 9 вересня 2026 року, а 11 вересня окремо підкреслила його акцент на безпеці, операційному контролі та прозорості продуктивності. 4315

EvalHub: перевірка до виходу у продакшн

Головна новинка — EvalHub, інструментарій для оцінювання моделей і ШІ-агентів, який уже має статус загальної доступності (GA). Він призначений для моделей, які компанія створила або доопрацювала самостійно, конфігурацій RAG (генерація з доповненим пошуком) та агентів.

Команди можуть запускати тести безпеки, зокрема на ризики prompt injection — підміни інструкцій у запиті — і jailbreak, тобто обходу обмежень моделі. За результатами можна формувати сертифікаційні матеріали для цілей відповідності вимогам. 13

Практична цінність у тому, що успішна демонстрація прототипу ще не означає готовність ШІ до корпоративного процесу. EvalHub має зробити передрелізне тестування повторюваним і задокументованим, а не залишати кожній команді розробки власний набір перевірок.

Red Hat також повідомила про понад 20 нових валідованих моделей у каталозі, зокрема від Google, NVIDIA та Alibaba Cloud. Для моделей у каталозі доступні результати бенчмарку Garak, а також індикатори токсичності й потенційного розкриття персональних даних. Це дає додаткові підстави для вибору моделі. 34

Спільні GPU: від дефіцитного ресурсу до керованого сервісу

На етапі пілота GPU нерідко виділяють під одну команду й один сценарій. У виробничому середовищі необхідно узгоджувати конкуруючі навантаження, пріоритети сервісів і витрати. Для цього Red Hat AI 3.5 додає справедливий розподіл ресурсів (fair-share scheduling), обслуговування з урахуванням пріоритетів, контроль допуску запитів і маршрутизацію запитів за пріоритетом у спільних GPU-середовищах. 48

Також з’явилися облік токенів для кожного користувача та дашборди стану інференсу, використання GPU й продуктивності моделей. У сукупності ці можливості мають допомогти операторам бачити споживання потужностей, знаходити проблеми з обслуговуванням моделей і розподіляти витрати між командами. 414

Для інфраструктури з прискорювачами NVIDIA це створює Kubernetes-орієнтований операційний рівень навколо обслуговування моделей: оцінити навантаження, керувати доступом до спільних GPU та спостерігати за запущеним сервісом. Red Hat AI Inference 3.5 також пропонує загальнодоступні оптимізовані образи інференсу для NVIDIA CUDA; підтримуються також AMD ROCm, Google TPU, Intel Gaudi та IBM Spyre. 35

RAG і ШІ-агенти: корисні доповнення, але не все вже GA

Версія 3.5 розширює інструменти для пошуку в корпоративних даних і агентних застосунків. AutoRAG отримує багатомовні можливості для неангломовних та змішаномовних колекцій документів: визначення мови, нарізання тексту з урахуванням мови й багатомовні вбудовування в просторі пошуку оптимальних налаштувань. 1

Red Hat позиціонує AutoRAG як засіб оцінювання й налаштування RAG-конвеєрів із контекстним пошуком, тестуванням діалогів і візуальним налагодженням. Водночас AutoRAG має статус Technology Preview, а не GA. Під час вибору компонентів для критично важливого сервісу це розмежування варто враховувати. 13

До релізу також увійшли шаблони AI Hub — стартові заготовки для сценаріїв на кшталт перевірки коду, обробки документів і дослідницьких завдань. 43

Гібридна хмара та Kubernetes поза OpenShift

Red Hat розширює варіанти розподіленого інференсу з llm-d на керованих Kubernetes-платформах. У документації вказано Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) і Amazon EKS; серед вимог — Kubernetes версії 1.33 або новішої та підготовлені вузли з GPU. 37

Однак рівень підтримки тут не однаковий. Розподілений інференс llm-d на Amazon EKS має статус Technology Preview: для нього немає виробничої угоди про рівень сервісу (SLA), а Red Hat не рекомендує використовувати цю можливість у продакшні. У документації окремо висвітлено розгортання на Azure та CoreWeave Kubernetes Service — це відповідні підтримувані шляхи у цьому релізі. 3940

Що змінюється для платформних команд

Red Hat AI 3.5 зводить в одну платформну стратегію чотири завдання, які в ШІ-проєктах часто існують окремо:

1. Довіра до запуску: оцінювати власні моделі, RAG-конвеєри й агентів на ризики та отримувати придатні для аудиту результати. 13
2. Контроль під час роботи: розподіляти спільні GPU за правилами справедливості й пріоритетів та вимірювати використання токенів. 4
3. Спостережуваність у продакшні: відстежувати інференс, завантаження прискорювачів і поведінку моделей після запуску. 14
4. Переносимість інфраструктурою: запускати оптимізований інференс на кількох типах прискорювачів і розгортати його в підтримуваних Kubernetes-середовищах. 3540

Red Hat подає ці функції як операційну основу для ШІ в гібридних середовищах — тобто як спільну корпоративну інфраструктуру, а не набір ізольованих експериментів. 43

Lightwell — суміжна, але окрема ініціатива IBM і Red Hat

Ширша стратегія IBM і Red Hat охоплює також Lightwell — спільну ініціативу для роботи з вразливими сторонніми залежностями з відкритим кодом. У вересні LTM оголосила про співпрацю з IBM і Red Hat щодо Lightwell для усунення вразливостей за допомогою ШІ. Це не функція Red Hat AI 3.5: Lightwell стосується безпеки ланцюга постачання програмного забезпечення, хоча обидва напрями відображають акцент компаній на перевірці та зниженні операційних ризиків. 2425

Висновок

Головна обіцянка Red Hat AI 3.5 — операційна зрілість: перевірити ШІ до розгортання, керувати спільною прискорювальною інфраструктурою та спостерігати за обслуговуванням моделей у гібридному середовищі. Центральною зміною є загальна доступність EvalHub, а планування GPU, облік токенів і моніторинг адресують завдання «другого дня» — ті, які зазвичай лишаються поза межами пілотних проєктів. Важливе застереження: готовність можливостей різниться — AutoRAG і розподілений інференс на EKS усе ще є Technology Preview. 1339