Red Hat AI 3.5 ma przenieść firmową AI z pilotażu do kontrolowanej produkcji

Red Hat AI 3.5 to nie premiera jednego modelu ani nowej funkcji czatbota. Aktualizacja koncentruje się na codziennym prowadzeniu systemów AI w firmie: testowaniu ich przed uruchomieniem, kontrolowaniu kosztownej infrastruktury GPU oraz obserwowaniu inferencji już po wdrożeniu. Red Hat ogłosił wydanie 9 września 2026 r., a w podsumowaniu z 11 września ponownie wskazał bezpieczeństwo, kontrolę operacyjną i przejrzystość wydajności jako główne założenia. 4315

EvalHub dostępny ogólnie: testy przed wdrożeniem

Centralnym elementem wersji 3.5 jest EvalHub, dostępny już w modelu ogólnej dostępności (GA). To zestaw narzędzi do oceny modeli i agentów AI, także tych dostarczonych lub dostosowanych przez klienta, konfiguracji RAG (retrieval-augmented generation, czyli generowania wspieranego wyszukiwaniem w bazie wiedzy) oraz agentów AI.

Zespoły mogą wykonywać testy bezpieczeństwa ukierunkowane m.in. na prompt injection i próby obejścia zabezpieczeń, określane jako jailbreaki. Wyniki mają posłużyć również do tworzenia dokumentacji i certyfikacji związanej ze zgodnością. 13

To istotna różnica między demonstracją a usługą firmową. Model, który działa w prototypie, nie musi być automatycznie gotowy do wykorzystania w procesie biznesowym. EvalHub ma wprowadzać powtarzalny etap oceny przed uruchomieniem usługi, zamiast pozostawiać każdemu zespołowi aplikacyjnemu samodzielne tworzenie testów i dokumentacji.

Rozszerzono też katalog zwalidowanych modeli o ponad 20 pozycji, w tym modele od Google, NVIDIA i Alibaba Cloud. Oceny katalogowe obejmują wyniki benchmarku Garak oraz wskaźniki dotyczące toksyczności i potencjalnej ekspozycji danych umożliwiających identyfikację osoby (PII). Ma to dać zespołom dodatkowe przesłanki przy wyborze modelu. 34

Współdzielone GPU pod kontrolą platformy

W fazie pilotażowej GPU bywa przypisane do jednego projektu i niewielkiej grupy użytkowników. W produkcji pojawiają się konkurujące obciążenia, priorytety usług i pytanie o to, kto generuje koszty. Red Hat AI 3.5 dodaje mechanizmy przeznaczone właśnie do takich środowisk: harmonogramowanie typu fair share, obsługę uwzględniającą priorytety, kontrolę dopuszczania zadań oraz kierowanie żądań według priorytetów w środowiskach ze współdzielonymi GPU. 48

Wersja wprowadza również pomiar liczby tokenów dla poszczególnych użytkowników oraz pulpity pokazujące stan inferencji, wykorzystanie GPU i wydajność modeli. W praktyce ma to pomóc operatorom platformy sprawdzić, kto zużywa zasoby, wykrywać problemy z serwowaniem modeli i przypisywać koszty do zespołów. 414

Red Hat AI Inference 3.5 oferuje ogólnie dostępne, zoptymalizowane obrazy do inferencji dla NVIDIA CUDA, a także AMD ROCm, Google TPU, Intel Gaudi i akceleratorów IBM Spyre. 35

RAG i agenci: ważne zastrzeżenie dotyczące dostępności

Red Hat rozwija też narzędzia dla aplikacji RAG i systemów opartych na agentach. AutoRAG zyskuje obsługę wielojęzyczną dla zbiorów dokumentów w językach innych niż angielski oraz kolekcji mieszanych językowo. Obejmuje to wykrywanie języka, dzielenie tekstu z uwzględnieniem języka oraz wielojęzyczne modele embeddingów w przestrzeni optymalizacji. 1

Według Red Hata AutoRAG umożliwia ocenę i strojenie potoków RAG, oferując m.in. wyszukiwanie kontekstowe, testy konwersacyjne i wizualne debugowanie. Trzeba jednak uwzględnić status tej funkcji: AutoRAG pozostaje Technology Preview, a nie funkcją GA. Przy decyzji o architekturze produkcyjnej należy odróżnić ten etap rozwoju od funkcji objętych pełną dostępnością. 13

W wydaniu znajdują się także szablony AI Hub, które mogą być punktem wyjścia dla przepływów pracy takich jak przegląd kodu, przetwarzanie dokumentów i prace badawcze. 43

Rozproszona inferencja poza OpenShift

Wersja 3.5 rozszerza opcje uruchamiania rozproszonej inferencji z llm-d na zarządzanych platformach Kubernetes. Dokumentacja Red Hata wskazuje Amazon Elastic Kubernetes Service (EKS), Azure Kubernetes Service (AKS) i CoreWeave Kubernetes Service (CKS). Wymagania obejmują Kubernetes 1.33 lub nowszy oraz przygotowane węzły GPU. 37

Status wsparcia nie jest jednak taki sam na wszystkich tych platformach. Rozproszona inferencja llm-d na Amazon EKS ma status Technology Preview: nie jest objęta produkcyjnymi umowami SLA Red Hata i nie jest zalecana do zastosowań produkcyjnych. Dokumentacja Red Hat AI Inference wskazuje wdrożenia na Azure i CoreWeave Kubernetes Service jako właściwe ścieżki wspierane w tym wydaniu. 3940

Co to zmienia dla zespołów IT i platformowych

Red Hat AI 3.5 łączy w jednym kierunku rozwoju cztery obszary, które w projektach pilotażowych często działają niezależnie:

1. Zaufanie przed startem: ocena własnych modeli, potoków RAG i agentów pod kątem ryzyk bezpieczeństwa oraz tworzenie audytowalnych wyników. 13
2. Kontrola w trakcie działania: współdzielenie GPU według zasad sprawiedliwości i priorytetów, wraz z pomiarem wykorzystania tokenów. 4
3. Widoczność operacyjna: monitorowanie inferencji, użycia akceleratorów i wydajności modeli po uruchomieniu usługi. 14
4. Elastyczność infrastruktury: zoptymalizowana inferencja dla wielu stosów akceleratorów oraz rozproszona inferencja w obsługiwanych środowiskach Kubernetes. 3540

Red Hat przedstawia te funkcje jako podstawę operacyjną dla AI działającej w środowiskach hybrydowych — bardziej podobnej do współdzielonej infrastruktury przedsiębiorstwa niż do zbioru odrębnych eksperymentów. 43

Lightwell: powiązany, ale odrębny temat IBM i Red Hata

Szersza strategia IBM i Red Hata obejmuje także Lightwell — wspólną inicjatywę związaną z podatnymi zależnościami open source pochodzącymi od zewnętrznych dostawców. We wrześniu firma LTM poinformowała o współpracy z IBM i Red Hatem wokół Lightwell w zakresie usuwania podatności z pomocą AI. 2425

Nie jest to funkcja Red Hat AI 3.5. Lightwell dotyczy bezpieczeństwa łańcucha dostaw oprogramowania, ale wpisuje się w szerszy nacisk tych firm na walidację i ograniczanie ryzyka operacyjnego.

Najważniejszy wniosek

Podstawowa obietnica Red Hat AI 3.5 ma charakter operacyjny: platforma ma pomóc testować AI przed wdrożeniem, zarządzać współdzieloną infrastrukturą akceleratorów i obserwować działanie serwowanych modeli w środowiskach hybrydowych. Ogólna dostępność EvalHub jest kluczową zmianą, a harmonogramowanie GPU, pomiar tokenów i obserwowalność dotyczą pracy, która zaczyna się dopiero po zakończeniu pilotażu.

Warto jednak sprawdzać status konkretnych komponentów: AutoRAG oraz rozproszona inferencja na Amazon EKS nadal są funkcjami Technology Preview. 1339