Red Hat AI 3.5 míří na provozní realitu podnikové AI

Red Hat AI 3.5 není vydání postavené na jednom novém modelu nebo funkci chatbota. Jde hlavně o aktualizaci pro provoz: má platformovým týmům pomoci otestovat AI před nasazením, rozdělovat drahou GPU kapacitu mezi více uživatelů a sledovat inference po spuštění služby. Red Hat verzi oznámil 9. září 2026 a v souhrnu z 11. září znovu zdůraznil bezpečnost, provozní kontrolu a transparentnost výkonu. 4315

Hlavní novinka: EvalHub je obecně dostupný

Nejvýraznějším přírůstkem pro produkční nasazení je EvalHub, nástroj Red Hatu pro vyhodnocování modelů a agentů. Je obecně dostupný pro modely dodané zákazníkem nebo upravené na míru, konfigurace RAG (retrieval-augmented generation, tedy generování rozšířené o vyhledávání v datech) i AI agenty. Týmy mohou spouštět bezpečnostně zaměřené testy například na riziko prompt injection a jailbreaků a z výsledků vytvářet certifikace orientované na požadavky compliance. 13

To řeší běžný rozdíl mezi prototypem a podnikovou službou: model, který v demonstraci funguje, nemusí být automaticky vhodný pro citlivý pracovní proces. EvalHub má zavést opakovatelný krok hodnocení ještě před nasazením, místo aby si každý aplikační tým budoval vlastní testování a dokumentaci.

Katalog validovaných modelů se zároveň rozšířil o více než 20 položek, včetně modelů od společností Google, NVIDIA a Alibaba Cloud. Jejich hodnocení obsahuje výsledky benchmarku Garak a ukazatele toxicity i možného vystavení osobních údajů. Týmy tak dostávají další podklady při výběru modelu. 34

Sdílené GPU jako spravovaná služba

AI piloty často běží na vyhrazené infrastruktuře a slouží jen omezenému okruhu uživatelů. Produkční provoz ale musí zvládnout soupeřící úlohy, priority služeb i přiřazení nákladů. Red Hat AI 3.5 proto přidává funkce pro sdílená GPU prostředí: plánování typu fair-share, obsluhu s ohledem na prioritu, řízení přijímání požadavků a směrování požadavků podle priority. 48

Novinkou je také měření tokenů na uživatele a dashboardy pro stav inference, využití GPU a výkon modelu. Pro provozní týmy to má znamenat přehled o tom, kdo spotřebovává kapacitu, možnost odhalit potíže s obsluhou modelu a podklad pro přiřazení nákladů jednotlivým týmům. 414

V prostředích akcelerovaných technologiemi NVIDIA jde prakticky o provozní vrstvu nad obsluhou modelů orientovanou na Kubernetes: vyhodnotit úlohy, řídit přístup ke sdíleným GPU a monitorovat běžící službu. Red Hat AI Inference 3.5 nabízí obecně dostupné optimalizované inference image pro NVIDIA CUDA; podporuje také akcelerátory AMD ROCm, Google TPU, Intel Gaudi a IBM Spyre. 35

RAG a agenti: důležité, ale ne vše je v režimu GA

Red Hat AI 3.5 rozšiřuje i nástroje pro aplikace využívající vyhledávání v dokumentech a agenty. AutoRAG přidává vícejazyčné schopnosti pro neanglické i smíšené dokumentové kolekce, včetně rozpoznání jazyka, dělení textu s ohledem na jazyk a vícejazyčných embeddingů v prostoru pro optimalizační vyhledávání. 1

Red Hat AutoRAG popisuje jako nástroj pro vyhodnocování a ladění RAG pipeline, který zahrnuje kontextové vyhledávání, konverzační testování a vizuální ladění. AutoRAG je však stále Technology Preview, nikoli obecně dostupná funkce. Při rozhodování, které komponenty mohou tvořit základ produkční služby, je proto nutné s tímto statusem počítat. 13

Vydání rovněž obsahuje šablony AI Hub jako výchozí body pro pracovní postupy, například kontrolu kódu, zpracování dokumentů a výzkum. 43

Hybridní cloud i mimo OpenShift

Nová verze rozšiřuje možnosti distribuované inference s llm-d na spravovaných Kubernetes platformách. Dokumentace Red Hatu uvádí jako cílové platformy Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) a Amazon EKS. Mezi předpoklady patří Kubernetes 1.33 nebo novější a připravené GPU uzly. 37

Stupeň podpory ale není ve všech případech stejný. Distribuovaná inference s llm-d na Amazon EKS je podle dokumentace pouze Technology Preview: není kryta produkční smlouvou SLA a Red Hat ji pro produkci nedoporučuje. Dokumentace Red Hat AI Inference naopak uvádí nasazení pro Azure a CoreWeave Kubernetes Service jako relevantní podporované cesty v této verzi. 3940

Co se pro podnikové týmy mění

Red Hat AI 3.5 propojuje čtyři oblasti, které bývají při AI pilotech často oddělené:

1. Důvěra před spuštěním: vyhodnocení vlastních modelů, RAG pipeline a agentů z hlediska bezpečnostních rizik s auditovatelnými výstupy. 13
2. Kontrola během provozu: rozdělování sdílených GPU podle pravidel férovosti a priorit spolu s měřením tokenů. 4
3. Provozní přehled: dashboardy pro inference, využití akcelerátorů a výkon modelu pro správu služby po nasazení. 14
4. Přenositelnost infrastruktury: optimalizovaná inference na více typech akcelerátorů a distribuovaná inference v podporovaných Kubernetes prostředích. 3540

Red Hat tyto funkce staví jako provozní základ pro AI v hybridních prostředích, která má fungovat spíše jako sdílená podniková infrastruktura než jako soubor izolovaných experimentů. 43

Lightwell je související, ale samostatná iniciativa IBM a Red Hatu

Širší strategie IBM a Red Hatu zahrnuje také Lightwell, samostatnou společnou iniciativu pro zranitelné open-source závislosti třetích stran. Společnost LTM v září oznámila spolupráci s IBM a Red Hatem na Lightwellu pro nápravu zranitelností s využitím AI. Tato iniciativa není funkcí Red Hat AI 3.5; týká se zabezpečení dodavatelského řetězce softwaru. Zapadá však do širšího důrazu obou společností na ověřování a snižování provozních rizik. 2425

Shrnutí

Hlavní příslib Red Hat AI 3.5 je provozní: poskytnout platformovým týmům nástroje pro testování AI před nasazením, správu sdílené akcelerované infrastruktury a sledování obsluhy modelů napříč hybridním prostředím. Středobodem je obecná dostupnost EvalHubu, zatímco plánování GPU, měření tokenů a observabilita řeší každodenní úkoly, které pilotní projekty často odkládají. Důležitá výhrada: dostupnost se podle funkce liší — AutoRAG i distribuovaná inference na Amazon EKS zůstávají ve stavu Technology Preview. 1339