Red Hat AI 3.5: nástroje pro bezpečný a škálovatelný provoz AI v hybridním cloudu

Red Hat 11. září 2026 oznámil obecnou dostupnost Red Hat AI 3.5. Aktualizace je určená podnikům, které chtějí přestat chápat AI jen jako sérii experimentů a provozovat ji jako řízenou, sledovatelnou a víceuživatelskou službu napříč hybridní infrastrukturou. Hlavní ambicí je spojit ověřování důvěryhodnosti před nasazením, efektivní práci se sdílenými GPU a opakovatelné nasazování aplikací i inference. 168

Od výběru modelu k doložitelné důvěře

Klíčovou novinkou je obecně dostupný EvalHub. Slouží k automatizovanému bezpečnostnímu benchmarkingu a vytváření auditovatelných podkladů pro posuzování souladu u modelů vytvořených či upravených zákazníkem, RAG pipeline a AI agentů. Týmy tak mohou před produkčním spuštěním prověřovat například náchylnost k prompt injection nebo jailbreakům. 138

Red Hat současně rozšířil katalog o více než 20 nově validovaných modelů od dodavatelů včetně společností Google, NVIDIA a Alibaba Cloud. U modelů jsou uváděny informace o bezpečnosti, riziku expozice osobních údajů (PII) a toxicitě. Pro platformní týmy to znamená podklady pro výběr modelu, místo aby každá skupina musela od nuly vytvářet vlastní metodiku hodnocení. 34

GPU jako sdílená služba, ne zdroj pro jediný tým

Produkční AI bývá omezená dostupností a cenou GPU. Red Hat AI 3.5 proto přináší mechanismy pro spravedlivé rozdělování kapacity: fair-share plánování, obsluhu podle priority, admission control a směrování požadavků podle priority. Jejich účelem je omezit situaci, kdy jeden projekt vytíží akcelerátory na úkor ostatních.

Spolu s měřením tokenů podle uživatele mají tyto funkce podpořit prioritizaci služeb a interní účtování či přehled nákladů podle týmů (chargeback/showback). 45

Nové dashboardy observability zároveň zobrazují stav inference, využití GPU a signály týkající se výkonu modelu. Provozní týmy tak mohou během běhu AI služeb hledat problémy s kapacitou, dostupností i kvalitou výstupů. 416

RAG a agenti i pro vícejazyčná data

AutoRAG získává podporu vícejazyčných scénářů pro neanglické a smíšenojazyčné dokumentové korpusy. Zahrnuje rozpoznání jazyka a konfiguraci experimentů; Red Hat jej směřuje k vyhledávání v podnikových datech, testování konverzačních řešení a agentním aplikacím. Šablony v AI Hubu pak nabízejí výchozí architektury například pro kontrolu kódu, zpracování dokumentů a výzkumné postupy. 113

Inference napříč akcelerátory a Kubernetes platformami

Red Hat AI Inference 3.5 nabízí optimalizované image pro inferenci na akcelerátorech NVIDIA CUDA, AMD ROCm, Google TPU, Intel Gaudi a IBM Spyre. 38

Distribuovaná inference s llm-d je podporována na Azure Kubernetes Service (AKS) a CoreWeave Kubernetes Service. Dokumentace zahrnuje i Amazon EKS, avšak inference-aware scheduling pro EKS je výslovně označeno jako Technology Preview — Red Hat pro tuto funkci neposkytuje produkční SLA a nedoporučuje ji používat v produkci. 84

Co znamená napojení na Red Hat AI Factory with NVIDIA

V rámci Red Hat AI Factory with NVIDIA tvoří uvedené funkce standardizovanou provozní vrstvu nad infrastrukturou akcelerovanou technologiemi NVIDIA. Organizace mohou jednotným, na Kubernetes orientovaným způsobem validovat modely, férově rozdělovat GPU, sledovat model serving a nasazovat služby v hybridní infrastruktuře. Právě tím chce Red Hat zmenšit mezeru mezi experimenty datových týmů a požadavky podnikové správy a provozu. 163

Stručně řečeno: Red Hat AI 3.5 neslibuje jen rychlejší spuštění modelu. Cílí na to, aby podnik dokázal rozhodnout, který model nasadit, jak doložit jeho posouzení, komu přidělit omezené GPU zdroje a jak službu průběžně provozně kontrolovat. Ne všechny části vydání však mají stejný status dostupnosti: zatímco cesty přes AKS a CoreWeave jsou podporované, funkce pro Amazon EKS je zatím pouze Technology Preview. 84