Red Hat AI 3.5：由 AI 試行走向混合雲正式營運

Red Hat 在 2026 年 9 月 9 日公布 Red Hat AI 3.5，定位並非一項單獨的新模型或聊天功能，而是針對企業 AI「真係要上線營運」而設的更新。到 9 月 11 日的官方重點回顧，Red Hat 再次強調安全、營運控制與效能透明度：目標是把 AI 由零散試行項目，變成可共同使用、可管治的企業服務。4315

對平台團隊而言，最實際的問題一向不只是「模型跑唔跑到」，而是：推出前有冇一致的風險驗證？昂貴 GPU 點樣分配？服務開始處理真實工作後，又點樣追蹤成本、效能與故障？AI 3.5 的更新正正集中處理這些日常營運問題。

核心更新：EvalHub 正式可用

今次最明確的生產級功能，是 EvalHub 正式可用（GA）。它是 Red Hat 的模型與 AI agent 評估工具，適用於客戶自行提供或客製化的模型、檢索增強生成（RAG）設定，以及 AI agent。團隊可針對提示注入（prompt injection）、越獄提示（jailbreak）等風險做安全基準測試，並按結果產生面向合規要求的認證文件。13

這點的重要性在於：概念驗證做得通，不代表可直接放入企業流程。EvalHub 嘗試把評估放進部署前的固定關卡，減少由每個應用團隊各自建立測試方法、各自留存文件的情況。

Red Hat 亦表示，已驗證模型目錄新增超過 20 個模型，包括來自 Google、NVIDIA 及 Alibaba Cloud 的模型。目錄的評估資訊包含 Garak 基準測試結果，以及毒性和可能洩露個人可識別資料（PII）的指標，讓團隊揀模型時有更多可參考的證據。34

共用 GPU：由「邊個搶到就邊個用」變成可管理資源

AI 試行階段通常有專屬基建、用戶亦不多；一旦投入正式運作，工作負載之間會爭資源，不同服務有不同優先次序，成本亦要分攤。Red Hat AI 3.5 新增的控制項包括公平分享排程（fair-share scheduling）、按優先級提供服務、准入控制（admission control），以及按優先級路由請求，目的是管理多人共用 GPU 的環境。48

新版本同時加入按用戶統計的 token 用量，以及推理健康狀況、GPU 使用率和模型表現儀表板。這些功能可讓平台營運人員了解誰在消耗運算容量、及早找出模型服務問題，並支援以團隊為單位作成本歸屬。414

在推理引擎層面，Red Hat AI Inference 3.5 為 NVIDIA CUDA 提供正式可用的最佳化推理容器映像，亦涵蓋 AMD ROCm、Google TPU、Intel Gaudi 和 IBM Spyre 加速器。換言之，企業可在不同加速器環境中部署最佳化推理服務。35

RAG 與 agent 工具都有擴展，但並非全部已正式可用

AI 3.5 亦擴充了檢索及 agent 應用的工具。AutoRAG 新增多語言能力，面對非英文及混合語言文件庫時，可進行語言偵測、按語言特性切分文本，並把多語言嵌入模型納入最佳化搜尋範圍。1

Red Hat 將 AutoRAG 定位為 RAG 管道的評估與調校工具，提供情境式檢索、對話測試及視覺化除錯等能力。不過要留意，AutoRAG 目前仍是 Technology Preview，不是正式可用功能；企業若規劃生產服務，應把這個支援狀態納入風險評估。13

此外，AI Hub 提供預設範本，作為程式碼審查、文件處理及研究等工作流程的起點。43

混合雲推理：支援延伸至 OpenShift 以外的 Kubernetes

Red Hat 亦透過 llm-d 擴大分散式推理的部署選擇。官方文件列出 Azure Kubernetes Service（AKS）、CoreWeave Kubernetes Service（CKS）及 Amazon EKS 為目標平台；基本要求包括 Kubernetes 1.33 或以上，以及已配置 GPU 節點。37

但三者的支援級別並不相同。文件明確指出，Amazon EKS 上的 llm-d 分散式推理仍為 Technology Preview，不享有 Red Hat 正式生產服務級別協議（SLA）支援，亦不建議用於生產環境。相對地，AI Inference 3.5 文件把 Azure 及 CoreWeave Kubernetes Service 列為這次發布中相關的支援部署路徑。3940

對企業團隊有甚麼改變？

AI 3.5 把在試行階段常常各自為政的四類工作，逐步整合到同一平台方向：

1. 上線前建立信任：評估自訂模型、RAG 管道與 agent 的安全風險，並產生可稽核輸出。13
2. 運行時管控資源：以公平及優先級政策分配共享 GPU，同時量度 token 用量。4
3. 持續掌握服務狀態：以推理、使用率及模型表現儀表板，管理上線後的服務。14
4. 跨基建部署的彈性：在多種加速器堆疊上運行最佳化推理，並在受支援的 Kubernetes 環境部署分散式推理。3540

Red Hat 的定位很清楚：讓橫跨混合環境的 AI，運作方式更接近一項共用企業基建，而非一堆難以接手、難以計數的實驗項目。43

Lightwell 是相關策略，但不是 AI 3.5 功能

IBM 與 Red Hat 更廣泛的信任與風險管理策略，還包括 Lightwell——一項處理第三方開源軟件脆弱依賴項目的聯合計劃。LTM 在 9 月宣布與 IBM、Red Hat 就 Lightwell 合作，以 AI 驅動方式協助修復漏洞。2425

不過，Lightwell 關注的是軟件供應鏈安全，並非 Red Hat AI 3.5 的功能。兩者較大的共通點，在於都強調驗證及降低正式營運的風險。

總結

Red Hat AI 3.5 的賣點在於營運能力：讓平台團隊可在部署前驗證 AI、在部署後管治共享加速器資源，並在混合雲環境持續觀察模型推理服務。當中以 EvalHub 正式可用最具代表性；GPU 排程、用量計費及可觀測性則補上許多試行項目經常忽略的「第二天營運」工作。

但採用時要睇清功能成熟度：EvalHub 已正式可用，AutoRAG 及 EKS 分散式推理則仍屬 Technology Preview。1339