Red Hat AI 3.5：把企業 AI 納入正式營運的治理與可觀測工具

Red Hat 在 2026 年 9 月 9 日發布 Red Hat AI 3.5，這次更新的重點不是單一模型或聊天機器人功能，而是讓企業能把 AI 從實驗性專案，推進為可控管、可觀測、可跨混合雲運行的共用服務。Red Hat 在 9 月 11 日的整理中，也將重點放在安全性、營運控制與效能透明度。4315

核心更新：EvalHub 正式可用

此次最重要的功能是 EvalHub 正式上市（GA）。它是 Red Hat 的模型與 AI 代理評測工具，支援企業自行提供或客製化的模型、檢索增強生成（RAG）設定及 AI 代理。

團隊可在部署前，針對提示注入（prompt injection）、越獄（jailbreak）等風險執行以安全為導向的評測，並依結果產出偏向合規用途的認證文件。13

這項能力的重要性在於：原型階段能運作，不等於已適合進入企業關鍵流程。EvalHub 的定位，是把評測納入可重複執行的上線前程序，而非由每個應用團隊各自建立測試方式與留存文件。

Red Hat 也表示，其已驗證模型目錄新增超過 20 個模型，涵蓋 Google、NVIDIA 與 Alibaba Cloud 等供應商。目錄中的評測資料包含 Garak 基準測試結果，以及毒性與潛在個人識別資訊（PII）暴露風險指標，協助團隊在選模時取得更多依據。34

共享 GPU 從硬體資源，變成可管理的服務

AI 試點往往由少數使用者搭配專用基礎設施執行；一旦進入正式環境，就得同時面對工作負載競爭、服務優先順序與成本歸屬問題。

Red Hat AI 3.5 為共享 GPU 環境新增多項控制機制，包括公平分享排程（fair-share scheduling）、具優先順序意識的服務、准入控制，以及依優先順序進行的請求路由。48

新版也提供按使用者計算的 Token 用量，以及推論健康度、GPU 使用率與模型效能儀表板。這些功能的目的，是讓平台維運人員看見誰正在消耗運算資源、及早發現模型服務問題，並支援以團隊為單位進行成本歸屬。414

在推論加速器支援上，Red Hat AI Inference 3.5 提供已正式可用的最佳化推論映像檔，涵蓋 NVIDIA CUDA、AMD ROCm、Google TPU、Intel Gaudi 與 IBM Spyre。35

RAG 與 AI 代理工具持續擴充，但不全是正式版

Red Hat AI 3.5 也擴充 RAG 與代理型應用的開發工具。AutoRAG 新增對非英文與混合語言文件集的多語言能力，包括語言偵測、依語言特性切分內容，以及在最佳化搜尋空間中使用多語言嵌入模型。1

Red Hat 將 AutoRAG 定位為 RAG 管線的評估與調校工具，功能包括情境式檢索、對話測試與視覺化除錯。不過，AutoRAG 目前仍是 Technology Preview，並非正式可用功能；企業若要建立正式服務，需將這項支援狀態納入評估。13

此外，AI Hub 提供可作為起點的範本，適用於程式碼審查、文件處理與研究等工作流程。43

混合雲推論延伸至 OpenShift 之外

在受管 Kubernetes 環境上，Red Hat 擴大了以 llm-d 進行分散式推論的部署選擇。官方文件列出的目標平台包括 Azure Kubernetes Service（AKS）、CoreWeave Kubernetes Service（CKS）與 Amazon EKS；基本條件包括 Kubernetes 1.33 以上版本與已配置的 GPU 節點。37

但三者支援層級並不相同。文件明確指出，Amazon EKS 上的 llm-d 分散式推論僅屬 Technology Preview，不受 Red Hat 正式生產服務等級協議（SLA）支援，且不建議用於正式環境。相對而言，Azure 與 CoreWeave Kubernetes Service 是本次版本文件所強調的支援部署路徑。3940

對企業平台團隊意味著什麼？

Red Hat AI 3.5 嘗試將 AI 試點中經常分散處理的四項工作，整合成同一個平台方向：

1. 上線前建立信任：評估客製模型、RAG 管線與 AI 代理的安全風險，並產出可稽核結果。13
2. 運行中治理資源：透過公平與優先權政策配置共享 GPU，並量測 Token 使用量。4
3. 營運時維持可見性：以推論、資源使用率與模型效能儀表板管理正式服務。14
4. 跨基礎設施部署：在多種加速器堆疊上執行最佳化推論，並在支援的 Kubernetes 環境中部署分散式推論。3540

Red Hat 將這些功能定位為混合環境中擴大 AI 正式部署的營運基礎，使 AI 更接近企業共用基礎設施，而不只是各自獨立的實驗專案。43

與 IBM－Red Hat 的 Lightwell 計畫有何關係？

IBM 與 Red Hat 的整體信任策略還包含 Lightwell，但它並非 Red Hat AI 3.5 的功能。Lightwell 是 IBM 與 Red Hat 共同推動的計畫，目標是處理具風險的第三方開源相依套件；9 月時，LTM 宣布與 IBM、Red Hat 合作，以 AI 驅動漏洞修復。2425

兩者處理的是不同問題：Red Hat AI 3.5 著重 AI 工作負載的治理與營運，Lightwell 則聚焦軟體供應鏈安全。不過，兩者都反映 IBM 與 Red Hat 對「驗證」及降低正式環境風險的重視。

結論

Red Hat AI 3.5 的主要承諾是營運能力：在部署前測試 AI、治理共享加速器資源，並持續觀察混合雲中的模型服務。EvalHub 正式可用是這次更新的核心；GPU 排程、Token 計量與可觀測性則補上許多 AI 試點常被延後處理的日常維運工作。

不過，企業規劃導入時仍應留意功能成熟度差異：AutoRAG 與 Amazon EKS 上的分散式推論目前都還是 Technology Preview。1339