Red Hat AI 3.5：把企业 AI 从试点推向可治理的混合云生产环境

Red Hat AI 3.5 的重点，并非再增加一个聊天机器人功能或发布一款新模型，而是解决企业把 AI 从概念验证（PoC）带入长期生产运行时的“后半程”问题：上线前如何验证、上线后如何分配昂贵 GPU、运行中如何看清服务质量与成本。

Red Hat 于 2026 年 9 月 9 日发布该版本，随后在 9 月 11 日的总结中再次强调，其目标是让 AI 以共享企业服务的方式运行，并具备可验证的信任、运营控制与性能透明度。4315

核心更新：EvalHub 正式可用

本次最关键的生产化能力是 EvalHub。这套模型和智能体评估工具现已正式可用（GA），适用于企业自行提供或定制的模型、检索增强生成（RAG）配置以及 AI 智能体。

团队可针对提示注入（prompt injection）、越狱（jailbreak）等风险执行以安全为中心的基准测试，并基于结果生成面向合规需求的认证材料。13

这解决了一个常见落差：原型阶段“能跑”不等于能进入关键业务流程。EvalHub 的定位，是在部署前提供可重复执行、可记录的评估环节，而不是由每个应用团队各自搭建测试与留档流程。

Red Hat 同时表示，其已验证模型目录新增 20 多个模型，覆盖 Google、NVIDIA、阿里云等厂商。目录中的评估信息包括 Garak 基准测试结果，以及毒性和潜在个人身份信息（PII）暴露等风险指标，为企业选择模型提供更多可比较的依据。34

共享 GPU：从“专机试验”转向资源运营

AI 试点往往由少数用户使用专属算力；一旦进入生产，多个团队、不同业务优先级和成本归属都会同时出现。Red Hat AI 3.5 围绕共享 GPU 环境加入了公平份额调度、感知优先级的服务、准入控制，以及按优先级进行请求路由等控制能力。48

新版本还提供按用户统计的令牌（token）计量，以及推理健康度、GPU 利用率和模型性能仪表盘。对平台团队而言，这意味着可以更清楚地看到：谁在消耗算力、服务在哪个环节出现异常，以及如何进行团队级成本归集。414

在推理侧，Red Hat AI Inference 3.5 为 NVIDIA CUDA、AMD ROCm、Google TPU、Intel Gaudi 和 IBM Spyre 等加速器提供面向大语言模型的优化推理容器镜像；其中部分镜像已正式可用。35

RAG 与智能体工具继续扩展，但并非全部已可用于生产

针对企业知识库检索和智能体应用，AutoRAG 增加了多语言能力，适合非英语和混合语言文档集。新增内容包括语言识别、面向语言的文本分块策略，以及多语言嵌入模型进入优化搜索空间；其中也覆盖中文、日文、韩文等 CJK 文字处理场景。1

Red Hat 将 AutoRAG 定位为用于评估和调优 RAG 流水线的工具，支持上下文检索、对话测试与可视化调试。不过需要明确的是：AutoRAG 目前仍是技术预览（Technology Preview）功能，并非正式可用功能。 企业若计划建设生产服务，应将这一支持状态纳入技术选型和风险评估。13

此外，AI Hub 提供了可作为起点的模板，面向代码审查、文档处理和研究等工作流。43

混合云推理：可部署到哪些托管 Kubernetes 平台？

通过 llm-d，Red Hat 将分布式推理的部署选择扩展到托管 Kubernetes 环境。其文档列出的目标平台包括 Microsoft Azure Kubernetes Service（AKS）、CoreWeave Kubernetes Service（CKS）和 Amazon Elastic Kubernetes Service（EKS）；前提条件包括 Kubernetes 1.33 或更高版本，以及已配置 GPU 节点。37

但三者的支持等级并不完全相同。Red Hat 文档明确指出，Amazon EKS 上通过 llm-d 进行分布式推理属于技术预览：不提供生产级 SLA 支持，功能可能尚不完整，且不建议用于生产环境。39

相较之下，Red Hat AI Inference 3.5 的文档将 Azure 和 CoreWeave Kubernetes Service 列为 llm-d 分布式推理的部署路径，因此它们是本版本中更适合企业生产规划的选项。40

对企业团队意味着什么？

Red Hat AI 3.5 将 AI 试点中常被分割处理的四件事，拉向同一套平台运营方向：

1. 上线前建立信任：对自定义模型、RAG 流水线和智能体进行安全评估，并输出可审计结果。13
2. 运行中治理资源：以公平和优先级策略管理共享 GPU，并计量令牌用量。4
3. 持续观察服务状态：利用推理、GPU 利用率和模型性能仪表盘处理上线后的运营问题。14
4. 跨基础设施部署：在多种加速器栈上运行优化推理，并在受支持的 Kubernetes 环境中部署分布式推理。3540

Red Hat 的定位很明确：让跨混合环境的 AI 不再是一批彼此独立的实验，而更像一项可共享、可管理的企业基础设施。43

另一个相关但独立的 IBM—Red Hat 信任计划

IBM 与 Red Hat 的更广泛布局还包括 Lightwell。这是双方围绕存在漏洞的第三方开源依赖项推出的联合计划，关注软件供应链安全，而非 Red Hat AI 3.5 的某项产品功能。

2026 年 9 月，LTM 宣布与 IBM、Red Hat 围绕 Lightwell 合作，探索以 AI 驱动的漏洞修复方式帮助企业保护开源软件供应链。2425

两者的产品范围不同，但都反映出 IBM 与 Red Hat 对“先验证、再运营、降低生产风险”的重视。

结论

Red Hat AI 3.5 的主要承诺是运营能力：让平台团队能够在部署前测试 AI，在部署后治理共享加速计算资源，并持续观察混合环境中的模型推理服务。

其中，EvalHub 的正式可用是版本核心；GPU 调度、令牌计量与可观测性，则瞄准了许多试点项目尚未真正解决的日常运营工作。需要留意的是，功能成熟度并不一致：AutoRAG 以及 EKS 上的 llm-d 分布式推理仍处于技术预览阶段。1339