据报道,OpenAI 已采购数万台 Mac mini 和 Mac Studio,主要用于强化学习以及“计算机操控代理”(computer-use agents)的训练与评测。但这并不意味着苹果芯片正在取代用于前沿大模型训练的英伟达 GPU 集群。现有信息主要来自媒体转述,采购规模、部署位置和具体配置仍未获 OpenAI 官方确认。
1
11
AI 代理为什么需要一整批普通电脑?
计算机操控代理并不只是生成文字。它需要打开浏览器、点击按钮、操作文件、调用软件、处理权限提示,还要在界面发生变化后自行恢复。要训练这类系统,研究人员必须让代理在真实或接近真实的操作系统环境中反复尝试,并记录大量“轨迹”供强化学习使用。
这正是 Mac mini 和 Mac Studio 的用武之地:它们可以被部署成许多相互独立的 macOS 工作节点,分别运行浏览器、应用程序和桌面环境。与其模拟或虚拟化每一种操作系统行为,直接提供一台可操作的 Mac,在某些代理训练和评测任务中反而更方便。
1
2
6
强化学习中的“轨迹”,可以简单理解为代理从执行动作到获得结果的一整段尝试过程。实验团队需要同时运行大量这样的尝试,因此,许多体积小、可独立工作的计算节点,可能比一台只追求峰值算力的机器更适合这类并行任务。
据报道,Anthropic 也在通过亚马逊云科技(AWS)租用 Mac 资源,开展类似的计算机操控代理工作。
1
2
6
苹果统一内存的吸引力在哪里?
Apple silicon 的核心特点之一,是让 CPU、GPU 和神经处理资源围绕同一个统一内存池工作。与传统的 CPU 加独立 GPU 架构相比,数据不必以完全相同的方式在系统内存和独立显存之间来回复制,模型权重和应用状态也可以共享较大的内存空间。
5
对于本地 AI,内存容量有时比宣传中的峰值 AI 算力更关键。较大的统一内存可以同时容纳模型权重、操作系统、应用状态、数据集以及推理运行时,因此适合:
- 本地模型部署与推理;
- 量化大语言模型运行;
- AI 代理的评测、编排和多任务执行;
- 数据准备与预处理;
- 对隐私、延迟或离线运行有要求的场景。
不过,统一内存并不会消除所有差距。苹果芯片并非对每一种 AI 工作负载都最快,也不具备数据中心 GPU 集群成熟的软件生态、专用互连和大规模分布式训练能力。更现实的结果是形成异构基础设施:英伟达等数据中心 GPU 负责高吞吐分布式训练,Mac 或其他本地系统则负责大量并行 rollout、测试和端点推理。
新款 Mac mini 和 Mac Studio如何嵌入这套分工?
苹果近期更新的桌面产品,提供了两个不同的硬件层级。新款 Mac mini 起售价为 899 美元,可选 M6 或 M5 Pro;Mac Studio 则搭载 M5 Max 或 M5 Ultra,起售价分别为 2499 美元和 5499 美元。苹果宣布这些新机将于 9 月 22 日开始上市。
17
18
26
M6 是苹果首款采用 2 纳米工艺制造的 Mac 芯片;M5 Ultra 则是面向高内存需求的顶级配置。苹果表示,M5 Ultra 的统一内存最高可达 512GB,内存带宽达到 1.2TB/s,并据此强调其能够在本地运行拥有数千亿参数的语言模型。
21
33
从 AI 基础设施角度看,两条产品线可以承担不同任务:
- Mac mini: 体积更小、成本相对较低,适合大规模铺设,用作独立代理环境、测试节点和轻量级推理节点。
- Mac Studio: 提供更高的内存容量和更强的单机能力,适合研究人员、开发者、本地模型服务,以及普通消费级显卡难以容纳的模型。
因此,如果 OpenAI 的采购报道属实,其逻辑更像是一种“舰队式”部署:用大量小型机器提供彼此独立的 macOS 环境,再用少量高内存 Mac 承担大模型开发和本地服务工作。
256GB 的 M5 Ultra 能运行多大的模型?
256GB 统一内存已经是很高的配置,但并非 M5 Ultra 的最高内存档位。大体而言,它可以较为从容地运行 70B 级模型,包括经过量化、并为操作系统、上下文窗口和推理运行时预留空间的版本。一个 70B 模型采用四比特量化时,通常需要约 40–48GB 的可用内存,具体数值取决于量化方法和实现方式。
54
在更激进的量化条件下,同一台机器也可能容纳部分更大的稀疏模型或混合专家模型。针对这一平台的估算显示,约 235B–284B 参数规模的部分模型可以放入 256GB 系统,但这些数字属于估算,并非厂商基准测试结果。
40
50
51
模型名称上的参数规模并不能单独决定运行效果,还需要考虑:
- 模型是稠密架构还是混合专家架构;
- 采用几比特量化;
- 上下文长度以及 KV 缓存需求;
- 推理框架本身的内存开销;
- 用户对响应速度和并发数的要求。
“能装下”也不等于“用起来足够快”。对于需要实时互动的代理任务,一个更小但响应更快、能够同时处理多个任务的模型,可能比勉强塞入的大模型更实用。
这则 Mac 采购消息究竟说明了什么?
最稳妥的结论是:AI 基础设施正在从单一的超大 GPU 集群,扩展为多种硬件共同参与的体系。代理开发和本地推理需要大量可控的机器,尤其是当工作负载与真实桌面操作系统绑定、可以并行执行,或对隐私和延迟较为敏感时。
但现有材料并不能证明与这则消息一同流传的所有市场判断。例如,采购直接造成特定供应短缺、推动 Mac 业务增长 29%,以及英伟达将苹果视为本地 AI 的主要竞争对手等说法,目前缺乏足够可靠的交叉验证,不宜当作已经确定的事实。
苹果的机会,可能集中在两个层面:一是高内存本地推理,二是用于代理开发和评测的机器集群。英伟达及其他数据中心加速器则仍然适合追求最高训练吞吐量和超大规模分布式系统的任务。
所以,未来更可能出现的不是简单的“Mac 对决英伟达”,而是分工合作:超大规模 GPU 集群负责前沿模型训练,Mac 等本地系统负责代理 rollout、测试、隐私敏感型推理和部分端点部署。真正的变化在于,AI 的“服务器”正在不再只有一种形态。