云计算初创公司Modal于2026年10月19日表示,计划在其Sandboxes服务中采用英伟达Vera CPU,为AI代理提供运行环境。这将为Modal此前主要使用英特尔和AMD处理器的工作负载引入Arm架构选项。
1
最受关注的数字是:在并发负载测试中,Vera的任务吞吐量最高达到一台同等级英特尔Granite Rapids x86服务器的两倍。但这是Modal公布的特定测试结果,并不意味着每个AI代理任务都能快一倍。
7
“吞吐量翻倍”具体指什么?
Modal的 Agentless Agent Bench 基准测试包含50项Terminal-Bench参考解答及其验证程序。Modal称,测试去除了网络调用,并在预热的Docker容器中并发运行任务,以集中考察编译、文件搜索、Git操作和设备模拟等CPU工作。
在这些并发测试中,Modal报告称,Vera的任务吞吐量最高可达同等级英特尔Granite Rapids x86机器的两倍。 吞吐量衡量的是一段时间内一组任务总共完成多少工作;它不同于单个任务的运行速度。负载较轻时,Vera在一些测试中更快,但优势并不稳定,也不总是明显。
7
这项结果仅适用于Modal选择的测试和工作负载。测试由Modal公布,现有报道指出,结果尚未经过独立验证。
7 因此,不能据此推断其他AI工作负载或部署环境也会获得同样提升。
内存带宽或有助于支撑并发运行
沙箱工作负载可能涉及大量容器同时执行CPU任务。Modal认为,Vera的内存带宽有助于支持更多容器并行运行。 英伟达公布的规格显示,Vera的LPDDR5X内存带宽最高为1.2 TB/s。
这为Vera持续处理并发任务提供了一种技术解释,但单凭这一点无法独立证明它就是Modal测试成绩提升的原因。已测得的结论仍是:在Modal选定的测试中,公司报告了更高的吞吐量。
Vera是什么,Modal还要做哪些适配?
Vera是基于Arm架构的CPU,与英伟达Vera Rubin平台相关,也有独立CPU服务器版本。 对Modal而言,引入Vera意味着在原有英特尔和AMD处理器之外,支持另一种CPU架构。
1
Modal表示,为支持这种不同的CPU架构,公司需要调整基础设施和镜像构建系统。 这也是实际部署过程中不可忽视的一环:基准测试表现出色,并不意味着已有的软件镜像和系统无需适配就能直接兼容。
增加一种选择,不是全面更换供应商
Modal计划继续与英特尔和AMD保持合作,同时增加Vera。
13 因此,这项计划指向的是多种处理器并存,而非全面转向英伟达。某一类并发工作负载上的优势,也不能证明单一处理器适合所有任务;现有报道没有具体说明Modal将如何在不同CPU之间分配工作负载。
7
13
对英伟达来说,Modal这笔CPU业务意味着,它在一家此前依赖英特尔和AMD为AI代理提供算力的云服务商那里打开了新局面。
1 但眼下可以确认的重点仍较明确:Modal计划引入Vera,公司测试显示其在特定并发负载下吞吐量有所提升,而支持新架构仍需完成基础设施适配。
1