闲置游戏电脑，能成为可靠的 AI 推理网络吗？

把一台闲置的游戏电脑租给 AI 公司，听起来像是“AI 算力版 Airbnb”：用户贡献空闲的 GPU 或 CPU，平台负责接单、调度和验证计算结果，再向机主支付报酬。Far Labs 和 Evolving Edge 正在探索这一路线，重点不是训练前沿大模型，而是运行规模较小、主要为开源的模型推理任务——也就是利用已经训练好的模型回答请求。26

这个想法的吸引力在于，全球大量消费级硬件并没有被充分利用。但真正的难题并不是“家用显卡能不能运行一个开源模型”，而是成千上万台型号不同、随时可能离线的电脑，能否在安全、快速、可预测且对客户和机主都划算的前提下，提供稳定服务。

分布式推理网络如何运行

典型系统由三部分组成：客户请求、负责选择运行节点的调度层，以及安装在主机电脑上的节点软件。平台需要根据模型大小、显存、延迟、在线时间和主机资源限制，把任务分配给合适的机器。

Far Labs：实时路由与模型拆分

FAR AI 将自己描述为面向交互式工作负载的分布式推理层，连接日常使用的 GPU，并实时把请求路由到合适的节点。其目标是让交互式 AI 不必完全依赖集中式集群。1112

据现有报道，Far Labs 的调度器还计划在单个节点无法容纳完整模型时，将模型任务拆分到多台机器上。这样可以扩大可用硬件范围，但也会增加节点之间的协调和通信。每增加一次数据传递，都可能影响响应速度和可靠性。

Far Labs 曾讨论过面向交互式推理的未来“低于 100 毫秒”目标。不过，这只是目标，并不等于已经实现的端到端成绩。真实延迟还要包括请求路由、排队、模型加载、节点间通信以及结果返回等环节。

Evolving Edge：基于 Ray 的运行时

Evolving Edge 被描述为使用 Ray——一种分布式计算框架——在参与计算的电脑之间分配模型服务任务。Ray 可以把工作负载表示为受管理的执行单元，并将其调度到集群中的不同节点。56

但采用 Ray 本身并不能解决算力市场的全部问题。平台仍需要发现故障或过载节点，高效放置模型，适配不同硬件，并决定何时重试或复制任务。

家用电脑如何运行第三方任务而不失控？

让消费级电脑执行第三方代码或处理第三方数据，比安装普通游戏或桌面应用更复杂。可信的主机系统至少需要限制任务能够访问的内容，以及它可以消耗的计算资源。

可能采用的控制措施包括：

• 隔离或沙箱化的执行环境；
• 对传输中的数据进行加密；
• 限制 CPU、GPU、内存、存储和网络资源；
• 限制任务持续时间，并支持自动终止；
• 让主机客户端具备可检查、可更新的机制。

Ray 的文档显示，其沙箱架构可以为不受信任的代码和智能体任务提供轻量级、内核隔离的运行环境。实验性实现使用了 gVisor 和 OCI 容器环境，Ray 管理的执行单元则可以负责沙箱资源的调度与控制。17182021

这些能力说明，相关安全机制已经存在于更广泛的软件栈中，但并不能证明 Far Labs 或 Evolving Edge 已在生产环境部署了同样的防护措施，也不能证明这些配置在消费级操作系统上足够安全，更不能证明线上节点运行的确实是机主检查过的代码。

开放源代码的节点软件可以提高透明度，让主机检查资源限制和数据访问行为。但开源并不是完整的安全保证。平台仍需要可复现构建、签名更新、清晰的权限设计、漏洞响应机制，并提供证据证明线上部署版本与公开源代码一致。

与 Salad 相比，谁更接近可用的市场？

Salad 是最直接的参照对象，因为它已经运营一个连接消费级 GPU 与算力需求方的市场。Salad 的模式不依赖区块链或代币协调层，而是由中心化平台撮合机主和企业客户。13

Far Labs 更强调实时路由和分布式推理，包括把模型任务拆分到多个节点的可能性；Evolving Edge 则突出基于 Ray 的分布式运行时和开放测试版本。Salad 的优势在于已经积累了消费级 GPU 市场的运营经验，而后来者还需要证明自己能在节点可用性、客户需求、技术支持和主机收益方面达到相近水平。

关键区别在于：去中心化是一种架构选择，并不自动等于高性能。一个拥有大量参与电脑的网络，仍可能由中心化团队运营，也可能不稳定或无法盈利。

最大的悬念：机主到底能不能赚到钱？

机主收到的毛收入只是计算回报的起点。电费、发热与散热、网络服务、维护、硬件折旧，以及电脑无法用于个人用途的机会成本，都必须计入实际收益。

“注册接入”也不等于“得到充分利用”。一块连接到网络却很少接到付费任务的显卡，可能收入很低，同时仍会消耗电力，增加管理成本和硬件损耗。如果平台不公开支付公式、实际利用率、任务时长和功耗估算，潜在主机就无法计算可信的投资回报。

持续运行推理任务还可能带来更高的温度、更频繁的风扇运转和更大的显存使用压力。是否值得参与，取决于显卡型号、当地电价、在线时长、任务强度和二手市场价值。现有材料并不能证明这是一种稳定的“被动收入”，也不能证明普通机主一定能够盈利。

延迟和成本宣传，必须用生产数据说话

消费级分布式硬件可能具备成本优势：设备已经存在，部分机主也愿意把闲置容量变现。但网络仍要承担调度、带宽、监控、失败任务、任务复制、客户支持、安全防护和主机补偿等成本。

延迟问题同样如此。在特定 Kubernetes 部署中，沙箱启动速度很快，并不等于通过家庭宽带网络完成一次端到端推理也能低于 100 毫秒。Ray 文档中的“低于 100 毫秒”指的是特定环境下的沙箱启动时间，并非面向互联网规模消费级节点网络的延迟保证。17

此外，分布式 AI 系统一般仍依赖链下计算。由于机器学习任务需要大量计算和数据，通用区块链并不适合直接在链上运行模型；区块链通常更多承担协调或支付层的角色。1

大规模节点故障时，网络能否撑住？

如果拥有足够的备用容量，并能在节点消失后迅速迁移任务，分布式网络的抗故障能力可能强于单台机器。与 Ray 相关的研究描述了在节点被移除时重建丢失的任务依赖，并在节点恢复后找回原有吞吐量的过程。30

但这种韧性并非自动产生。生产级推理网络需要足够的冗余、模型复制、智能放置和快速故障检测。互联网服务商中断、区域停电、软件更新出错，或主机因收益下降而集体退出，都可能造成相关性故障，让大量节点同时离线。

模型拆分也存在权衡。把一个模型分布到多台电脑上，可能让原本无法独立运行该模型的硬件发挥作用；但与此同时，网络流量和故障点也会增加。最终效果取决于具体工作负载和平台的调度策略。

GPU 机主参与前，至少要核实这些问题

在平台发布更充分的证据之前，潜在主机应把这类服务视为收益浮动的实验性项目，而不是稳定的被动收入来源。安装节点软件前，建议重点查看：

1. 清晰的支付公式和历史付款记录；
2. 实际任务利用率，而不只是注册机器数量；
3. 真实的电费和散热成本估算；
4. 明确记录的权限范围和资源限制；
5. 独立安全测试或审计结果；
6. 实测延迟、可用性和失败任务率；
7. 简单易用的暂停或移除节点流程。

Far Labs 和 Evolving Edge 正在验证一个有吸引力的想法：用分散在各地的消费级硬件，补充集中式 AI 算力。对于部分较小模型和特定工作负载，这项技术或许可行。但在这些平台证明网络足够安全、响应迅速、能够承受故障，并且拥有足够高的任务利用率来覆盖主机真实成本之前，其更广泛的商业模式仍有待观察。