范式智能（Phancy Group／4Paradigm）与睿思智联于 2026 年 10 月 16 日发布 ModelSphere。这是一款面向企业的开源 AI 部署平台，目标是把算力资源管理、模型部署和运行优化放到同一套系统中，降低大模型上线与运维的门槛。12

这次发布聚焦产品与基础设施，并非融资或业绩公告。对企业技术团队来说，值得关注的重点是：它希望提供一层统一的部署和运维工具，帮助团队管理算力、提供模型服务并调整运行效率。

一个统一管理模型服务的平台

ModelSphere 的项目仓库位于 GitHub：modelsphere/modelsphere，仓库采用 Apache 2.0 许可证。1133 发布资料称平台面向企业免费开源。12

项目仓库介绍了模型服务架构，包括 Prefill／Decode 分离部署，以及共享的 L3 KV 缓存池。简单来说，这些设计针对的是模型推理服务中的计算与缓存管理，目标是提高资源利用效率。11

发布资料还列出图形化部署界面、弹性扩缩容、高可用负载均衡和服务故障后自动恢复等生产环境相关能力。238 这些是发布方对产品功能的描述；现有材料没有提供对所有功能的独立测试结果。

面向多种加速芯片与模型

发布资料称，ModelSphere 融合 EngineX 推理引擎，可统一管理华为昇腾、天数智芯、摩尔线程和海光 DCU 等算力资源。2 项目仓库也将跨多种加速器的统一服务能力列为平台特点。11

团队还表示，平台已针对 DeepSeek-V4、V4-Flash、通义千问（Qwen）、Kimi、MiniMax 和 GLM 等模型进行适配与优化，并希望在新模型发布后帮助企业更快部署。26 这属于发布方列出的支持和适配情况，并不等于每一种模型与每一种芯片的组合都已得到独立验证，或已能直接用于所有生产环境。

“吞吐量提升 285%”该怎么理解？

发布方称，ModelSphere 的峰值吞吐量较基准最高提升约 285%，并将其概括为接近基准的 4 倍。1 按数学关系计算，提升 285% 相当于达到原基准的 3.85 倍，因此“接近 4 倍”是对同一说法的近似表达。

但现有报道没有提供足够的基准测试细节，也没有显示该结果经过独立复现。实际评估这类数字，还需要知道测试使用的硬件、模型、工作负载、基准配置和延迟限制。因此，285% 应视为发布方报告的性能数据，而不是适用于所有模型、芯片和业务场景的保证。

关于 vLLM、SGLang 的边界

目前提供的材料不足以确认 ModelSphere 与 vLLM、SGLang 之间的具体分工，也无法证实它是否按某种固定方式将底层算子和批处理交给单机推理引擎、再由自身负责集群路由、跨副本共享 KV 缓存或按服务目标自动扩缩容。不能仅凭“统一部署平台”的定位，就推断这些集成细节已经得到验证。

较稳妥的结论是：ModelSphere 试图为企业大模型部署和运维提供统一基础设施层，覆盖算力管理、模型服务与运行调优。12 它的实际价值，还要看企业自身的硬件、模型和工作负载，以及相关功能在目标环境中的测试结果。

范式智能（Phancy Group／4Paradigm）与睿思智联于 2026 年 10 月 16 日发布 ModelSphere。这是一款面向企业的开源 AI 部署平台，目标是把算力资源管理、模型部署和运行优化放到同一套系统中，降低大模型上线与运维的门槛。12

这次发布聚焦产品与基础设施，并非融资或业绩公告。对企业技术团队来说，值得关注的重点是：它希望提供一层统一的部署和运维工具，帮助团队管理算力、提供模型服务并调整运行效率。

一个统一管理模型服务的平台

ModelSphere 的项目仓库位于 GitHub：modelsphere/modelsphere，仓库采用 Apache 2.0 许可证。1133 发布资料称平台面向企业免费开源。12

项目仓库介绍了模型服务架构，包括 Prefill／Decode 分离部署，以及共享的 L3 KV 缓存池。简单来说，这些设计针对的是模型推理服务中的计算与缓存管理，目标是提高资源利用效率。11

发布资料还列出图形化部署界面、弹性扩缩容、高可用负载均衡和服务故障后自动恢复等生产环境相关能力。238 这些是发布方对产品功能的描述；现有材料没有提供对所有功能的独立测试结果。

面向多种加速芯片与模型

发布资料称，ModelSphere 融合 EngineX 推理引擎，可统一管理华为昇腾、天数智芯、摩尔线程和海光 DCU 等算力资源。2 项目仓库也将跨多种加速器的统一服务能力列为平台特点。11

团队还表示，平台已针对 DeepSeek-V4、V4-Flash、通义千问（Qwen）、Kimi、MiniMax 和 GLM 等模型进行适配与优化，并希望在新模型发布后帮助企业更快部署。26 这属于发布方列出的支持和适配情况，并不等于每一种模型与每一种芯片的组合都已得到独立验证，或已能直接用于所有生产环境。

“吞吐量提升 285%”该怎么理解？

发布方称，ModelSphere 的峰值吞吐量较基准最高提升约 285%，并将其概括为接近基准的 4 倍。1 按数学关系计算，提升 285% 相当于达到原基准的 3.85 倍，因此“接近 4 倍”是对同一说法的近似表达。

但现有报道没有提供足够的基准测试细节，也没有显示该结果经过独立复现。实际评估这类数字，还需要知道测试使用的硬件、模型、工作负载、基准配置和延迟限制。因此，285% 应视为发布方报告的性能数据，而不是适用于所有模型、芯片和业务场景的保证。

关于 vLLM、SGLang 的边界

目前提供的材料不足以确认 ModelSphere 与 vLLM、SGLang 之间的具体分工，也无法证实它是否按某种固定方式将底层算子和批处理交给单机推理引擎、再由自身负责集群路由、跨副本共享 KV 缓存或按服务目标自动扩缩容。不能仅凭“统一部署平台”的定位，就推断这些集成细节已经得到验证。

较稳妥的结论是：ModelSphere 试图为企业大模型部署和运维提供统一基础设施层，覆盖算力管理、模型服务与运行调优。12 它的实际价值，还要看企业自身的硬件、模型和工作负载，以及相关功能在目标环境中的测试结果。