Phancy Group(4Paradigm)과 RiseUnion은 2026년 10월 16일 오픈소스 AI 플랫폼 ModelSphere를 발표했다. 기업이 대규모 AI 모델을 배포하고 운영할 때 필요한 컴퓨팅 자원 관리, 모델 서빙, 실행 단계 최적화를 한 시스템으로 묶는 것이 핵심이다. 이번 발표는 투자 유치나 실적 발표가 아니라 기업용 AI 인프라 제품 공개에 해당한다.
1
2
ModelSphere는 무엇을 하려는 플랫폼인가
ModelSphere의 목표는 컴퓨팅 자원을 실제 AI 서비스로 연결하는 과정을 단순화하는 것이다. 회사는 배포와 운영을 한 플랫폼에서 처리해 기업의 도입 부담을 낮추겠다고 설명했으며, 기업 이용자를 대상으로 무료 오픈소스 형태로 제공한다고 밝혔다.
1
2
배포용 저장소는 GitHub의 modelsphere/modelsphere다. 저장소는 프리필(prefill)과 디코드(decode)를 분리하는 서빙 구조, 여러 인스턴스가 캐시를 공유할 수 있도록 돕는 통합 L3 KV 캐시 풀을 소개한다. 저장소에는 Apache 2.0 라이선스도 포함돼 있다.
11
33
출시 자료는 그래픽 기반 배포 화면, 탄력적 확장, 고가용성 로드밸런싱, 서비스 복구 기능 등을 운영 환경을 위한 기능으로 제시한다. 다만 이는 회사가 설명한 제품 기능이며, 제공된 자료에 해당 기능을 독립적으로 시험한 결과가 포함된 것은 아니다.
2
38
여러 종류의 가속기와 모델을 지원한다는 설명
발표 자료에 따르면 ModelSphere는 EngineX 추론 엔진을 바탕으로 Huawei Ascend, Iluvatar, Moore Threads, Hygon DCU 등 여러 가속기 자원을 함께 관리하는 것을 목표로 한다. 프로젝트 저장소도 다양한 가속기에서 공통으로 사용할 수 있는 서빙 스택을 설명하고 있다.
2
11
회사는 DeepSeek-V4와 V4-Flash, Qwen, Kimi, MiniMax, GLM에 맞춰 플랫폼을 조정했다고 밝혔다. 새 모델이 나왔을 때 빠르게 배포할 수 있도록 지원하겠다는 취지다. 다만 이는 발표된 지원·최적화 내용이며, 나열된 모든 모델과 가속기 조합이 실제 운영 환경에서 검증됐다는 뜻은 아니다.
26
‘처리량 최대 285% 향상’은 어떻게 봐야 할까
출시 발표는 ModelSphere의 최대 처리량이 기준 대비 최대 285% 높아진다고 주장하며, 이를 기준 성능의 약 4배에 가깝다고 표현했다. 기준보다 285% 증가했다는 계산은 기준의 3.85배이므로, ‘약 4배’는 같은 수치를 반올림해 설명한 것이다.
1
하지만 공개된 자료에는 이 결과가 어떤 하드웨어와 모델, 작업 조건에서 나왔는지 판단할 세부 벤치마크 정보가 충분하지 않다. 독립적으로 재현됐다는 근거도 확인하기 어렵다. 따라서 285%는 회사가 제시한 성능 주장으로 받아들이는 것이 적절하며, 모든 환경에서 같은 향상을 기대할 수 있다는 보장으로 해석해서는 안 된다. 제대로 비교하려면 하드웨어와 모델, 작업량, 기준 설정, 지연시간 조건 등을 함께 확인해야 한다.
발표로 확인되는 점과 아직 남은 질문
현재 자료에서 가장 분명하게 확인되는 것은 ModelSphere의 지향점이다. 기업의 모델 배포와 운영을 위한 공통 기반으로 컴퓨팅 자원 관리, 모델 서빙, 실행 최적화를 한데 묶겠다는 것이다. 오픈소스 제공 방식과 저장소에 명시된 일부 서빙 기능, 회사가 발표한 하드웨어·확장 관련 기능도 확인할 수 있다.
1
2
11
반면 광고된 모든 기능이 독립 검증됐는지, 어떤 기능이 실제 운영 환경에서 어느 정도 성숙했는지는 자료만으로 단정하기 어렵다. vLLM이나 SGLang 같은 추론 엔진과 ModelSphere가 구체적으로 역할을 어떻게 나누는지도 제공된 내용에서 상세히 확인되지 않는다. 기업 인프라의 복잡성을 줄이려는 플랫폼이라는 점은 분명하지만, 도입을 검토하는 조직이라면 실제 지원 조합과 성능 측정 조건을 별도로 살펴볼 필요가 있다.