딥시크가 2026년 10월 20일 공개한 DeepInfer는 회사가 자사 서비스에 사용한다고 밝힌 추론 프레임워크다. 함께 공개된 deepseek-recipe는 요청을 모델 입력으로 바꾸고, 모델 출력을 다시 응답으로 처리하는 구성요소다. 기업이 딥시크 모델을 자체 인프라에서 돌릴 선택지는 넓어졌지만, 이번 공개만으로 딥시크의 호스팅 API를 그대로 대체할 완성형 서비스가 생긴 것은 아니다.
3
4
33
공개된 도구는 어떤 역할을 하나
추론은 학습이 끝난 모델에 입력을 주고 답변을 생성하는 과정이다. DeepInfer는 이 과정을 실행하는 프레임워크로, 현재는 DeepSeek-V4.1-Flash를 지원한다. 공개된 코드는 Apache 2.0 라이선스다.
4
5
딥시크가 내세운 기능에는 분산 추론, 최적화 커널, 추측 디코딩, 비동기 스케줄링, 배치 불변 추론, 구조화된 출력 등이 포함된다.
33
34 구조화된 출력은 모델 답변이 JSON 스키마나 정규식, EBNF 문법 등 지정한 형식에 맞도록 제약하는 기능이다.
29
30
함께 공개된 deepseek-recipe는 요청과 응답을 처리하는 보조 계층이다. 익숙한 API 요청 형식을 지원한다는 설명이 있지만, 이것만으로 딥시크의 호스팅 API와 모든 동작이 완전히 호환된다고 볼 수는 없다.
3
9
지원 모델과 하드웨어는 제한적
공개 시점에 명시된 모델은 DeepSeek-V4.1-Flash 하나다. 하드웨어는 NVIDIA SM100 GPU와 화웨이 Ascend 950 NPU가 목록에 올라 있다.
3
5 따라서 다른 세대의 NVIDIA GPU나 화웨이 가속기에서도 동작한다고 확대 해석해서는 안 된다. 제공된 자료로는 개별 보드 모델의 호환성도 확인되지 않는다.
성능·비용 절감은 기대 효과와 검증 결과를 구분해야
딥시크는 DeepInfer를 고성능 프레임워크로 소개한다. 블룸버그는 이 소프트웨어가 연산 자원을 더 효율적으로 쓰도록 해 기업이 딥시크 모델을 더 저렴하고 쉽게 운영할 가능성이 있다고 전했다.
45 다만 이는 기대되는 이점이지, 모든 환경에서 비용이나 에너지 사용량, 지연 시간 또는 처리량이 개선된다는 보장은 아니다.
클러스터 하나가 하루 155조 토큰을 처리한다는 수치도 보도에 등장했다. 그러나 이용 가능한 보도만으로는 이 수치를 독립적으로 검증하거나 다른 시스템과 직접 비교하기 어렵다.
1
5 더넥스트웹 역시 딥시크가 제시한 속도 수치가 외부에서 독립적으로 시험되지 않았다고 전했다.
49
온라인 서비스로 만들려면 추가 작업이 필요하다
공개된 패키지가 제공하는 것은 오프라인 추론이다. 배포 문서 관련 보도에 따르면, 서비스 운영에 필요한 KV 캐시 관리, 프리필과 토큰 생성을 분리하는 구성(prefill/decode disaggregation), 복제본 간 부하 분산도 포함되지 않았다.
4
7
따라서 여러 사용자가 실시간으로 접속하는 서비스를 만들려는 팀은 추가 서빙 인프라를 직접 마련해야 한다. 준비된 호스팅 서비스를 찾는 조직보다는 추론 시스템을 설계·운영할 경험이 있는 인프라 팀에 더 적합한 공개다. 자체 운영이 비용을 줄일지는 하드웨어와 운영 인력, 안정성 요구사항에 따라 달라지며, 이번 공개만으로 비용 절감 규모를 단정할 수는 없다.
핵심은 ‘자체 구축의 재료’가 늘었다는 것
DeepInfer는 DeepSeek-V4.1-Flash를 위한 추론 엔진을 공개하고, deepseek-recipe는 요청·응답 처리 계층을 보탠다. 자체 운영을 검토하는 팀에는 유용한 구성요소가 추가됐지만, 공개된 최적화 기능과 독립적으로 측정된 성능은 구분해서 봐야 한다. 오프라인 추론을 안정적인 온라인 서비스로 전환하는 데 필요한 작업도 별도로 고려해야 한다.
3
4
33
49