답변게시됨23 소스
32개 층을 56번 계산하는 모델, SenseNova-Loop-9B-Preview의 설계
2026년 10월 30일 공개된 SenseNova Loop 9B Preview는 서로 다른 디코더 층 32개 중 중간 24개를 공유 가중치로 두 번 실행해, 한 번의 순전파에서 총 56회 층 계산을 수행한다.[7][45] 모델 카드에는 전체 파라미터 약 90억 개, ‘추론 파라미터’ 약 146억 개로 기재돼 있다. 두 수치가 실제 저장 가중치 수나 실행 속도를 뜻하는 것은 아니다.[6] 센스타임은 일부 벤치마크에서 270억 파라미터급 모델과 견줄 성능을 주장하지만, 기술 보고서는 아직 공개되지 않아 결과를 일반적인 성능 보장으로 보기는 어렵다.[1][16][36]
게시자GPT-6 Luna로 편집GPT Image 2로 이미지 생성
연구 답변
주요 시사점
- 2026년 10월 30일 공개된 SenseNova Loop 9B Preview는 서로 다른 디코더 층 32개 중 중간 24개를 공유 가중치로 두 번 실행해, 한 번의 순전파에서 총 56회 층 계산을 수행한다.[7][45]
- 모델 카드에는 전체 파라미터 약 90억 개, ‘추론 파라미터’ 약 146억 개로 기재돼 있다. 두 수치가 실제 저장 가중치 수나 실행 속도를 뜻하는 것은 아니다.[6]
- 센스타임은 일부 벤치마크에서 270억 파라미터급 모델과 견줄 성능을 주장하지만, 기술 보고서는 아직 공개되지 않아 결과를 일반적인 성능 보장으로 보기는 어렵다.[1][16][36]
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What is SenseTime’s SenseNova-Loop-9B-Preview, open-sourced on October 30, 2026, and how do its Apache 2.0 weights on Hugging Face and code. Article summary: SenseNova-Loop-9B-Preview is SenseTime’s open-weight multimodal model for long-context and agent workflows, released on October 30, 2026, with Apache 2.0 weights on Hugging Face and a public GitHub repository.[6][12][7][. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
센스타임의 SenseNova-Loop-9B-Preview는 긴 문맥과 에이전트형 작업을 겨냥한 오픈 웨이트 멀티모달 모델이다. 핵심은 디코더의 중간 24개 층을 복제하지 않고 같은 가중치로 두 차례 실행하는 것. 그 결과 서로 다른 층은 32개지만, 한 번의 순전파에서 층 계산은 56회 이뤄진다.7
45
센스타임은 2026년 10월 30일 모델을 공개했다. 가중치는 Hugging Face에서, 프로젝트 코드는 GitHub에서 확인할 수 있으며 프로젝트에는 Apache 2.0 라이선스가 적용돼 있다.7
16
25 주목할 만한 설계지만, 대형 모델과 비슷한 성능을 낸다는 평가는 회사가 제시한 벤치마크 결과로 이해할 필요가 있다. 모든 작업에서 같은 성능을 보장한다는 뜻은 아니다.
32개 층이 어떻게 56회 계산으로 이어지나
디코더의 앞쪽 4개 층은 한 번, 4번부터 27번까지의 중간 24개 층은 공유 가중치로 두 번, 마지막 4개 층은 한 번 실행된다. 따라서 4 + 24×2 + 4 = 56회 계산이 된다.45
여기서 구분할 점은 서로 다른 층의 수와 층이 실행되는 횟수다. 중간 블록을 재사용하면 해당 블록의 가중치를 한 벌 더 저장하지 않고도 계산 경로를 늘릴 수 있다. 다만 실행 횟수가 많아졌다고 해서 실제 추론이 더 빠르거나 자원 소모가 적다고 단정할 수는 없다. 속도와 메모리 사용량은 구현 방식과 배포 환경에 따라 달라진다.
모델 카드에는 전체 파라미터가 약 90억 개, ‘추론 파라미터’가 약 146억 개라고 적혀 있다.6 서로 다른 기준으로 표시된 수치이므로, 146억 개의 독립적인 가중치를 저장한다거나 통상적인 146억 파라미터 모델과 동등한 성능을 낸다는 의미로 읽어서는 안 된다.
mHC와 어텐션 구조의 역할
반복 실행 구간에는 **두 개의 잔차 스트림을 사용하는 mHC(manifold-constrained hyper-connections)**가 적용된다. 두 스트림은 디코더 계산을 거치며 정보를 전달하고, 학습된 매핑이 각 스트림에서 정보를 읽고 섞는 방식과 층의 출력을 반영하는 과정을 조절한다. 프로젝트 문서는 스트림 혼합 매핑에 Sinkhorn 정규화를 적용하며, 스트림 두 개와 정규화 반복 20회를 명시한다.8
20
모델 문서에는 어텐션 구조를 ‘선형 어텐션 3개 층 다음에 전체 어텐션 1개 층’을 두는 방식으로 번갈아 구성한다고도 나와 있다.32 이는 아키텍처 설명이지, 모든 작업에서 속도나 성능이 향상된다는 증거는 아니다.
입력과 긴 문맥, 겨냥하는 작업
이 모델은 텍스트와 이미지를 입력받아 텍스트를 생성한다. 센스타임은 문서 이해, 코딩, 외부 도구와의 상호작용이 필요한 작업을 활용 사례로 제시한다.7 문서화된 학습 설정의 최대 시퀀스 길이는 262,144토큰이며, 멀티모달 입력과 감독된 작업 궤적을 포함한다.
6 TechNode 보도는 학습 데이터 구성에 텍스트, 이미지, 코드, 도구 사용 예시가 포함된다고 전했다.
30
다만 최대 학습 시퀀스 길이가 곧 그 길이의 입력을 모두 안정적으로 검색하거나 추론할 수 있다는 뜻은 아니다. 실제 긴 문맥 처리 능력은 사용하려는 작업을 기준으로 확인해야 한다.
벤치마크 주장은 어디까지 볼 수 있나
센스타임은 이 모델이 대략 270억 파라미터급 성능에 도달했다고 홍보하며, WorkBuddy Bench, RaccoonPPT Bench, AutomationBench에서 Qwen3.5-27B와 비교한 결과를 강조했다.16
36 이는 특정 평가에서 회사가 보고한 결과다. 모든 작업에서 두 모델이 동등하다거나 더 뛰어나다는 근거로 확대 해석할 수는 없다. 공개된 자료만으로는 비교 조건과 평가 세부 내용을 독립적으로 검토하기 어렵다.
모델 카드에는 BIRD-Dev, WorkBuddy Bench, AIDABench, TeamBench, Terminal Bench 2.1, T³-Banking, AutomationBench, RaccoonPPTBench 등의 평가 결과가 나열돼 있다.17 벤치마크 이름이 목록에 있다는 것만으로 우세한 결과를 냈다고 볼 수는 없으며, 점수가 산출된 방식도 별도로 살펴야 한다. 기술 보고서 항목은 아직 ‘TBD’로 표시돼 있어, 평가 방법과 결과를 더 자세히 검토할 자료도 공개되지 않은 상태다.
1
추론 가속 기능은 어디까지 공개됐나
프로젝트 문서는 추론 가속을 위한 MTP(다중 토큰 예측) 지원을 안내한다.6
20 이는 해당 방법을 지원한다는 설명이지, 실제 속도 향상이 측정됐다는 뜻은 아니다. 공개된 자료에는 하드웨어와 작업 조건별 지연 시간이나 처리량 개선 수치가 제시돼 있지 않다.
Dspark와 Dflash2는 문서상 개발 중이며 학습이 진행되고 있다. 관련 학습 안내도 공개돼 있지만,5
20 안내의 존재만으로 바로 사용할 수 있는 초안 모델 체크포인트가 제공된다거나 속도 향상이 독립적으로 검증됐다고 보기는 어렵다.
핵심은 ‘저장 효율’과 ‘실행 효율’을 구분하는 것
SenseNova-Loop-9B-Preview는 중간 층의 가중치를 공유해, 가중치 복제 없이 계산 깊이를 늘리는 설계를 보여준다. 하지만 파라미터 수와 긴 문맥 학습 설정, 회사가 발표한 벤치마크 결과는 실제 추론 비용이나 독립적으로 확인된 성능과 구분해서 봐야 한다. 도입을 검토한다면 사용할 작업에서의 품질뿐 아니라 메모리 사용량과 지연 시간도 직접 측정하는 것이 중요하다.
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
사람들은 또한 묻습니다.
"32개 층을 56번 계산하는 모델, SenseNova-Loop-9B-Preview의 설계"에 대한 짧은 대답은 무엇입니까?
2026년 10월 30일 공개된 SenseNova Loop 9B Preview는 서로 다른 디코더 층 32개 중 중간 24개를 공유 가중치로 두 번 실행해, 한 번의 순전파에서 총 56회 층 계산을 수행한다.[7][45]
먼저 검증할 핵심 포인트는 무엇인가요?
2026년 10월 30일 공개된 SenseNova Loop 9B Preview는 서로 다른 디코더 층 32개 중 중간 24개를 공유 가중치로 두 번 실행해, 한 번의 순전파에서 총 56회 층 계산을 수행한다.[7][45] 모델 카드에는 전체 파라미터 약 90억 개, ‘추론 파라미터’ 약 146억 개로 기재돼 있다. 두 수치가 실제 저장 가중치 수나 실행 속도를 뜻하는 것은 아니다.[6]
실무에서는 다음으로 무엇을 해야 합니까?
센스타임은 일부 벤치마크에서 270억 파라미터급 모델과 견줄 성능을 주장하지만, 기술 보고서는 아직 공개되지 않아 결과를 일반적인 성능 보장으로 보기는 어렵다.[1][16][36]