메타의 '뮤즈 글리머(Muse Glimmer)': 콘슈머 GPU 하나로 돌아가는 30B 오픈웨이트 AI 모델

전체 정밀도 모델은 약 55GB의 VRAM이 필요하지만, 메타는 **4비트 양자화(quantization)**를 적용해 모델 크기를 20GB 미만으로 압축했다 .

양자화 VRAM 변형

메타는 두 가지 양자화 릴리스 구성을 제공하며, 모두 K-Quant 방식으로 15개 벤치마크에서 측정되었다 :

• K-Quant-Dynamic — 약 32GB VRAM 목표, 전체 정밀도 대비 평균 0.2% 성능 저하
• K-Quant-17GB — 약 24GB VRAM 목표(모델 20GB 미만), 평균 1.0% 성능 저하

참고로, 독립 연구소는 아직 이 전체 성능 저하 수치를 재현하지 못했다 .

DFlash 추측 디코딩 & 로컬 처리 속도

30B 모델을 로컬에서 구동할 때 발생하는 지연 문제를 해결하기 위해, 메타는 뮤즈 글리머와 함께 DFlash를 제공한다. 이는 5개 레이어로 구성된 소형 추측 디코딩 드래프터로, 한 번에 16개 토큰 블록을 제안하면 메인 모델이 이를 병렬로 검증하는 방식이다 .

메타가 보고한 17GB 양자화 모델의 배치 사이즈 1, 그리디 디코딩 기준 처리 속도는 다음과 같다 :

SGLang은 별도 출시일 측정에서 동일한 RTX 5090 하드웨어에서 초당 236.4 토큰을 기록했다 . 초기 독립 테스트(예: llama.cpp 기반 RTX 5090)에서는 약 137 tok/s로 더 낮은 수치가 보고되기도 하는데, 이는 233+ tok/s 수치가 특정 최적화를 필요로 한다는 점을 시사한다 .

에이전트 기능

뮤즈 글리머는 단순한 챗봇이 아니다. 로컬 AI 에이전트로 설계되어 자율적인 워크플로를 수행한다 . 메타는 이 모델이 스스로 계획을 세우고, 도구를 호출하며, 자체 오류를 복구할 수 있도록 특별히 튜닝했다 . 또한 MCP(Model Context Protocol)를 기본 지원하며, 주요 에이전트 프레임워크와의 통합도 지원한다 .

주요 활용 사례로는 함수 호출, 로컬 코딩, 장기 도구 사용 세션, 'LLM-as-a-judge' 평가, 문서 분석, 개인 비서 등이 꼽힌다 .

벤치마크 성능 비교

메타는 경쟁 모델인 구글의 젬마 4 31B 및 알리바바의 큐원 3.6 27B(모두 추론/사고 모드)와의 직접 비교 결과를 발표했다 :

뮤즈 글리머는 MCP Atlas(75.5 대 62.5), DeepSearch QA(74.6 대 71.1) 등 대부분의 에이전트 벤치마크에서 선두를 차지했다 . AIME 2026에서 94.7점을 기록하며 경쟁 모델을 모두 앞섰다 .

주의할 점: 한 서드파티 분석에 따르면 글리머는 터미널벤치 2.1(51.7 대 60.7)과 OSWorld-Verified(65.9 대 75.6)에서 큐원 3.6 27B에 뒤쳐지며, 특정 OS 수준 자동화 작업을 거부하는 경향이 있다 .

뮤즈 스파크로부터의 증류

뮤즈 글리머는 메타의 더 크고 비공개 프론티어 모델인 **뮤즈 스파크(Muse Spark)**로부터 사전 훈련 중 로짓 증류 방식을 통해 증류되었으며, 이후 지도 미세 조정과 RLHF 과정을 거쳤다 . 뮤즈 스파크 자체는 여전히 비공개 상태로, 호스팅 API로만 이용 가능하다. 즉, 글리머는 로컬 배포를 원하는 사용자를 위한 오픈웨이트 증류 버전인 셈이다 . 메타는 향후 뮤즈 스파크를 오픈할 가능성도 시사했다 .

전략적 맥락: 모두를 위한 슈퍼인텔리전스

뮤즈 글리머는 마크 저커버그의 '개인용 슈퍼인텔리전스(personal superintelligence)' 비전을 가장 명확하게 보여주는 결과물이다. 이는 강력한 AI를 클라우드 비용, 구독료, 데이터 유출 걱정 없이 개인 기기에서 로컬로 실행하겠다는 구상이다 . TechCrunch는 이 모델을 "해당 비전의 가장 명확한 그림"이라고 평가했다 .

이번 출시는 2026년 봄 라마 4의 실망스러운 출시 이후 내부 혼란을 겪었던 메타가 오픈웨이트 AI 전략을 다시 열었다는 점에서 의미가 있다 .

143억 달러 규모의 스케일 AI 투자

2025년 6월, 메타는 데이터 라벨링 기업 **스케일 AI(Scale AI)**에 143억 달러를 투자하며 약 49%의 지분을 확보했다 . 이 거래를 통해 스케일 AI의 28세 CEO **알렉산드르 왕(Alexandr Wang)**이 메타의 새로운 '슈퍼인텔리전스' 부문을 이끌게 되었다 . 이 투자는 뮤즈 모델 제품군을 위한 고품질 훈련 데이터와 인재 확보를 목표로 한 것으로 분석된다 . CNBC는 2026년 1월 보도에서 왕이 라마의 후속 모델(코드명 '아보카도')을 개발하는 메타의 TBD AI 유닛을 이끌고 있다고 전했다 .

다운로드 및 출시일 지원

뮤즈 글리머는 **허깅 페이스(Hugging Face)**에서 meta-models/Muse-Glimmer-30B 저장소를 통해 아파치 2.0 라이선스로 다운로드할 수 있다 . 출시일부터 다음과 같은 주요 도구 및 프레임워크를 지원한다:

• Ollama — 단일 명령어로 로컬에서 풀 및 실행
• LM Studio — 로컬 GUI 기반 추론 지원
• SGLang — RTX 5090에서 230+ tok/s
• llama.cpp — 커뮤니티 GGUF 변환 당일 제공
• NVIDIA NIM — NVIDIA의 마이크로서비스 프레임워크를 통한 최적화된 추론
• AMD ROCm — 라이젠 AI 맥스 및 라데온 GPU 공식 지원

초기 커뮤니티 보고에 따르면, **RTX 3090(24GB)**에서도 Q4_K_XL 양자화 모델과 DFlash, 262K 컨텍스트 윈도우를 사용해 약 22-23GB의 VRAM으로 실행할 수 있다 .