애플, PrismML과 논의 중…아이폰에서 270억 파라미터 AI 모델 구동 가능성

애플의 PrismML 논의의 중요성

애플은 스타트업 PrismML의 기술을 사용하여 훨씬 더 큰 AI 모델을 아이폰에서 직접 실행하는 방안에 대해 회의를 가졌다고 'The Information'이 보도했습니다 . PrismML은 알리바바의 오픈소스 Qwen 3.6(270억 파라미터 고밀도 모델)을 아이폰 17 Pro에서 완전히 실행할 수 있도록 압축하는 데 성공, 모바일 기기에 배치된 가장 큰 AI 모델 기록을 세웠습니다 .

이는 애플이 직면한 주요 제약 조건 때문입니다. 자체 온디바이스 기반 모델은 희소 아키텍처를 사용하여 한 번에 극히 일부 파라미터만 활성화됩니다. WWDC 2026에서 애플은 약 200억 파라미터의 온디바이스 모델을 발표했지만, 추론당 활성화되는 파라미터는 10~40억 개에 불과합니다 . PrismML의 접근 방식은 동일한 하드웨어에서 모든 270억 파라미터를 완전 활성화 상태로 실행합니다. 서버 호출이 필요 없어 개인정보를 희생하거나 클라우드 연결 없이도 훨씬 더 강력한 온디바이스 시리, 글쓰기 도구, 지능형 앱 경험을 제공할 수 있습니다 . 애플은 자체 AI 모델을 심각한 성능 저하 없이 아이폰에 맞게 압축하는 데 어려움을 겪어 왔기 때문에 PrismML과 같은 외부 솔루션은 매우 전략적입니다 .

PrismML 압축 접근법의 독특성

PrismML의 혁신은 신경망 전체에 적용된 네이티브 1비트(3진법) 가중치 표현에 있습니다.

• 전체 네트워크 3진법 가중치. 모델의 모든 가중치는 정확히 {-1, 0, +1} 세 가지 값으로 제한되어 파라미터당 약 1.58비트를 인코딩합니다 . 이는 여전히 부동소수점 또는 정수 값 범위를 사용하는 표준 16비트(FP16) 또는 8비트 양자화와 근본적으로 다릅니다.

• 처음부터 1비트로 네이티브 학습. 기존 압축이 전체 정밀도 모델로 시작하여 사후에 양자화(종종 정확도 손실 동반)하는 것과 달리, PrismML은 처음부터 1비트 정밀도로 모델을 학습합니다 . 회사는 "3진법 논리가 네트워크 아키텍처 자체를 통해 구축"되며, 사후에 적용되는 것이 아니라고 말합니다 .

• 극적인 밀도 향상. PrismML의 1비트 Bonsai 8B 모델은 82억 개의 파라미터를 단 1.15GB 메모리로 압축합니다. 이는 기존 16비트 모델보다 약 14배 작은 크기이며, 표준 벤치마크에서 전체 정밀도 대안과 경쟁할 만한 정확도를 주장합니다 . 회사의 Qwen 3.6 27B 압축도 알리바바의 고밀도 모델을 완전히 아이폰 메모리에 맞춥니다 .

• 에너지 효율성. 1비트 표현은 전체 정밀도 모델 대비 약 5배 더 나은 에너지 효율성을 제공하며, 8B 모델은 아이폰 17 Pro에서 초당 40토큰 이상으로 실행되어 일반적인 실시간 사용 요구 사항보다 빠릅니다 .

주의사항: PrismML의 주장은 아직 광범위한 AI 연구 커뮤니티에서 독립적으로 대규모 검증되지 않았습니다. 이 회사는 2026년 3월 31일, Khosla Ventures와 Cerberus Ventures로부터 1,625만 달러의 투자를 받으며 스텔스 모드를 종료했습니다. 자사 모델은 Apache 2.0 라이선스 하에 오픈소스로 공개되어 시간이 지남에 따라 외부 검증이 가능할 것입니다 .