이는 애플이 직면한 주요 제약 조건 때문입니다. 자체 온디바이스 기반 모델은 희소 아키텍처를 사용하여 한 번에 극히 일부 파라미터만 활성화됩니다. WWDC 2026에서 애플은 약 200억 파라미터의 온디바이스 모델을 발표했지만, 추론당 활성화되는 파라미터는 10~40억 개에 불과합니다 . PrismML의 접근 방식은 동일한 하드웨어에서 모든 270억 파라미터를 완전 활성화 상태로 실행합니다. 서버 호출이 필요 없어 개인정보를 희생하거나 클라우드 연결 없이도 훨씬 더 강력한 온디바이스 시리, 글쓰기 도구, 지능형 앱 경험을 제공할 수 있습니다 . 애플은 자체 AI 모델을 심각한 성능 저하 없이 아이폰에 맞게 압축하는 데 어려움을 겪어 왔기 때문에 PrismML과 같은 외부 솔루션은 매우 전략적입니다 .
PrismML의 혁신은 신경망 전체에 적용된 네이티브 1비트(3진법) 가중치 표현에 있습니다.
전체 네트워크 3진법 가중치. 모델의 모든 가중치는 정확히 {-1, 0, +1} 세 가지 값으로 제한되어 파라미터당 약 1.58비트를 인코딩합니다 . 이는 여전히 부동소수점 또는 정수 값 범위를 사용하는 표준 16비트(FP16) 또는 8비트 양자화와 근본적으로 다릅니다.
처음부터 1비트로 네이티브 학습. 기존 압축이 전체 정밀도 모델로 시작하여 사후에 양자화(종종 정확도 손실 동반)하는 것과 달리, PrismML은 처음부터 1비트 정밀도로 모델을 학습합니다 . 회사는 "3진법 논리가 네트워크 아키텍처 자체를 통해 구축"되며, 사후에 적용되는 것이 아니라고 말합니다 .
극적인 밀도 향상. PrismML의 1비트 Bonsai 8B 모델은 82억 개의 파라미터를 단 1.15GB 메모리로 압축합니다. 이는 기존 16비트 모델보다 약 14배 작은 크기이며, 표준 벤치마크에서 전체 정밀도 대안과 경쟁할 만한 정확도를 주장합니다 . 회사의 Qwen 3.6 27B 압축도 알리바바의 고밀도 모델을 완전히 아이폰 메모리에 맞춥니다 .
에너지 효율성. 1비트 표현은 전체 정밀도 모델 대비 약 5배 더 나은 에너지 효율성을 제공하며, 8B 모델은 아이폰 17 Pro에서 초당 40토큰 이상으로 실행되어 일반적인 실시간 사용 요구 사항보다 빠릅니다 .
주의사항: PrismML의 주장은 아직 광범위한 AI 연구 커뮤니티에서 독립적으로 대규모 검증되지 않았습니다. 이 회사는 2026년 3월 31일, Khosla Ventures와 Cerberus Ventures로부터 1,625만 달러의 투자를 받으며 스텔스 모드를 종료했습니다. 자사 모델은 Apache 2.0 라이선스 하에 오픈소스로 공개되어 시간이 지남에 따라 외부 검증이 가능할 것입니다 .
이는 애플이 직면한 주요 제약 조건 때문입니다. 자체 온디바이스 기반 모델은 희소 아키텍처를 사용하여 한 번에 극히 일부 파라미터만 활성화됩니다. WWDC 2026에서 애플은 약 200억 파라미터의 온디바이스 모델을 발표했지만, 추론당 활성화되는 파라미터는 10~40억 개에 불과합니다 . PrismML의 접근 방식은 동일한 하드웨어에서 모든 270억 파라미터를 완전 활성화 상태로 실행합니다. 서버 호출이 필요 없어 개인정보를 희생하거나 클라우드 연결 없이도 훨씬 더 강력한 온디바이스 시리, 글쓰기 도구, 지능형 앱 경험을 제공할 수 있습니다 . 애플은 자체 AI 모델을 심각한 성능 저하 없이 아이폰에 맞게 압축하는 데 어려움을 겪어 왔기 때문에 PrismML과 같은 외부 솔루션은 매우 전략적입니다 .
PrismML의 혁신은 신경망 전체에 적용된 네이티브 1비트(3진법) 가중치 표현에 있습니다.
전체 네트워크 3진법 가중치. 모델의 모든 가중치는 정확히 {-1, 0, +1} 세 가지 값으로 제한되어 파라미터당 약 1.58비트를 인코딩합니다 . 이는 여전히 부동소수점 또는 정수 값 범위를 사용하는 표준 16비트(FP16) 또는 8비트 양자화와 근본적으로 다릅니다.
처음부터 1비트로 네이티브 학습. 기존 압축이 전체 정밀도 모델로 시작하여 사후에 양자화(종종 정확도 손실 동반)하는 것과 달리, PrismML은 처음부터 1비트 정밀도로 모델을 학습합니다 . 회사는 "3진법 논리가 네트워크 아키텍처 자체를 통해 구축"되며, 사후에 적용되는 것이 아니라고 말합니다 .
극적인 밀도 향상. PrismML의 1비트 Bonsai 8B 모델은 82억 개의 파라미터를 단 1.15GB 메모리로 압축합니다. 이는 기존 16비트 모델보다 약 14배 작은 크기이며, 표준 벤치마크에서 전체 정밀도 대안과 경쟁할 만한 정확도를 주장합니다 . 회사의 Qwen 3.6 27B 압축도 알리바바의 고밀도 모델을 완전히 아이폰 메모리에 맞춥니다 .
에너지 효율성. 1비트 표현은 전체 정밀도 모델 대비 약 5배 더 나은 에너지 효율성을 제공하며, 8B 모델은 아이폰 17 Pro에서 초당 40토큰 이상으로 실행되어 일반적인 실시간 사용 요구 사항보다 빠릅니다 .
주의사항: PrismML의 주장은 아직 광범위한 AI 연구 커뮤니티에서 독립적으로 대규모 검증되지 않았습니다. 이 회사는 2026년 3월 31일, Khosla Ventures와 Cerberus Ventures로부터 1,625만 달러의 투자를 받으며 스텔스 모드를 종료했습니다. 자사 모델은 Apache 2.0 라이선스 하에 오픈소스로 공개되어 시간이 지남에 따라 외부 검증이 가능할 것입니다 .