Điều này đặc biệt quan trọng bởi Apple đang phải đối mặt với một rào cản lớn: các mô hình nền tảng trên thiết bị của họ hiện tại sử dụng kiến trúc thưa (sparse), nơi chỉ một phần nhỏ tham số được kích hoạt tại một thời điểm. Tại WWDC 2026, Apple đã công bố mô hình trên thiết bị có khoảng 20 tỷ tham số, nhưng chỉ có 1–4 tỷ tham số hoạt động trong mỗi lần suy luận . Ngược lại, cách tiếp cận của PrismML cho phép chạy toàn bộ 27 tỷ tham số cùng lúc trên cùng một phần cứng — không cần gọi máy chủ — điều này có thể mở ra những khả năng vượt trội cho Siri, các công cụ viết thông minh và trải nghiệm ứng dụng, đồng thời vẫn đảm bảo quyền riêng tư và không phụ thuộc vào kết nối đám mây . Apple được cho là đã gặp khó khăn trong việc nén các mô hình AI nội bộ của mình cho iPhone mà không bị suy giảm hiệu suất đáng kể, khiến một giải pháp bên ngoài như của PrismML trở nên vô cùng chiến lược .

Điều gì làm nên sự khác biệt trong phương pháp nén của PrismML

Đột phá của PrismML tập trung vào việc sử dụng biểu diễn trọng số 1-bit (ternary) gốc, áp dụng cho toàn bộ mạng nơ-ron, không chỉ một vài lớp riêng lẻ:

• Trọng số ternary toàn mạng. Mỗi trọng số trong mô hình bị giới hạn ở chính xác ba giá trị {-1, 0, +1}, mã hóa khoảng 1,58 bit cho mỗi tham số . Điều này khác biệt hoàn toàn so với lượng tử hóa 16-bit (FP16) hoặc thậm chí 8-bit tiêu chuẩn, vốn vẫn sử dụng các dải giá trị dấu phẩy động hoặc số nguyên.

• Được huấn luyện gốc ở 1-bit ngay từ đầu. Không giống như các phương pháp nén thông thường bắt đầu với mô hình độ chính xác cao và lượng tử hóa sau đó (thường mất độ chính xác), PrismML huấn luyện các mô hình của mình ở độ chính xác 1-bit ngay từ nền tảng . Công ty cho biết "logic ternary được xây dựng thông qua chính kiến trúc mạng", chứ không phải là một bước tinh chỉnh sau cùng .

• Mật độ tăng vọt. Mô hình Bonsai 8B 1-bit của PrismML nén 8,2 tỷ tham số chỉ vào khoảng 1,15 GB bộ nhớ — nhỏ hơn khoảng 14 lần so với mô hình 16-bit thông thường — trong khi vẫn duy trì độ chính xác cạnh tranh với các mô hình độ chính xác cao trên các chuẩn đánh giá phổ biến . Việc nén mô hình Qwen 3.6 27B cũng tương tự, cho phép mô hình dày đặc của Alibaba vừa vặn trong bộ nhớ iPhone .

• Hiệu quả năng lượng. Biểu diễn 1-bit mang lại hiệu quả năng lượng tốt hơn khoảng 5 lần so với mô hình độ chính xác cao, và mô hình 8B chạy với tốc độ hơn 40 token mỗi giây trên iPhone 17 Pro — nhanh hơn nhu cầu sử dụng thực tế thông thường .

Lưu ý: Các tuyên bố của PrismML vẫn chưa được cộng đồng nghiên cứu AI rộng rãi xác minh độc lập ở quy mô lớn. Công ty ra mắt từ chế độ ẩn danh vào ngày 31 tháng 3 năm 2026, với nguồn vốn 16,25 triệu USD từ Khosla Ventures và Cerberus Ventures. Các mô hình của họ được phát hành mã nguồn mở theo giấy phép Apache 2.0, cho phép xác minh bên ngoài theo thời gian .

Điều này đặc biệt quan trọng bởi Apple đang phải đối mặt với một rào cản lớn: các mô hình nền tảng trên thiết bị của họ hiện tại sử dụng kiến trúc thưa (sparse), nơi chỉ một phần nhỏ tham số được kích hoạt tại một thời điểm. Tại WWDC 2026, Apple đã công bố mô hình trên thiết bị có khoảng 20 tỷ tham số, nhưng chỉ có 1–4 tỷ tham số hoạt động trong mỗi lần suy luận . Ngược lại, cách tiếp cận của PrismML cho phép chạy toàn bộ 27 tỷ tham số cùng lúc trên cùng một phần cứng — không cần gọi máy chủ — điều này có thể mở ra những khả năng vượt trội cho Siri, các công cụ viết thông minh và trải nghiệm ứng dụng, đồng thời vẫn đảm bảo quyền riêng tư và không phụ thuộc vào kết nối đám mây . Apple được cho là đã gặp khó khăn trong việc nén các mô hình AI nội bộ của mình cho iPhone mà không bị suy giảm hiệu suất đáng kể, khiến một giải pháp bên ngoài như của PrismML trở nên vô cùng chiến lược .

Điều gì làm nên sự khác biệt trong phương pháp nén của PrismML

Đột phá của PrismML tập trung vào việc sử dụng biểu diễn trọng số 1-bit (ternary) gốc, áp dụng cho toàn bộ mạng nơ-ron, không chỉ một vài lớp riêng lẻ:

• Trọng số ternary toàn mạng. Mỗi trọng số trong mô hình bị giới hạn ở chính xác ba giá trị {-1, 0, +1}, mã hóa khoảng 1,58 bit cho mỗi tham số . Điều này khác biệt hoàn toàn so với lượng tử hóa 16-bit (FP16) hoặc thậm chí 8-bit tiêu chuẩn, vốn vẫn sử dụng các dải giá trị dấu phẩy động hoặc số nguyên.

• Được huấn luyện gốc ở 1-bit ngay từ đầu. Không giống như các phương pháp nén thông thường bắt đầu với mô hình độ chính xác cao và lượng tử hóa sau đó (thường mất độ chính xác), PrismML huấn luyện các mô hình của mình ở độ chính xác 1-bit ngay từ nền tảng . Công ty cho biết "logic ternary được xây dựng thông qua chính kiến trúc mạng", chứ không phải là một bước tinh chỉnh sau cùng .

• Mật độ tăng vọt. Mô hình Bonsai 8B 1-bit của PrismML nén 8,2 tỷ tham số chỉ vào khoảng 1,15 GB bộ nhớ — nhỏ hơn khoảng 14 lần so với mô hình 16-bit thông thường — trong khi vẫn duy trì độ chính xác cạnh tranh với các mô hình độ chính xác cao trên các chuẩn đánh giá phổ biến . Việc nén mô hình Qwen 3.6 27B cũng tương tự, cho phép mô hình dày đặc của Alibaba vừa vặn trong bộ nhớ iPhone .

• Hiệu quả năng lượng. Biểu diễn 1-bit mang lại hiệu quả năng lượng tốt hơn khoảng 5 lần so với mô hình độ chính xác cao, và mô hình 8B chạy với tốc độ hơn 40 token mỗi giây trên iPhone 17 Pro — nhanh hơn nhu cầu sử dụng thực tế thông thường .

Lưu ý: Các tuyên bố của PrismML vẫn chưa được cộng đồng nghiên cứu AI rộng rãi xác minh độc lập ở quy mô lớn. Công ty ra mắt từ chế độ ẩn danh vào ngày 31 tháng 3 năm 2026, với nguồn vốn 16,25 triệu USD từ Khosla Ventures và Cerberus Ventures. Các mô hình của họ được phát hành mã nguồn mở theo giấy phép Apache 2.0, cho phép xác minh bên ngoài theo thời gian .