这件事之所以重要,在于苹果一直面临一个重大瓶颈:其自研的端侧基础模型使用的是稀疏架构,即每次只有一部分参数被激活。在WWDC 2026上,苹果宣布了一款约200亿参数的端侧模型,但每次推理仅激活10亿到40亿参数。PrismML的方法则让全部270亿参数在同一硬件上完全激活,无需调用服务器。这将极大解锁端侧Siri、写作工具和智能应用体验的能力,同时不牺牲隐私,也无需依赖云端连接。有报道称,苹果此前一直在努力压缩自研AI模型以适应iPhone,但遭遇了严重的性能下降,这使得像PrismML这样的外部解决方案极具战略价值。
PrismML的技术突破核心在于原生1-bit(三元)权重表示,并且应用于整个神经网络,而非仅限特定层:
全网络三元权重。模型中的每个权重都被严格限制为三个数值{-1, 0, +1},每个参数编码约1.58比特的信息。这与标准的16位浮点(FP16)甚至8位量化有本质区别——后者仍然使用浮点数或整数的数值范围。
从头原生1-bit训练。与常见的压缩方式(先训练全精度模型再量化,往往造成精度损失)不同,PrismML的模型从零开始就以1-bit精度训练。该公司表示,这种"三元逻辑是通过网络架构本身构建的",而非事后改造。
显著的密度提升。PrismML的1-bit Bonsai 8B模型将82亿参数压缩至仅1.15GB内存——约为传统16位模型的1/14——同时在标准基准测试中声称拥有与全精度模型相媲美的准确性。其对阿里Qwen 3.6 270亿模型的压缩同样将完整的密集模型完整放入了iPhone内存。
能效优势。1-bit表示相比全精度模型实现了约5倍的能效提升,8B模型在iPhone 17 Pro上运行速度超过40 tokens/秒,超过了实时使用的一般需求。
需要说明的是: PrismML的这些说法尚未得到更广泛AI研究社区的独立大规模验证。该公司于2026年3月31日走出隐身模式,获得了Khosla Ventures和Cerberus Ventures的1625万美元投资,其模型以Apache 2.0协议开源发布,这为外部验证提供了条件。
这件事之所以重要,在于苹果一直面临一个重大瓶颈:其自研的端侧基础模型使用的是稀疏架构,即每次只有一部分参数被激活。在WWDC 2026上,苹果宣布了一款约200亿参数的端侧模型,但每次推理仅激活10亿到40亿参数。PrismML的方法则让全部270亿参数在同一硬件上完全激活,无需调用服务器。这将极大解锁端侧Siri、写作工具和智能应用体验的能力,同时不牺牲隐私,也无需依赖云端连接。有报道称,苹果此前一直在努力压缩自研AI模型以适应iPhone,但遭遇了严重的性能下降,这使得像PrismML这样的外部解决方案极具战略价值。
PrismML的技术突破核心在于原生1-bit(三元)权重表示,并且应用于整个神经网络,而非仅限特定层:
全网络三元权重。模型中的每个权重都被严格限制为三个数值{-1, 0, +1},每个参数编码约1.58比特的信息。这与标准的16位浮点(FP16)甚至8位量化有本质区别——后者仍然使用浮点数或整数的数值范围。
从头原生1-bit训练。与常见的压缩方式(先训练全精度模型再量化,往往造成精度损失)不同,PrismML的模型从零开始就以1-bit精度训练。该公司表示,这种"三元逻辑是通过网络架构本身构建的",而非事后改造。
显著的密度提升。PrismML的1-bit Bonsai 8B模型将82亿参数压缩至仅1.15GB内存——约为传统16位模型的1/14——同时在标准基准测试中声称拥有与全精度模型相媲美的准确性。其对阿里Qwen 3.6 270亿模型的压缩同样将完整的密集模型完整放入了iPhone内存。
能效优势。1-bit表示相比全精度模型实现了约5倍的能效提升,8B模型在iPhone 17 Pro上运行速度超过40 tokens/秒,超过了实时使用的一般需求。
需要说明的是: PrismML的这些说法尚未得到更广泛AI研究社区的独立大规模验证。该公司于2026年3月31日走出隐身模式,获得了Khosla Ventures和Cerberus Ventures的1625万美元投资,其模型以Apache 2.0协议开源发布,这为外部验证提供了条件。