Apple Dilaporkan Berbincang dengan PrismML untuk Jalankan Model AI Lebih Besar pada iPhone

Mengapa perbincangan ini penting kepada Apple

Apple dilaporkan telah bertemu PrismML untuk membincangkan cara menjalankan model AI yang jauh lebih besar terus pada iPhone, menurut laporan yang dipetik oleh beberapa penerbitan teknologi .

Minat itu menjadi lebih mudah difahami selepas PrismML mendakwa berjaya memampatkan Qwen 3.6, model bahasa besar sumber terbuka daripada Alibaba, supaya boleh berjalan sepenuhnya pada iPhone 17 Pro. Model berkenaan mempunyai 27 bilion parameter, dan syarikat itu menyifatkannya sebagai model AI terbesar yang pernah digunakan secara tempatan pada peranti mudah alih .

Bagi Apple, kelebihan utama AI pada peranti ialah privasi, kependaman yang rendah dan keupayaan berfungsi tanpa sambungan internet atau panggilan ke pelayan. Apple sendiri menerangkan bahawa rangka kerja AI pada perantinya membolehkan data pengguna kekal pada peranti, tanpa kos pelayan atau kelewatan ke awan .

Namun, Apple berdepan kekangan perkakasan dan memori. Model asas pada peranti Apple menggunakan seni bina jarang, iaitu hanya sebahagian daripada keseluruhan parameter diaktifkan ketika sesuatu inferens dibuat. Dalam model sekitar 20 bilion parameter yang diumumkan Apple pada 2026, kira-kira 1 hingga 4 bilion parameter sahaja dikatakan aktif pada satu-satu masa .

Sebaliknya, pendekatan PrismML dikatakan membolehkan semua 27 bilion parameter Qwen 3.6 aktif ketika model berjalan pada iPhone 17 Pro . Jika dakwaan ini dapat disahkan, Apple berpotensi menawarkan Siri yang lebih berkebolehan, alat penulisan yang lebih pintar serta pengalaman aplikasi yang lebih peribadi—tanpa perlu menghantar data ke awan.

Laporan yang sama turut mencadangkan Apple menghadapi kesukaran memampatkan model AI dalamannya untuk iPhone tanpa menjejaskan prestasi dengan ketara. Oleh itu, teknologi luaran daripada PrismML mungkin mempunyai nilai strategik untuk mempercepatkan usaha AI pada peranti Apple .

Apa yang unik tentang pemampatan PrismML?

1. Setiap pemberat rangkaian menggunakan tiga nilai sahaja

Teras teknologi PrismML ialah perwakilan pemberat 1-bit atau ternari. Setiap pemberat dalam rangkaian neural dihadkan kepada salah satu daripada tiga nilai: -1, 0 atau +1. Ini bersamaan kira-kira 1.58 bit bagi setiap parameter .

Pendekatan ini berbeza daripada format biasa seperti FP16 16-bit atau kuantifikasi 8-bit, yang masih menyimpan julat nilai titik terapung atau integer yang lebih besar.

2. Model dilatih secara asli dalam ketepatan rendah

Kebanyakan teknik pemampatan bermula dengan model berketepatan tinggi sebelum model itu dikuantifikasi. Proses sedemikian boleh menyebabkan penurunan ketepatan atau prestasi.

PrismML pula mendakwa melatih modelnya secara asli dalam format 1-bit sejak awal. Menurut syarikat itu, logik ternari dibina ke dalam seni bina rangkaian, bukan ditambah kemudian sebagai langkah pemampatan .

3. Saiz model menjadi jauh lebih kecil

Model 1-bit Bonsai 8B PrismML dikatakan memampatkan 8.2 bilion parameter kepada kira-kira 1.15 GB memori—sekitar 14 kali lebih kecil berbanding model konvensional 16-bit—sambil mendakwa mengekalkan ketepatan yang kompetitif dalam penanda aras standard .

PrismML turut mendakwa pemampatan Qwen 3.6 membolehkan model padat 27 bilion parameter itu dimuatkan sepenuhnya dalam memori iPhone 17 Pro .

4. Potensi penggunaan tenaga dan kelajuan yang lebih baik

Menurut data yang dikemukakan PrismML, perwakilan 1-bit memberikan kecekapan tenaga kira-kira lima kali lebih baik berbanding model berketepatan penuh. Model Bonsai 8B pula dikatakan mampu mencapai lebih 40 token sesaat pada iPhone 17 Pro—lebih pantas daripada keperluan biasa untuk penggunaan masa nyata .

Adakah dakwaan PrismML sudah terbukti?

Belum sepenuhnya. PrismML hanya muncul daripada mod senyap pada 31 Mac 2026, dengan sokongan dana berjumlah AS$16.25 juta daripada Khosla Ventures dan Cerberus Ventures. Modelnya diterbitkan sebagai sumber terbuka di bawah lesen Apache 2.0, yang sepatutnya memudahkan penyelidik luar menilai dakwaan tersebut dari semasa ke semasa .

Jadi, kepentingan perbincangan Apple-PrismML bukan semata-mata pada angka 27 bilion parameter. Yang lebih penting ialah kemungkinan menjalankan model besar dan padat terus pada telefon, dengan privasi serta respons pantas sebagai kelebihan utama. Tetapi sehingga ujian bebas mengesahkan ketepatan, penggunaan memori, kelajuan dan kecekapan tenaga pada pelbagai peranti, hasil PrismML wajar dilihat sebagai teknologi yang menjanjikan—bukan lagi kejayaan yang muktamad.