Desktop Framework yang bakal hadir menyasarkan satu masalah utama AI tempatan: bagaimana hendak memuatkan model bahasa besar ke dalam satu komputer tanpa bergantung pada kad grafik diskret.
Konfigurasinya menggabungkan pemproses AMD Ryzen AI Max+ PRO 495 dengan memori LPDDR5X-8533 bersatu sehingga 192GB dan lebar jalur 273GB/s. Pada masa yang sama, eksperimen tersembunyi Microsoft dalam Windows 11 mungkin memberikan pengguna lebih banyak kawalan terhadap pembahagian memori bersatu untuk tugas grafik dan AI—walaupun ciri itu masih belum siap dan belum diumumkan secara rasmi.
Kedua-dua perkembangan ini menunjukkan perubahan penting dalam reka bentuk PC: untuk menjalankan AI secara tempatan, kapasiti dan kelajuan memori kini sama penting dengan kuasa pemproses. Namun begitu, ia bukan bermakna AI berasaskan awan akan hilang.
Apa yang ditawarkan oleh Desktop Framework 192GB?
Konfigurasi tertinggi yang akan datang ini menggunakan AMD Ryzen AI Max+ PRO 495, iaitu pemproses 16 teras dan 32 utas berasaskan Zen 5. Cip tersebut turut mempunyai grafik Radeon bersepadu serta NPU XDNA 2 untuk tugas AI.
Framework menyenaraikan sehingga 192GB memori LPDDR5X bersatu dengan lebar jalur 273GB/s. Kapasiti itu meningkat 50% berbanding konfigurasi Ryzen AI Max+ 395 terdahulu yang menawarkan sehingga 128GB, manakala lebar jalurnya meningkat 6.6% daripada 256GB/s.
1
2
3
16
Istilah memori bersatu bermaksud CPU dan GPU menggunakan kumpulan memori fizikal yang sama. Menurut Framework, sehingga 160GB daripada keseluruhan 192GB itu boleh diperuntukkan kepada GPU bersepadu.
1
10
Inilah tarikan utama sistem tersebut untuk pengguna LLM tempatan. Dalam PC biasa, model mungkin perlu dibahagikan antara VRAM GPU yang terhad dan RAM sistem yang lebih perlahan. Dengan memori bersatu, lebih banyak berat model boleh kekal dalam satu ruang memori tanpa perlu dipindahkan berulang kali antara dua jenis memori.
Namun, ada pertukaran yang perlu difahami. Lebar jalur 273GB/s memang besar untuk sebuah PC kompak, tetapi masih lebih rendah berbanding sesetengah sistem memori bersatu kelas atasan. Model yang berjaya dimuatkan ke dalam memori tidak semestinya boleh menjana jawapan dengan pantas—terutamanya apabila tetingkap konteks panjang, aplikasi desktop atau beberapa pengguna berkongsi lebar jalur yang sama.
Model AI apa yang boleh dijalankan?
Framework telah menunjukkan sistem itu menjalankan versi DeepSeek V4-Flash yang dikuantumkan pada Q8 secara tempatan, dengan ruang tambahan untuk konteks, berdasarkan liputan terhadap pratonton syarikat tersebut.
7
14
Satu lagi laporan menyifatkan konfigurasi 192GB ini sebagai mampu memuatkan model dengan kira-kira 284 bilion parameter ke dalam memori. Angka itu wajar difahami sebagai dakwaan tentang kapasiti memori, bukannya penanda aras bebas yang membuktikan kelajuan penjanaan sebenar.
4
Kuantisasi memainkan peranan besar. Perwakilan dengan bilangan bit lebih rendah mengurangkan memori yang diperlukan untuk menyimpan berat model. Tetapi keperluan akhir turut bergantung pada seni bina model, lebihan penggunaan runtime, saiz konteks dan aplikasi lain yang berjalan serentak.
Ringkasnya:
- Kapasiti memori menentukan sama ada model berpotensi untuk dimuatkan.
- Lebar jalur mempengaruhi kelajuan pemindahan data model ketika inferens.
- Perisian dan kernel menentukan sejauh mana perkakasan boleh digunakan dengan cekap.
- Beban kerja sebenar menentukan sama ada pengalaman penggunaan itu pantas dan praktikal.
Apa kaitan eksperimen Microsoft dalam Windows 11?
Microsoft dilaporkan sedang menguji ciri dalaman Windows 11 bernama “IntelligentCarveout” dalam binaan eksperimen 29648.1000. Teks yang ditemui dalam binaan itu merujuk kepada “Reserved memory for accelerators” serta “Memory for graphics and AI acceleration”.
Matlamat yang kelihatan ialah membolehkan Windows mengkhaskan sebahagian memori bersatu untuk grafik dan aplikasi berintensifkan AI, berbanding menyerahkan keseluruhan kumpulan memori kepada peruntukan dinamik sistem operasi.
33
34
35
Ciri seperti ini boleh membantu apabila aplikasi Windows dan runtime AI berebut ruang memori yang sama. Kawasan memori yang dikhaskan mungkin memberikan beban kerja penyajian model akses yang lebih konsisten dan mengurangkan kegagalan peruntukan yang berlaku apabila aplikasi lain menggunakan terlalu banyak memori.
Tetapi IntelligentCarveout bukan RAM tambahan, bukan bas memori yang lebih pantas dan bukan pemecut AI baharu. Memori yang dikhaskan juga tidak boleh digunakan oleh aplikasi biasa. Jika lebih banyak memori diperuntukkan kepada AI, baki untuk Windows dan aplikasi lain akan menjadi lebih kecil. Microsoft belum mengesahkan antara muka akhir, perkakasan yang disokong, masa pelancaran atau sama ada ciri itu akan dihantar kepada pengguna umum.
36
40
44
Boleh dinaik taraf atau tidak?
Desktop Framework dipasarkan sebagai PC kompak yang lebih modular dan mudah dibaiki berbanding kebanyakan pesaingnya. Konfigurasi akan datang itu juga dijangka mengekalkan slot pengembangan PCIe x4 terbuka, memberikan pengguna pilihan untuk menambah perkakasan pengembangan yang serasi.
13
Memori 192GB tersebut pula mempunyai cerita yang berbeza. LPDDR5X itu dipasang terus pada papan utama, bukannya menggunakan modul DIMM yang boleh ditukar pengguna. Oleh itu, pembeli patut menganggap kapasiti memori yang dipilih sebagai kekal.
Jika memerlukan kapasiti lebih besar pada masa depan, laluan yang munasabah ialah menggantikan papan utama yang serasi—bukan sekadar membeli dan memasang RAM baharu.
13
Windows, Linux dan keserasian perisian
Framework menyenaraikan kegunaan berasaskan Windows dan Linux, termasuk pilihan prapasang Linux.
2 Namun, sokongan inferens tempatan masih bergantung pada runtime dan kaedah pecutan yang dipilih.
Sistem berasaskan AMD boleh menggunakan susunan perisian seperti ROCm atau Vulkan. Platform memori bersatu lain pula lebih menekankan ekosistem Apple Metal/MLX atau NVIDIA CUDA. Ekosistem-ekosistem ini tidak boleh dianggap saling bertukar ganti. Model yang berjalan dengan baik pada satu platform mungkin memerlukan runtime berbeza, kurang dioptimumkan atau tidak mempunyai sokongan setara pada platform lain.
19
24
Ini penting untuk pembeli yang mahu menggunakan model tertentu, bukan sekadar melihat jumlah RAM. Sokongan model, format kuantisasi, kernel GPU dan alat penyajian boleh memberi kesan besar terhadap pengalaman sebenar.
Harga dan tarikh pelancaran masih belum diketahui
Setakat 31 Ogos 2026, Framework menyenaraikan Desktop Ryzen AI Max+ PRO 495 dengan memori 192GB sebagai “akan datang”. Syarikat itu belum menerbitkan harga, tarikh prapesanan, tarikh penghantaran atau komitmen ketersediaan secara meluas.
2
10
11
Oleh itu, masih terlalu awal untuk membuat kesimpulan tentang prestasi atau nilai belian. Pratonton syarikat tidak menggantikan ujian bebas yang mengukur kadar token, suhu, penggunaan kuasa, keserasian model dan prestasi berterusan.
6
Bagaimana ia dibandingkan dengan sistem memori bersatu lain?
Framework sebenarnya bukan mencipta konsep ini. Apple Silicon sudah lama menggunakan memori dikongsi antara CPU dan GPU, dan sesetengah konfigurasinya dilaporkan menawarkan lebar jalur yang jauh lebih tinggi—termasuk 128GB pada 546GB/s untuk konfigurasi M4 Max.
17
20
Di dunia PC kompak, sistem berasaskan AMD Ryzen AI Max+ 395 daripada pengeluar seperti GMKtec dan Beelink menawarkan alternatif memori bersatu 128GB. NVIDIA pula mempunyai sistem kelas DGX Spark yang menekankan keserasian dengan ekosistem CUDA pada skala kompak dan kapasiti memori tinggi.
19
24
Perbandingan ini menunjukkan lima perkara utama yang perlu dinilai oleh pembeli:
- Kapasiti: menentukan sama ada model dikuantumkan boleh dimuatkan tanpa banyak pemindahan ke memori lain.
- Lebar jalur: mempengaruhi seberapa pantas sistem memindahkan data model ketika inferens.
- Perisian: menentukan runtime, kernel dan alat penyajian model yang boleh digunakan dengan baik.
- Kebolehtingkatan: penting kerana memori LPDDR5X bersatu biasanya dipasang kekal sejak pembelian.
- Harga dan ketersediaan: menentukan sama ada produk yang dipratonton itu benar-benar pilihan yang boleh dibeli.
Pelajaran lebih besar untuk AI tempatan
Spesifikasi paling menarik pada Desktop Framework bukanlah angka TOPS NPU semata-mata, tetapi kumpulan memori bersatu yang luar biasa besar. Cadangan kawalan memori Microsoft menguatkan mesej yang sama: apabila PC mula menjalankan model lebih besar secara tempatan, pengurusan memori oleh sistem operasi turut menjadi sebahagian daripada pengalaman AI.
Namun, PC tempatan tidak akan menggantikan inferens awan sepenuhnya. Sistem memori bersatu kompak menarik untuk pengguna yang mahu menjalankan model pada satu mesin, termasuk bagi kerja luar talian atau beban kerja yang tidak mahu bergantung pada perkhidmatan awan. Tetapi infrastruktur awan masih lebih sesuai untuk model termaju berskala besar, kapasiti yang boleh berubah mengikut permintaan, kerja kolaboratif dan beban kerja yang memerlukan throughput berbilang GPU jauh lebih tinggi.
Kesimpulan yang lebih realistik ialah AI PC sedang berkembang melangkaui pembantu kecil berkuasa NPU. Dengan memori bersatu yang mencukupi, PC desktop kecil boleh menjadi kotak model tempatan yang berkuasa. Tetapi sebelum menganggap janji itu sebagai produk siap, pembeli masih perlu menyemak lebar jalur, sokongan perisian, memori yang tidak boleh dinaik taraf, penanda aras sebenar serta harga dan ketersediaan yang telah disahkan.