Framework sedang menyiapkan Desktop dengan konfigurasi yang menyasar salah satu hambatan terbesar AI lokal: bagaimana memuat model bahasa besar tanpa harus menggunakan kartu grafis diskret. Sistem ini memadukan prosesor AMD Ryzen AI Max+ PRO 495 16-core dengan unified memory LPDDR5X-8533 hingga 192 GB dan bandwidth 273 GB/detik. Di sisi lain, eksperimen terpisah Microsoft pada Windows 11 berpotensi membuat sistem dengan memori terpadu lebih mudah diatur, meski fiturnya belum selesai dan belum diumumkan secara resmi.
Keduanya menunjukkan perubahan yang lebih luas dalam desain PC. Menjalankan AI secara lokal kini semakin ditentukan oleh kapasitas serta bandwidth memori, bukan semata-mata kemampuan prosesor. Namun, perkembangan ini tidak berarti layanan AI berbasis cloud akan segera ditinggalkan.
Isi Desktop Framework 192 GB
Konfigurasi tertinggi yang akan datang menggunakan AMD Ryzen AI Max+ PRO 495, prosesor Zen 5 dengan 16 core dan 32 thread, grafis Radeon terintegrasi, serta NPU XDNA 2. Framework mencantumkan memori terpadu LPDDR5X sebesar 192 GB dengan bandwidth 273 GB/detik. Kapasitas tersebut 50% lebih besar dibanding konfigurasi Ryzen AI Max+ 395 sebelumnya yang mencapai 128 GB, sedangkan bandwidth-nya meningkat 6,6% dari 256 GB/detik.
1
2
3
16
Karena CPU dan GPU terintegrasi menggunakan kumpulan memori fisik yang sama, Framework menyebut hingga 160 GB dapat dialokasikan untuk iGPU. Inilah daya tarik utamanya bagi pengguna LLM lokal: lebih banyak bobot model dapat disimpan di satu mesin, tanpa harus membagi beban antara VRAM kartu grafis yang terbatas dan RAM sistem yang lebih lambat.
1
10
Tentu ada komprominya. Bandwidth 273 GB/detik tergolong besar untuk PC kompak, tetapi masih jauh di bawah sejumlah sistem unified memory kelas atas. Model yang bisa dimuat belum tentu dapat berjalan cepat—terutama ketika panjang konteks, aplikasi desktop, atau beberapa pengguna memakai bandwidth memori secara bersamaan.
Model apa yang bisa dijalankan?
Framework telah mendemonstrasikan sistem ini menjalankan DeepSeek V4-Flash versi terkuantisasi Q8 secara lokal, dengan ruang tersisa untuk konteks, menurut laporan mengenai pratinjau perusahaan tersebut.
7
14 Laporan lain menyebut konfigurasi 192 GB ini mampu menampung model dengan sekitar 284 miliar parameter di memori. Namun, angka itu sebaiknya dipahami sebagai klaim kapasitas memori, bukan tolok ukur independen mengenai kecepatan menghasilkan token.
4
Kuantisasi menjadi faktor penting. Representasi dengan bit lebih rendah mengurangi kebutuhan memori untuk bobot model. Meski demikian, kebutuhan akhir juga dipengaruhi arsitektur model, overhead runtime, ukuran jendela konteks, dan aplikasi lain yang berjalan bersamaan. Kapasitas memori menentukan model yang secara teori dapat dimuat; bandwidth, dukungan perangkat lunak, dan kemampuan komputasi menentukan seberapa nyaman model tersebut digunakan.
Apa yang berubah dengan eksperimen Windows 11?
Microsoft dilaporkan sedang menguji fitur internal Windows 11 bernama “IntelligentCarveout” pada build eksperimental 29648.1000. String yang ditemukan di dalam build tersebut merujuk pada “Reserved memory for accelerators” serta “Memory for graphics and AI acceleration”. Tujuannya tampaknya adalah memberi Windows kemampuan untuk mencadangkan bagian tertentu dari unified memory bagi aplikasi grafis dan AI, alih-alih menyerahkan seluruh kumpulan memori kepada alokasi dinamis.
33
34
35
Fitur seperti ini dapat berguna pada sistem yang membuat aplikasi Windows dan runtime AI berebut memori yang sama. Area memori yang dicadangkan mungkin memberi workload inferensi akses yang lebih konsisten dan membantu mencegah kegagalan alokasi akibat program lain.
Namun, IntelligentCarveout bukan RAM tambahan, bukan bus memori yang lebih cepat, dan bukan akselerator AI baru. Memori yang dicadangkan juga tidak dapat digunakan aplikasi biasa. Artinya, semakin besar porsi yang dialokasikan untuk AI, semakin kecil memori yang tersedia untuk Windows. Microsoft belum mengonfirmasi antarmuka final, perangkat keras yang didukung, jadwal rilis, maupun apakah fitur ini akan benar-benar dirilis.
36
40
44
Upgradeabilitas, sistem operasi, dan kompatibilitas
Desktop Framework diposisikan sebagai PC kompak yang lebih modular dan mudah diperbaiki dibanding banyak produk pesaing. Konfigurasi mendatang ini juga diperkirakan tetap memiliki slot ekspansi PCIe x4 terbuka, sehingga pemilik dapat menambahkan perangkat keras ekspansi yang kompatibel.
13
Memorinya memiliki cerita berbeda. LPDDR5X 192 GB tersebut terpasang langsung pada papan utama, bukan berupa modul DIMM yang dapat diganti pengguna. Pembeli sebaiknya menganggap kapasitas yang dipilih sebagai kapasitas tetap. Jika kelak membutuhkan memori lebih besar, solusinya kemungkinan adalah mengganti mainboard, bukan melakukan upgrade RAM biasa.
13
Framework mencantumkan skenario penggunaan berbasis Windows dan Linux, termasuk opsi Linux yang sudah dimuat sebelumnya.
2 Namun, kompatibilitas inferensi lokal tetap bergantung pada runtime dan jalur akselerasi yang dipilih. Sistem berbasis AMD dapat memanfaatkan software stack seperti ROCm atau Vulkan, sementara platform unified memory lain mengandalkan ekosistem Metal/MLX milik Apple atau CUDA milik NVIDIA. Ekosistem tersebut tidak dapat dipertukarkan begitu saja. Model yang berjalan pada satu platform mungkin memerlukan runtime berbeda, atau tidak memperoleh optimasi yang setara pada platform lain.
19
24
Harga dan ketersediaan belum jelas
Per 31 Agustus 2026, Framework masih mencantumkan Desktop Ryzen AI Max+ PRO 495 192 GB sebagai “coming soon”. Perusahaan belum mengumumkan harga, tanggal pre-order, tanggal pengiriman, maupun komitmen ketersediaan secara luas.
2
10
11
Karena itu, penilaian mengenai performa dan nilai pembelian masih terlalu dini. Konfigurasi 192 GB ini baru berupa pratinjau. Demonstrasi yang dipublikasikan belum dapat menggantikan pengujian independen terhadap kecepatan token, suhu, konsumsi daya, kompatibilitas model, dan performa berkelanjutan.
6
Dibandingkan sistem unified memory lain
Framework sebenarnya tidak menciptakan pola desain ini dari nol. Sistem berbasis Apple Silicon telah lama menggunakan memori bersama dan dilaporkan menawarkan bandwidth jauh lebih tinggi pada sejumlah konfigurasi, termasuk 128 GB dengan 546 GB/detik pada konfigurasi M4 Max.
17
20 PC kompak berbasis AMD Ryzen AI Max+ 395 dari produsen seperti GMKtec dan Beelink menawarkan alternatif shared memory 128 GB, sementara sistem kelas NVIDIA DGX Spark mengutamakan kompatibilitas CUDA dalam ukuran kompak dengan kapasitas memori besar.
19
24
Perbandingan tersebut memperlihatkan beberapa hal yang perlu diperhatikan calon pembeli:
- Kapasitas: menentukan apakah model terkuantisasi dapat dimuat tanpa terlalu banyak melakukan offloading.
- Bandwidth: sangat memengaruhi seberapa cepat sistem memindahkan data model selama inferensi.
- Perangkat lunak: menentukan runtime, kernel, dan perangkat penyajian model yang dapat bekerja dengan baik.
- Upgradeabilitas: penting karena memori LPDDR5X terpadu umumnya ditetapkan sejak pembelian.
- Harga dan ketersediaan: menentukan apakah konfigurasi yang baru dipratinjau benar-benar layak dibeli.
Pelajaran yang lebih besar untuk AI lokal
Spesifikasi paling menarik dari Desktop Framework bukanlah angka TOPS pada NPU-nya, melainkan kumpulan memori bersama yang sangat besar. Eksperimen Microsoft juga mengarah pada kesimpulan yang sama: ketika PC menjalankan model yang semakin besar secara lokal, pengelolaan memori oleh sistem operasi menjadi bagian penting dari pengalaman AI.
Namun, PC lokal tidak akan serta-merta menggantikan inferensi cloud. Sistem kompak dengan unified memory menarik bagi pengguna yang membutuhkan model berjalan di satu mesin, tetapi infrastruktur cloud masih lebih sesuai untuk model frontier berskala sangat besar, kapasitas yang dapat disesuaikan, kerja kolaboratif, dan workload yang memerlukan throughput multi-GPU jauh lebih tinggi.
Kesimpulan yang lebih realistis adalah bahwa “PC AI” sedang berkembang melampaui sekadar komputer dengan asisten berbasis NPU. Dengan unified memory yang cukup besar, desktop kecil dapat berubah menjadi mesin model lokal. Meski demikian, calon pembeli tetap perlu menilai bandwidth, dukungan software, memori yang tidak dapat di-upgrade, hasil benchmark nyata, serta ketersediaan resmi sebelum menganggap janji tersebut sebagai produk siap pakai.