AMD Konfirmasi Dukungan Lokal untuk Meta Muse Glimmer 30B: PC Agenik Kini Punya 'Otak' 30 Miliar Parameter yang Terbuka

Tolok Ukur Performa di Perangkat Keras AMD

AMD merilis tolok ukur performa awal untuk Muse Glimmer 30B di perangkat keras terbaru mereka. Pengujian dilakukan di Windows menggunakan proyek llama.cpp dengan backend Vulkan dan speculative decoding dFlash .

• Prosesor AMD Ryzen AI Max+ 395: Hingga 24 token per detik pada sistem dengan memori unified 128 GB .
• GPU AMD Radeon AI PRO R9700 (satu buah): Hingga 53 token per detik dengan speculative decoding dFlash diaktifkan .

Perlu dicatat, ini adalah hasil awal yang diukur oleh AMD sendiri, sehingga performa akhir di dunia nyata mungkin berbeda tergantung konfigurasi sistem, pendinginan, dan beban kerja .

Model ini menggunakan kuantisasi 4-bit (K-Quant-Dynamic) untuk menekan ukuran memorinya dari lebih dari 55 GB pada presisi penuh menjadi sekitar 18–20 GB . Ini memungkinkan bobot model, cache KV, dan encoder persepsi dimuat secara bersamaan ke dalam satu GPU konsumen dengan VRAM 24 GB atau 32 GB . Pengujian Meta sendiri menemukan bahwa tingkat kuantisasi ini "menimbulkan degradasi yang minimal hingga tidak ada sama sekali pada tugas-tugas agenik" .

Alat Pengembang dan Jalur Integrasi

AMD dan mitra-mitranya telah menyediakan berbagai jalur langsung bagi developer untuk mulai membangun dengan Muse Glimmer sejak hari pertama.

LM Studio Bionic

LM Studio bermitra langsung dengan Meta untuk memberikan dukungan sejak hari pertama untuk Muse Glimmer di aplikasi desktop LM Studio Bionic . Pengguna dapat mengunduh dan menjalankan model secara lokal hanya dengan beberapa klik dari katalog dalam aplikasi. Varian Muse Glimmer terkecil membutuhkan setidaknya RAM 26 GB . LM Studio tersedia di Windows dan Linux, menggunakan runtime llama.cpp, dan merupakan alat penting dalam ekosistem AI lokal AMD .

Server AMD Lemonade

Server AI lokal sumber terbuka milik AMD, Lemonade, diposisikan sebagai jalur integrasi utama . Lemonade menyajikan model yang berjalan secara lokal melalui API standar industri OpenAI, sehingga aplikasi apa pun yang sudah bekerja dengan OpenAI dapat langsung bekerja dengan instance Muse Glimmer lokal . Lemonade mendukung pembuatan teks, gambar, dan model audio dalam satu paket C++ ringan yang berjalan di Windows, Linux, macOS, dan Docker .

Ekosistem yang Lebih Luas

Selain LM Studio dan Lemonade, Muse Glimmer mendapat dukungan ekosistem luas yang mulai diluncurkan bersamaan:

• Hugging Face Transformers: Bobot model resmi dihosting di meta-models/Muse-Glimmer-30B di bawah lisensi Apache 2.0 .
• llama.cpp: Runtime utama untuk akselerasi GPU AMD melalui backend Vulkan .
• Unsloth: Mendukung model untuk inferensi dan fine-tuning, memungkinkan fine-tuning penuh pada VRAM 20 GB .
• vLLM dan SGLang: Server inferensi throughput tinggi .
• Ollama: Dukungan hari pertama di versi 0.32.7 .
• ExecuTorch dan MLX: Untuk deployment di perangkat dan Apple Silicon .

Luasnya perangkat ini berarti developer tidak terkunci pada satu runtime dan dapat memilih tumpukan yang paling sesuai dengan skenario deployment mereka .

Visi Strategis: "PC Agenik" dan AI Independen dari Cloud

AMD secara eksplisit menyebut kombinasi Muse Glimmer dan perangkat keras mereka sebagai "fase berikutnya dari PC Agenik" . Argumen strategisnya terdiri dari tiga bagian:

1. Privasi dan Kedaulatan Data

Menjalankan inferensi sepenuhnya di perangkat keras lokal berarti data sensitif — dokumen, kode, informasi pribadi — tidak pernah meninggalkan mesin pengguna. Tidak ada panggilan API ke server pihak ketiga, tidak ada data yang dicatat oleh penyedia cloud, dan tidak ada ketergantungan pada konektivitas jaringan . Untuk kasus penggunaan perusahaan yang melibatkan data rahasia, ini adalah keunggulan yang menentukan.

2. Biaya Inferensi Berkelanjutan Nol Rupiah

Setelah perangkat keras dibeli, inferensi lokal tidak memiliki biaya per-token. Tidak ada biaya penggunaan API, tidak ada biaya langganan untuk titik akhir inferensi, dan tidak ada biaya komputasi cloud yang berubah-ubah . Bagi developer yang menjalankan proses agen berkelanjutan atau beban kerja batch yang berat, ini secara fundamental mengubah ekonomi penerapan agen AI.

3. Kontrol Penuh Developer melalui Lisensi Apache 2.0

Keputusan Meta untuk merilis Muse Glimmer di bawah lisensi Apache 2.0 yang permisif adalah bagian penting dari tawaran ini . Developer dapat memeriksa, memodifikasi, melakukan fine-tuning, dan mendistribusikan ulang model tanpa batasan. Ini menghilangkan ketergantungan pada vendor penyedia model tunggal dan selaras dengan dorongan AMD yang lebih luas untuk membangun alternatif terbuka dari ekosistem CUDA milik Nvidia .

Seperti yang dinyatakan AMD di blog resmi mereka: "Kombinasi model open-weight seperti Muse Glimmer dan perangkat keras lokal yang bertenaga menjaga semua inferensi tetap privat, latensi rendah, dan tidak bergantung pada biaya atau konektivitas API cloud" .

Catatan dan Pertimbangan

Meskipun pengumuman ini signifikan, ada beberapa catatan yang perlu diingat:

• Tolok ukur awal: Angka performa 24 dan 53 tok/dtk berasal dari pengujian awal AMD di Windows dengan tumpukan perangkat lunak tertentu (llama.cpp dengan Vulkan dan dFlash). Performa dunia nyata akan bervariasi .
• Tumpukan perangkat lunak DIY di Windows: Bagi pengguna Windows, deployment Muse Glimmer saat ini masih memerlukan perakitan perangkat lunak sendiri. Belum ada penginstal satu-klik siap pakai dari AMD saat peluncuran .
• Persyaratan perangkat keras: Varian kuantisasi terkecil masih membutuhkan setidaknya 26 GB RAM sistem . Pengguna dengan sistem 16 GB tidak akan bisa menjalankan model ini secara lokal.
• Kematangan ekosistem: Meskipun dukungan hari pertama luas, model ini baru dirilis pada 10 Agustus 2026, dan beberapa integrasi masih dalam proses peluncuran selama beberapa hari dan minggu ke depan .

Kesimpulan

Konfirmasi AMD atas dukungan lokal untuk Meta Muse Glimmer 30B adalah tonggak penting bagi ekosistem AI lokal. Ini memvalidasi bahwa model agenik 30 miliar parameter yang mumpuni dapat berjalan di satu GPU konsumen, memberikan developer alternatif open-weight yang matang di bawah lisensi Apache 2.0, dan menawarkan jalur integrasi yang jelas dan langsung melalui LM Studio dan Lemonade. Pengumuman ini memperkuat argumen untuk "PC Agenik" — sebuah masa depan di mana agen AI yang canggih berjalan secara pribadi, terus-menerus, dan hemat biaya di perangkat keras yang sudah dimiliki pengguna .