Mengenal Naive-N0.5-Flash, model AI 309 miliar parameter dari NaiveAI

Naive-N0.5-Flash adalah model open-weight dari NaiveAI yang ditujukan untuk pemrograman serta riset dan pengembangan kecerdasan buatan. Daya tarik utamanya adalah gabungan arsitektur mixture of experts (MoE) berkapasitas 309 miliar parameter, konteks yang diklaim mencapai 1 juta token, dan sistem inferensi khusus bernama NaiveRT.24

Angka 309 miliar dan 15,5 miliar menjelaskan dua hal berbeda: jumlah parameter model secara keseluruhan dan jumlah yang aktif untuk memproses setiap token. Jadi, 15,5 miliar bukan ukuran total model. NaiveAI menyatakan bobot model dan kode inferensinya tersedia dengan lisensi MIT.247

Mengapa hanya 15,5 miliar parameter yang aktif?

Dalam model MoE, tidak semua bagian model digunakan sekaligus untuk setiap token. Naive-N0.5-Flash memiliki 309 miliar parameter total, tetapi 15,5 miliar di antaranya aktif per token menurut kartu modelnya.2 Cara kerja yang jarang mengaktifkan parameter ini membedakan kapasitas keseluruhan model dari komputasi yang digunakan pada satu langkah pemrosesan.

NaiveAI mengarahkan model ini untuk pekerjaan coding dan riset serta pengembangan AI. Model tersebut dikembangkan lebih lanjut dari model dasar MiMo-V2.5 milik Xiaomi, bukan dibangun sepenuhnya dari nol.12

Konteks 1 juta token tanpa lapisan full attention

NaiveAI menyebut modelnya memiliki jendela konteks bawaan hingga 1 juta token. Untuk itu, model menggabungkan Sliding-Window Attention (SWA), yang memusatkan perhatian pada rentang lokal, dan DeepSeek Sparse Attention (DSA), mekanisme perhatian jarang yang mendukung pemrosesan konteks lebih panjang. Model ini diklaim tidak menggunakan lapisan full attention. Susunannya didominasi rasio SWA–DSA sekitar 5:1.27

Klaim kapasitas konteks menunjukkan panjang masukan yang dapat ditangani menurut spesifikasi model. Namun, angka 1 juta token saja tidak membuktikan bahwa semua tugas dengan konteks sepanjang itu akan memberikan hasil yang sama baiknya.

Angka kecepatan NaiveRT perlu dibaca sesuai modenya

NaiveRT adalah sistem inferensi yang dirilis bersama model. NaiveAI menyebut teknologi seperti mega-kernel fusion, Programmatic Dependent Launch (PDL), dan speculative decoding sebagai bagian dari sistem tersebut. Perusahaan melaporkan kecepatan 50 token per detik per pengguna dalam mode Standard dan hingga 2.000 token per detik dalam mode Ultrafast.2

Angka-angka itu merupakan klaim performa dari penyedia, bukan jaminan kecepatan yang akan didapat setiap pengguna. Selain itu, 50 token per detik per pengguna dan angka maksimum hingga 2.000 token per detik berasal dari mode berbeda, sehingga keduanya bukan ukuran yang setara atau patokan tunggal untuk semua penggunaan.2

Intinya

Naive-N0.5-Flash menggabungkan bobot terbuka berlisensi MIT, arsitektur MoE 309 miliar parameter dengan 15,5 miliar parameter aktif per token, konteks bawaan 1 juta token, dan sistem inferensi tersendiri.247 Spesifikasi serta angka kecepatan tersebut menjelaskan klaim dalam materi rilis; untuk menilai kecocokannya, kualitas hasil dan performa pada alur kerja coding atau riset tertentu tetap perlu dievaluasi secara langsung.