Vad är Naive-N0.5-Flash? NaiveAI:s modell med 309 miljarder parametrar

Naive-N0.5-Flash är NaiveAI:s modell med öppna vikter, avsedd för kodning och forskning och utveckling inom AI. Den kombinerar en blandning-av-experter-modell (MoE) med 309 miljarder parametrar, ett uppgivet inbyggt kontextfönster på en miljon token och en särskild inferensmiljö som kallas NaiveRT.24

En viktig skillnad är den mellan modellens totala storlek och hur mycket beräkning som används för varje token: 15,5 miljarder aktiva parametrar betyder inte att modellen bara har 15,5 miljarder parametrar. NaiveAI uppger att modellvikterna och inferenskoden släpps under MIT-licensen.47

Så fungerar modellen med 309 miljarder parametrar

En MoE-modell aktiverar bara en del av sina parametrar för varje token. Enligt modellkortet har Naive-N0.5-Flash 309 miljarder parametrar totalt och 15,5 miljarder aktiva per token.2 Den senare siffran beskriver den glesa beräkningen – inte modellens totala storlek.

NaiveAI riktar modellen mot kodning och AI-forskning och utveckling. Den har vidaretränats från Xiaomis MiMo-V2.5 och beskrivs alltså inte som en modell byggd helt från grunden.12

En miljon token utan lager med full attention

NaiveAI uppger att modellen stöder ett inbyggt kontextfönster på en miljon token genom en kombination av sliding-window attention (SWA) och lättviktig DeepSeek Sparse Attention (DSA), utan lager med full attention. I modellmaterialet beskrivs upplägget som huvudsakligen ett 5:1-förhållande mellan SWA och DSA.27

Förenklat fokuserar SWA på ett begränsat, närliggande sammanhang, medan DSA använder en glesare mekanism för att hantera information längre bort. Tanken är att stödja långa kontexter utan att använda lager där varje token kan rikta uppmärksamheten mot alla andra. Miljonen token är en angiven modellkapacitet, men innebär inte i sig att modellen presterar lika bra på alla uppgifter med lång kontext.

Vad betyder hastighetssiffrorna för NaiveRT?

NaiveRT är inferenssystemet som släpptes tillsammans med modellen. Enligt NaiveAI använder det bland annat sammanslagning av GPU-kärnor (mega-kernel fusion), Programmatic Dependent Launch (PDL) och spekulativ avkodning. Företaget uppger 50 token per sekund och användare i Standard-läget och upp till 2 000 token per sekund i Ultrafast-läget.2

Det är leverantörens egna uppgifter om systemets hastighet, inte en garanti för vad användare får i varje miljö eller arbetsflöde. Standard-siffran anges per användare, medan Ultrafast-siffran är ett maximum. De bör därför inte ses som två likvärdiga mätningar eller som en gemensam förväntad hastighet.2

Det viktigaste att ta med sig

Naive-N0.5-Flash sticker ut genom kombinationen av öppna vikter under MIT-licens, gles aktivering i en MoE-modell med 309 miljarder parametrar, ett uppgivet inbyggt kontextfönster på en miljon token utan lager med full attention och en separat inferensmiljö.247

För den som utvärderar modellen är det klokt att skilja specifikationerna från bevisad kvalitet på konkreta uppgifter och faktisk prestanda vid drift. Det citerade lanseringsmaterialet redovisar modellens angivna funktioner och hastighetsanspråk, men visar inte i sig hur den fungerar i ett visst kodnings- eller forskningsflöde.