Co umí model Naive-N0.5-Flash od NaiveAI?

Naive-N0.5-Flash je model s otevřenými váhami, který NaiveAI zaměřuje na programování a výzkum a vývoj umělé inteligence. Jeho hlavními parametry jsou 309 miliard parametrů celkem, 15,5 miliardy aktivních při zpracování jednoho tokenu, deklarovaný nativní kontext až jeden milion tokenů a vlastní inference systém NaiveRT.24

Rozdíl mezi celkovým a aktivním počtem parametrů je podstatný: 15,5 miliardy neznamená, že celý model má jen tolik parametrů. Jde o množství zapojené při výpočtu pro konkrétní token. Váhy modelu i inference kód jsou podle zveřejněných materiálů pod licencí MIT.47

Jak funguje architektura MoE

MoE, tedy směs expertů, umožňuje modelu zapojovat pro jednotlivé tokeny jen část své celkové kapacity. Model Naive-N0.5-Flash má podle své karty 309 miliard parametrů, ale na jeden token aktivuje 15,5 miliardy.2 Aktivní parametry tak popisují výpočetní část modelu, nikoli jeho celkovou velikost.

NaiveAI model představuje jako nástroj pro programování a výzkum a vývoj AI. Nevznikl celý od nuly: navazuje na základ MiMo-V2.5 od Xiaomi.12

Milion tokenů bez vrstev plné pozornosti

NaiveAI uvádí, že model zvládá nativní kontext až jednoho milionu tokenů díky kombinaci klouzavého okna pozornosti (SWA) a odlehčené řídké pozornosti DeepSeek (DSA). Vrstvy plné pozornosti, které by porovnávaly všechny tokeny navzájem, podle popisu modelu nepoužívá. Firma uvádí převážně poměr pěti vrstev SWA na jednu vrstvu DSA.27

Zjednodušeně řečeno, SWA se soustředí na nejbližší okolí, zatímco DSA nabízí řídký způsob, jak pracovat i se vzdálenějšími částmi kontextu. Cílem návrhu je podporovat dlouhý kontext bez plné pozornosti. Deklarovaná délka okna sama o sobě ale nezaručuje, že model bude stejně spolehlivý při každém úkolu s rozsáhlým vstupem.

Co znamenají rychlosti NaiveRT

NaiveRT je inference systém vydaný spolu s modelem. NaiveAI mezi použitými postupy uvádí slučování operací do mega-jader, Programmatic Dependent Launch (PDL) a spekulativní dekódování. Firma deklaruje 50 tokenů za sekundu na uživatele v režimu Standard a až 2 000 tokenů za sekundu v režimu Ultrafast.2

Jde o hodnoty uváděné výrobcem, nikoli o záruku rychlosti v každém prostředí nebo při každém typu úlohy. Navíc nejde o totožné metriky: údaj pro režim Standard je vztažený na jednoho uživatele, zatímco 2 000 tokenů za sekundu je maximum uváděné pro režim Ultrafast.2

Co si z toho odnést

Naive-N0.5-Flash spojuje otevřené váhy pod licencí MIT, řídkou aktivaci v modelu MoE s 309 miliardami parametrů, deklarovaný nativní milionový kontext bez vrstev plné pozornosti a vlastní systém pro obsluhu modelu.247 Při hodnocení je dobré oddělit technické specifikace a rychlostní údaje od skutečné kvality modelu při konkrétní práci. Materiály k vydání popisují schopnosti a tvrzení NaiveAI, samy o sobě však nedokládají výsledky v určitém programátorském nebo výzkumném pracovním postupu.