iFLYTEK brengt compacte Spark X2.5-modellen met context van 1 miljoen tokens naar edge-apparaten

iFLYTEK’s volledige dochteronderneming Ciyuan Xinghuo heeft op 1 september 2026 twee compacte taalmodellen voor edge-apparaten uitgebracht en open source gemaakt: Spark (Xinghuo) X2.5-4B en Spark X2.5-1.7B. De opvallendste specificatie is een native contextvenster van maximaal 1 miljoen tokens, bedoeld voor lokale verwerking op apparaten. iFLYTEK stelt dat dit de eerste edge-modellen in deze categorie met die mogelijkheid zijn; die koplopersclaim is een claim van het bedrijf zelf en niet onafhankelijk gevalideerd. 2

Kleine modellen, zeer lange invoer

De modellen met respectievelijk 4 miljard en 1,7 miljard parameters gebruiken een hybride attention-architectuur. Volgens iFLYTEK zijn ze afgestemd op AI-agents en toolgebruik, programmeren, wiskundig redeneren en het opvolgen van instructies. Het bedrijf zegt dat ze sterk presteren tegenover open modellen van vergelijkbare omvang, maar publiceerde bij de aankondiging geen onafhankelijke vergelijkende testresultaten. 2

De beoogde inzet is lokaal of aan de rand van het netwerk: in slimme hardware, voertuigen, robots en Internet-of-Things-apparaten. Juist daar kunnen internetverbinding, reactietijd en de omgang met gegevens redenen zijn om niet voortdurend op een clouddienst te leunen. 3

Waarom 1 miljoen tokens lokaal relevant kan zijn

Bij lange documenten wordt vaak gewerkt met chunking: een handleiding, beleidsarchief of codebase wordt opgedeeld in kleine stukken, waarna per vraag relevante passages worden opgehaald. Dat is bruikbaar, maar kan ertoe leiden dat een uitzondering, regel of afhankelijkheid elders in het document buiten beeld blijft.

iFLYTEK gebruikt een aftersaleshandleiding als voorbeeld. Als de volledige handleiding in de invoer past, kan het model volgens het bedrijf redeneren over bepalingen rond retouren, storingen, uitzonderingen, logistiek, gegevenswissing en kostenverantwoordelijkheid — ook wanneer die informatie over verschillende hoofdstukken verdeeld staat. Daarmee wil het bedrijf het verlies van samenhang voorkomen dat kan ontstaan als documenten als losse fragmenten worden verwerkt. 2

Een groot contextvenster is overigens geen bewijs dat een model betrouwbaar redeneert of feitelijk juiste antwoorden geeft. Wie de modellen wil inzetten, zal onder meer de kwaliteit van het ophalen van informatie, responstijd, geheugenvereisten en correcte toepassing van regels binnen lange documenten zelf moeten testen.

Prestaties: wat iFLYTEK claimt

iFLYTEK positioneert Spark X2.5 ook voor lokale productiviteitsassistentie. Een concrete lijst met kantoorfuncties of een specifieke benchmark voor kantoorautomatisering is echter niet gepubliceerd in het vrijgavemateriaal. 2

Voor andere toepassingen noemt het bedrijf de volgende resultaten en mogelijkheden:

• Programmeren: Spark X2.5-4B zou bij algoritme-implementatie, codeaanvulling en codegeneratie kunnen concurreren met cloudmodellen die twee tot drie keer zoveel parameters hebben. 2
• Slimme woningbediening: Spark X2.5-1.7B behaalde volgens iFLYTEK 90,3% nauwkeurigheid voor end-to-end-uitvoering van instructies op de Domux-testset voor slimme woningen, bij een gemiddelde responstijd van 0,85 seconde. Dat is een gerapporteerd resultaat op één benoemde testset, geen algemene garantie voor praktijksituaties. 2
• Robotica en apparaatbediening: de modellen worden gepresenteerd voor lokale aansturing of manipulatie, doeltracking en navigatiebeslissingen. Daarmee zouden robots en andere edge-apparaten minder afhankelijk zijn van een permanente cloudverbinding en vaste, vooraf geprogrammeerde routines. 2

Training en inzetomgeving

Volgens iFLYTEK zijn beide modellen volledig getraind op binnenlandse computerplatforms, met ongeveer 20 biljoen diverse pretrainingtokens. Daarna volgden supervised fine-tuning en reinforcement learning. 2

De aangekondigde compatibiliteit omvat hardware van NVIDIA, Huawei, Hygon en Hemo. Voor inferentie noemt iFLYTEK vLLM, SGLang en llama.cpp; voor implementatie Ollama en LM Studio; en voor incrementele fine-tuning LLaMA-Factory. De feitelijke snelheid en het geheugengebruik hangen af van de modelvariant, kwantisatie, ingestelde contextlengte en gebruikte hardware. 2

Beschikbaarheid en API’s

iFLYTEK meldt dat modelgewichten, broncodeopslagplaatsen en implementatiedocumentatie zijn vrijgegeven. De modellen zouden beschikbaar zijn via Hugging Face en GitHub. Daarnaast kondigde het bedrijf bijbehorende API’s aan op zijn Starry MaaS-platform, met tijdelijk gratis toegang. Een einddatum of quotum voor die actie is niet genoemd; ontwikkelaars doen er dus goed aan de actuele voorwaarden te controleren voordat ze daarop plannen baseren. 26

De praktische conclusie

Het onderscheidende punt van Spark X2.5 is niet alleen dat de modellen open source en relatief compact zijn. Het is vooral de combinatie van modellen met 1,7B en 4B parameters en een door de leverancier geclaimd native contextvenster van 1 miljoen tokens. Als die mogelijkheid ook in de praktijk standhoudt, kan dat interessant zijn voor lokale, privacybewuste analyse van complete handleidingen, technische archieven en codebases waarin verbanden tussen ver uit elkaar liggende onderdelen tellen.

De logische volgende stap is daarom geen blind vertrouwen op de specificaties, maar een eigen proef: test de modellen met representatieve lang-contexttaken op precies de hardware waarop ze uiteindelijk moeten draaien.