Xiaomi MiMo bryder hastighedsbarrieren med 1.000 tokens/sekund på en billion-parametermodel
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7]. Hemmeligheden er tre koordinerede teknikker: FP4‑kvantisering af MoE‑eksperter, DFlash‑baseret blokvis parallel dekodning og TileRT's vedvarende...
Udgivet afRedigeret med DeepSeek-V4-ProBilleder genereret med GPT Image 1.5
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7].
Hemmeligheden er tre koordinerede teknikker: FP4‑kvantisering af MoE‑eksperter, DFlash‑baseret blokvis parallel dekodning og TileRT's vedvarende kernel‑motor med warp‑specialisering [2][4].
Basis‑modellen MiMo‑V2.5‑Pro‑FP4‑DFlash udgives som open source med FP4‑vægte og DFlash‑checkpoints på HuggingFace.
What did Xiaomi announce on June 6, 2026 regarding MiMo-V2.5-Pro-UltraSpeed, including the specific tokens-per-second milestone achieved onA conceptual representation of high-speed AI inference on standard GPU hardware.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What did Xiaomi announce on June 6, 2026 regarding MiMo-V2.5-Pro-UltraSpeed, including the specific tokens-per-second milestone achieved on. Article summary: On **June 8, 2026** (with major reports appearing on June 9), Xiaomi's MiMo team, in collaboration with TileRT, announced **MiMo-V2.5-Pro-UltraSpeed** — a new high-speed inference mode for its trillion-parameter flagship. Topic tags: general, general web, user generated, documentation. Reference image context from search candidates: Reference image 1: visual subject "# Xiaomi rolls out MiMo V2.5 with multimodal AI and improved efficiency. Xiaomi has introduced its MiMo-V2.5 model family, adding multimodal capabilities and advancing its push int" source context "Xiaomi rolls out MiMo V2.5 with multimodal AI and improved efficiency" Reference image 2: visual subje
openai.com
Den 8. juni 2026 løftede Xiaomis MiMo-team og inferenspartneren TileRT sløret for MiMo-V2.5-Pro-UltraSpeed – en ny, højhastigheds-inferenstilstand til MiMo-V2.5-Pro-modelfamilien . Kernen i nyheden var én milepæl: En model med en billion parametre, der leverer over 1.000 tokens i sekundet – beskrevet af Xiaomi selv som en førstegangspræstation i den skala – mens den kører på en standard 8-GPU-server, ikke specialbygget hardware .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Xiaomi MiMo bryder hastighedsbarrieren med 1.000 tokens/sekund på en billion-parametermodel"?
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7].
What are the key points to validate first?
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7]. Hemmeligheden er tre koordinerede teknikker: FP4‑kvantisering af MoE‑eksperter, DFlash‑baseret blokvis parallel dekodning og TileRT's vedvarende kernel‑motor med warp‑specialisering [2][4].
What should I do next in practice?
Basis‑modellen MiMo‑V2.5‑Pro‑FP4‑DFlash udgives som open source med FP4‑vægte og DFlash‑checkpoints på HuggingFace.
Xiaomi MiMo bryder hastighedsbarrieren med 1.000 tokens/sekund på en billion-parametermodel
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7]. Hemmeligheden er tre koordinerede teknikker: FP4‑kvantisering af MoE‑eksperter, DFlash‑baseret blokvis parallel dekodning og TileRT's vedvarende...
Udgivet afRedigeret med DeepSeek-V4-ProBilleder genereret med GPT Image 1.5
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7].
Hemmeligheden er tre koordinerede teknikker: FP4‑kvantisering af MoE‑eksperter, DFlash‑baseret blokvis parallel dekodning og TileRT's vedvarende kernel‑motor med warp‑specialisering [2][4].
Basis‑modellen MiMo‑V2.5‑Pro‑FP4‑DFlash udgives som open source med FP4‑vægte og DFlash‑checkpoints på HuggingFace.
What did Xiaomi announce on June 6, 2026 regarding MiMo-V2.5-Pro-UltraSpeed, including the specific tokens-per-second milestone achieved onA conceptual representation of high-speed AI inference on standard GPU hardware.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What did Xiaomi announce on June 6, 2026 regarding MiMo-V2.5-Pro-UltraSpeed, including the specific tokens-per-second milestone achieved on. Article summary: On **June 8, 2026** (with major reports appearing on June 9), Xiaomi's MiMo team, in collaboration with TileRT, announced **MiMo-V2.5-Pro-UltraSpeed** — a new high-speed inference mode for its trillion-parameter flagship. Topic tags: general, general web, user generated, documentation. Reference image context from search candidates: Reference image 1: visual subject "# Xiaomi rolls out MiMo V2.5 with multimodal AI and improved efficiency. Xiaomi has introduced its MiMo-V2.5 model family, adding multimodal capabilities and advancing its push int" source context "Xiaomi rolls out MiMo V2.5 with multimodal AI and improved efficiency" Reference image 2: visual subje
openai.com
Den 8. juni 2026 løftede Xiaomis MiMo-team og inferenspartneren TileRT sløret for MiMo-V2.5-Pro-UltraSpeed – en ny, højhastigheds-inferenstilstand til MiMo-V2.5-Pro-modelfamilien . Kernen i nyheden var én milepæl: En model med en billion parametre, der leverer over 1.000 tokens i sekundet – beskrevet af Xiaomi selv som en førstegangspræstation i den skala – mens den kører på en standard 8-GPU-server, ikke specialbygget hardware .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Xiaomi MiMo bryder hastighedsbarrieren med 1.000 tokens/sekund på en billion-parametermodel"?
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7].
What are the key points to validate first?
Xiaomi MiMo og TileRT præsenterer UltraSpeed: Verdens første billion‑parametermodel, der når over 1.000 tokens/sekund på en enkelt 8‑GPU‑server – uden specialchips [6][7]. Hemmeligheden er tre koordinerede teknikker: FP4‑kvantisering af MoE‑eksperter, DFlash‑baseret blokvis parallel dekodning og TileRT's vedvarende kernel‑motor med warp‑specialisering [2][4].
What should I do next in practice?
Basis‑modellen MiMo‑V2.5‑Pro‑FP4‑DFlash udgives som open source med FP4‑vægte og DFlash‑checkpoints på HuggingFace.
Ifølge Xiaomi og TileRT opnåede UltraSpeed-tilstanden et vedvarende output på over 1.000 tokens per sekund, med demoer, der peakede tæt på 1.200 tokens per sekund, alt sammen på en enkelt, almindelig 8-GPU-node . Dette gennembrud punkterer, hvad Xiaomi kalder branchens "umulige trekant" mellem hastighed, kapacitet og kompatibilitet med generelle GPU'er . Xiaomis CEO, Lei Jun, markerede milepælen på sociale medier og kaldte det branchens første gang, man bryder 1.000 tokens/s på en billion-parametermodel .
UltraSpeed er ikke en ny modelklasse, men et ingeniørdrevet serving-mode, der lægger sig oven på MiMo-V2.5-Pro. Grundmodellen er en MoE-arkitektur (Mixture of Experts) med 1,02 billioner parametre, 42 milliarder aktive parametre og et massivt kontekstvindue på 1 million tokens .
Tre teknikker bag miraklet
Den officielle dokumentation beskriver et full-stack co-design, der kombinerer tre teknikker for at presse gennemstrømningen over 1.000 tokens/s .
1. FP4 blandet præcisionskvantisering
For at reducere modellens hukommelsesfodaftryk og båndbreddetryk anvendes FP4-kvantisering kun på MoE-ekspertlagene, mens alle andre lag bevarer deres oprindelige præcision . Via kvantiseringsbevidst træning (QAT) opnår man en drastisk formindskelse, der presser hardwaren maksimalt, samtidig med at modelkvaliteten holdes næsten tabsfri .
2. DFlash spekulativ dekodning
DFlash erstatter den klassiske autorgressive draft-generering med blokvis, maskeret parallel prædiktion. Draft-modellen bruger sliding-window attention (SWA) for at holde prædiktionsomkostningen næsten konstant frem for at skalere med sekvenslængden . Muon-optimeringsalgoritmen og selv-destillation bruges til at øge acceptraten og dermed den reelle inferens-gennemstrømning . I kodningsscenarier viser rapporter en gennemsnitlig accepteret længde på cirka 6,30 tokens per verifikationstrin.
3. TileRT’s vedvarende kernel-motor med warp-specialisering
TileRT dropper den konventionelle per-operator kernel launch-model. I stedet bruges en vedvarende kernel-motor, hvor beregnings-pipelinen forbliver resident på GPU'en . Full-pipeline prefetching overlapper dataflytning og beregning og eliminerer næsten alle GPU-cyklusser i tomgang . Systemet dekomponerer desuden kommunikation, dataflytning og tensorberegning på tværs af forskellige warps med dedikerede roller, så GPU'en opfører sig som et kontinuerligt flydende, heterogent eksekveringssystem .
Pris: "3× prisen, 10× oplevelsen"
Prissætningen for UltraSpeed API'en er præcis det tredobbelte af standardprisen for MiMo-V2.5-Pro :
Standard: 0,87 USD per million output-tokens (international) eller 6 CNY per million (indenlandsk)
UltraSpeed (trial): 2,61 USD per million output-tokens (international) eller 18 CNY per million (indenlandsk)
Input-priserne følger samme 3× multiplikator, med cache-hit til 0,0108 USD per million tokens og cache-miss til 1,305 USD per million tokens . Xiaomi markedsfører dette som "3× prisen, 10× output-oplevelsen" og fremhæver, at man får op mod 10 gange højere hastighed for en tredobbelt token-pris .
Begrænset adgang og ansøgningsvilkår
UltraSpeed-trialperioden er tidsbegrænset fra 9. juni til 23. juni 2026 kl. 23:59. På grund af begrænsede højhastigheds-inferensressourcer er adgang ansøgningsbaseret, og virksomheder og professionelle udviklere prioriteres .
Godkendte brugere får en gratis chat-oplevelse i de to uger, men er underlagt retfærdighedsregler: maksimalt 10 vellykkede kø-placeringer per konto per dag, sessionsgrænse på 30 minutter og automatisk frigivelse af ressourcer efter 5 minutters inaktivitet . Xiaomi garanterer hverken svartider på ansøgninger eller en bestemt godkendelsesprocent .
Open source-udgivelse
Selve den underliggende model, kaldet MiMo-V2.5-Pro-FP4-DFlash, blev udgivet som open source samtidig med annonceringen . De FP4-kvantiserede vægte og DFlash-modelcheckpoints ligger frit tilgængelige på HuggingFace. Dette er i tråd med Xiaomis dokumentation, der netop peger på FP4-kvantisering og DFlash-dekodning som systemets kernekomponenter .
Hvad betyder det for udviklere?
UltraSpeed-tilstanden viser konkret, at billion-parameter-inferens ved interaktive hastigheder kan afvikles på almindelig standardinfrastruktur – et markant brud med den tilgang, der ellers ses med specialudviklede chips . For udviklere, der bygger latensfølsomme agent-applikationer, tool-calling-pipelines eller realtids kodegenerering, signalerer kombinationen af ekstrem hastighed og et kontekstvindue på 1 million tokens en praktisk vej mod hurtigere og mere kapable produktionssystemer – hvis man altså kan få fingre i adgang inden for den korte prøveperiode.
Ifølge Xiaomi og TileRT opnåede UltraSpeed-tilstanden et vedvarende output på over 1.000 tokens per sekund, med demoer, der peakede tæt på 1.200 tokens per sekund, alt sammen på en enkelt, almindelig 8-GPU-node . Dette gennembrud punkterer, hvad Xiaomi kalder branchens "umulige trekant" mellem hastighed, kapacitet og kompatibilitet med generelle GPU'er . Xiaomis CEO, Lei Jun, markerede milepælen på sociale medier og kaldte det branchens første gang, man bryder 1.000 tokens/s på en billion-parametermodel .
UltraSpeed er ikke en ny modelklasse, men et ingeniørdrevet serving-mode, der lægger sig oven på MiMo-V2.5-Pro. Grundmodellen er en MoE-arkitektur (Mixture of Experts) med 1,02 billioner parametre, 42 milliarder aktive parametre og et massivt kontekstvindue på 1 million tokens .
Tre teknikker bag miraklet
Den officielle dokumentation beskriver et full-stack co-design, der kombinerer tre teknikker for at presse gennemstrømningen over 1.000 tokens/s .
1. FP4 blandet præcisionskvantisering
For at reducere modellens hukommelsesfodaftryk og båndbreddetryk anvendes FP4-kvantisering kun på MoE-ekspertlagene, mens alle andre lag bevarer deres oprindelige præcision . Via kvantiseringsbevidst træning (QAT) opnår man en drastisk formindskelse, der presser hardwaren maksimalt, samtidig med at modelkvaliteten holdes næsten tabsfri .
2. DFlash spekulativ dekodning
DFlash erstatter den klassiske autorgressive draft-generering med blokvis, maskeret parallel prædiktion. Draft-modellen bruger sliding-window attention (SWA) for at holde prædiktionsomkostningen næsten konstant frem for at skalere med sekvenslængden . Muon-optimeringsalgoritmen og selv-destillation bruges til at øge acceptraten og dermed den reelle inferens-gennemstrømning . I kodningsscenarier viser rapporter en gennemsnitlig accepteret længde på cirka 6,30 tokens per verifikationstrin.
3. TileRT’s vedvarende kernel-motor med warp-specialisering
TileRT dropper den konventionelle per-operator kernel launch-model. I stedet bruges en vedvarende kernel-motor, hvor beregnings-pipelinen forbliver resident på GPU'en . Full-pipeline prefetching overlapper dataflytning og beregning og eliminerer næsten alle GPU-cyklusser i tomgang . Systemet dekomponerer desuden kommunikation, dataflytning og tensorberegning på tværs af forskellige warps med dedikerede roller, så GPU'en opfører sig som et kontinuerligt flydende, heterogent eksekveringssystem .
Pris: "3× prisen, 10× oplevelsen"
Prissætningen for UltraSpeed API'en er præcis det tredobbelte af standardprisen for MiMo-V2.5-Pro :
Standard: 0,87 USD per million output-tokens (international) eller 6 CNY per million (indenlandsk)
UltraSpeed (trial): 2,61 USD per million output-tokens (international) eller 18 CNY per million (indenlandsk)
Input-priserne følger samme 3× multiplikator, med cache-hit til 0,0108 USD per million tokens og cache-miss til 1,305 USD per million tokens . Xiaomi markedsfører dette som "3× prisen, 10× output-oplevelsen" og fremhæver, at man får op mod 10 gange højere hastighed for en tredobbelt token-pris .
Begrænset adgang og ansøgningsvilkår
UltraSpeed-trialperioden er tidsbegrænset fra 9. juni til 23. juni 2026 kl. 23:59. På grund af begrænsede højhastigheds-inferensressourcer er adgang ansøgningsbaseret, og virksomheder og professionelle udviklere prioriteres .
Godkendte brugere får en gratis chat-oplevelse i de to uger, men er underlagt retfærdighedsregler: maksimalt 10 vellykkede kø-placeringer per konto per dag, sessionsgrænse på 30 minutter og automatisk frigivelse af ressourcer efter 5 minutters inaktivitet . Xiaomi garanterer hverken svartider på ansøgninger eller en bestemt godkendelsesprocent .
Open source-udgivelse
Selve den underliggende model, kaldet MiMo-V2.5-Pro-FP4-DFlash, blev udgivet som open source samtidig med annonceringen . De FP4-kvantiserede vægte og DFlash-modelcheckpoints ligger frit tilgængelige på HuggingFace. Dette er i tråd med Xiaomis dokumentation, der netop peger på FP4-kvantisering og DFlash-dekodning som systemets kernekomponenter .
Hvad betyder det for udviklere?
UltraSpeed-tilstanden viser konkret, at billion-parameter-inferens ved interaktive hastigheder kan afvikles på almindelig standardinfrastruktur – et markant brud med den tilgang, der ellers ses med specialudviklede chips . For udviklere, der bygger latensfølsomme agent-applikationer, tool-calling-pipelines eller realtids kodegenerering, signalerer kombinationen af ekstrem hastighed og et kontekstvindue på 1 million tokens en praktisk vej mod hurtigere og mere kapable produktionssystemer – hvis man altså kan få fingre i adgang inden for den korte prøveperiode.
