Modellstørrelse og arkitektur: Kimi K3.1 Pro har 2,8 billioner parametere totalt, omtrent 104 milliarder aktive parametere og et kontekstvindu på én million token. 4 Omtalen av Alibabas kunngjøring beskriver en sparsom Mixture-of-Experts-arkitektur (MoE), en kombinasjon av KDA-lineær oppmerksomhet og DSA-sparsom oppmerksomhet, samt prediksjon av flere token om gangen. 9

Felles tilpasning: Ifølge omtalen ble modellen tilpasset i fellesskap av Alibaba Cloud, T-Head og Kimi-teamet ved hjelp av T-Heads SAIL-programvarestakk. Utdraget nevner også optimalisering med FlashMLA. 9 Det tilgjengelige materialet bekrefter ikke de ytterligere detaljene om DeepGEMM MoE, MegaMoE og MoonEP.

Støtte i SGLang: SGLangs oppskriftsdokumentasjon for Kimi K3.1 Pro oppgir PPU-støtte for M890 og 810E. Det gir uavhengig dokumentasjon på støtte for disse plattformene, utover Alibabas egen kunngjøring. 4 Dokumentasjonen viser til grenen kimi-k3.1-day-0, som bygger på main. Det er ikke det samme som å bekrefte at alle endringene fra lanseringsdagen allerede var slått sammen i hovedgrenen. 4

Utrulling og sted: Kunngjøringen bekrefter utrulling på SuperPoD-instanser og testmuligheter etter invitasjon i Zhongwei. Samtidig omtale sier også at modellen ble lagt ut på Qwen AI-plattformen med API-tilgang. 159 Kildene gir ikke tilstrekkelig grunnlag for å bekrefte detaljer om bare-metal-instanser, REIN-tjenesten eller dag-null-tilgjengelighet i Ulanqab.

En kommende prosessor: I en separat kunngjøring hevdet Alibaba at Zhenwu V900 yter tre ganger så godt som M890, med 216 GB minne og en båndbredde mellom brikker på 1 200 GB/s. 16 Dette er en ytelsespåstand fra leverandøren, ikke en uavhengig verifisert måling av Kimi K3.1 Pro.

Minne og forbindelser: Som en teknisk betraktning vil sparsom aktivering kunne redusere beregningene per token, men fjerner ikke behovet for å lagre modellvektene. Når en modell er så stor, blir kommunikasjon mellom eksperter og håndtering av tilstand for lange kontekster også viktig. Det tilgjengelige materialet oppgir ikke målt minnebehov, nødvendig antall akseleratorer eller en terskel for båndbredde mellom enhetene.

«Først ute» og kjøreoppsett: Kildene dokumenterer ikke at dette var Zhenwus første store lansering av en åpen modell med dag-null-støtte gjennom en maskinvarebackend i hovedgrenen. De gir heller ikke et verifisert oppsett for SGLang med separate prefill- og dekodefaser eller tensor- og ekspertparallellisering på flere noder. Oppskriftsdokumentasjonen viser maskinvarestøtte og en egen dag-null-gren, men ikke disse sterkere påstandene. 4

Panmai 920 og utbredelse: Utdragene gir ikke grunnlag for å bekrefte opplysninger om PCIe 5.0, 112G PAM4, kapasitet på 400 Gbit/s, 400 millioner pakker per sekund, multipath RDMA, programmerbar køstyring, en integrert PCIe-bryter for GPU og SSD eller rundt 30 prosent lavere systemkostnader. Påstanden om mer enn 100 store kunder og fordelingen mellom bransjer er heller ikke verifisert her.

Sammenligning med Huawei: En SGLang-sak fra 4. november omtaler arbeid med Kimi K3.1-støtte på Ascend, blant annet tilpasning av modellens DSA-oppmerksomhetsbane. 14 Det viser at et separat integrasjonsarbeid på Ascend var i gang, men er ikke nok til å fastslå at Huawei hadde en ferdig SuperPoD-løsning fra lanseringsdagen eller en ny produksjonsklar kinesisk plattform nummer to.

Modellstørrelse og arkitektur: Kimi K3.1 Pro har 2,8 billioner parametere totalt, omtrent 104 milliarder aktive parametere og et kontekstvindu på én million token. 4 Omtalen av Alibabas kunngjøring beskriver en sparsom Mixture-of-Experts-arkitektur (MoE), en kombinasjon av KDA-lineær oppmerksomhet og DSA-sparsom oppmerksomhet, samt prediksjon av flere token om gangen. 9

Felles tilpasning: Ifølge omtalen ble modellen tilpasset i fellesskap av Alibaba Cloud, T-Head og Kimi-teamet ved hjelp av T-Heads SAIL-programvarestakk. Utdraget nevner også optimalisering med FlashMLA. 9 Det tilgjengelige materialet bekrefter ikke de ytterligere detaljene om DeepGEMM MoE, MegaMoE og MoonEP.

Støtte i SGLang: SGLangs oppskriftsdokumentasjon for Kimi K3.1 Pro oppgir PPU-støtte for M890 og 810E. Det gir uavhengig dokumentasjon på støtte for disse plattformene, utover Alibabas egen kunngjøring. 4 Dokumentasjonen viser til grenen kimi-k3.1-day-0, som bygger på main. Det er ikke det samme som å bekrefte at alle endringene fra lanseringsdagen allerede var slått sammen i hovedgrenen. 4

Utrulling og sted: Kunngjøringen bekrefter utrulling på SuperPoD-instanser og testmuligheter etter invitasjon i Zhongwei. Samtidig omtale sier også at modellen ble lagt ut på Qwen AI-plattformen med API-tilgang. 159 Kildene gir ikke tilstrekkelig grunnlag for å bekrefte detaljer om bare-metal-instanser, REIN-tjenesten eller dag-null-tilgjengelighet i Ulanqab.

En kommende prosessor: I en separat kunngjøring hevdet Alibaba at Zhenwu V900 yter tre ganger så godt som M890, med 216 GB minne og en båndbredde mellom brikker på 1 200 GB/s. 16 Dette er en ytelsespåstand fra leverandøren, ikke en uavhengig verifisert måling av Kimi K3.1 Pro.

Minne og forbindelser: Som en teknisk betraktning vil sparsom aktivering kunne redusere beregningene per token, men fjerner ikke behovet for å lagre modellvektene. Når en modell er så stor, blir kommunikasjon mellom eksperter og håndtering av tilstand for lange kontekster også viktig. Det tilgjengelige materialet oppgir ikke målt minnebehov, nødvendig antall akseleratorer eller en terskel for båndbredde mellom enhetene.

«Først ute» og kjøreoppsett: Kildene dokumenterer ikke at dette var Zhenwus første store lansering av en åpen modell med dag-null-støtte gjennom en maskinvarebackend i hovedgrenen. De gir heller ikke et verifisert oppsett for SGLang med separate prefill- og dekodefaser eller tensor- og ekspertparallellisering på flere noder. Oppskriftsdokumentasjonen viser maskinvarestøtte og en egen dag-null-gren, men ikke disse sterkere påstandene. 4

Panmai 920 og utbredelse: Utdragene gir ikke grunnlag for å bekrefte opplysninger om PCIe 5.0, 112G PAM4, kapasitet på 400 Gbit/s, 400 millioner pakker per sekund, multipath RDMA, programmerbar køstyring, en integrert PCIe-bryter for GPU og SSD eller rundt 30 prosent lavere systemkostnader. Påstanden om mer enn 100 store kunder og fordelingen mellom bransjer er heller ikke verifisert her.

Sammenligning med Huawei: En SGLang-sak fra 4. november omtaler arbeid med Kimi K3.1-støtte på Ascend, blant annet tilpasning av modellens DSA-oppmerksomhetsbane. 14 Det viser at et separat integrasjonsarbeid på Ascend var i gang, men er ikke nok til å fastslå at Huawei hadde en ferdig SuperPoD-løsning fra lanseringsdagen eller en ny produksjonsklar kinesisk plattform nummer to.