היקף המודל והארכיטקטורה: ל-Kimi K3.1 Pro יש 2.8 טריליון פרמטרים בסך הכול, כ-104 מיליארד פרמטרים פעילים וחלון הקשר של מיליון טוקנים. 4 דיווח על הודעת Alibaba מתאר ארכיטקטורת MoE דלילה, שילוב של קשב ליניארי KDA וקשב דליל DSA, וכן חיזוי של כמה טוקנים בכל צעד. 9

ההתאמה המשותפת: לפי הדיווח, Alibaba Cloud, חברת T-Head וצוות Kimi התאימו יחד את המודל באמצעות מחסנית התוכנה SAIL של T-Head. הקטע הזמין מזכיר במפורש גם אופטימיזציה של FlashMLA. 9 אין בקטעי המקורות שנאספו די מידע כדי לאשר את פרטי ההתאמה הנוספים לגבי DeepGEMM MoE, ‏MegaMoE ו-MoonEP.

אימות נפרד ב-SGLang: ספר המתכונים של SGLang עבור Kimi K3.1 Pro מציין תמיכה ב-PPU בדגמי M890 ו-810E — חיזוק בלתי תלוי לכך שהתמיכה אינה מוגבלת להודעת Alibaba. 4 עם זאת, לפי התיעוד המודל מוגש מענף kimi-k3.1-day-0, המבוסס על main; אין בכך הוכחה שכל השינויים מיום ההשקה כבר מוזגו לענף הראשי. 4

פריסה ומיקום: לפי הודעת Alibaba, המודל נפרס במופעי SuperPoD ונפתחו בדיקות מוזמנות בז'ונגוויי. דיווח בן התקופה מוסיף שהמודל נפרס גם בפלטפורמת הבינה המלאכותית Qwen, עם שירות API. 159 אין די מידע לאמת פרטים על מופעים bare-metal, פריסה בשירות REIN או זמינות ביום ההשקה באולנצ'אב.

המעבד מהדור הבא: בהודעה נפרדת על Apsara, Alibaba טוענת שמעבד Zhenwu V900 מספק ביצועים גבוהים פי שלושה מ-M890, עם זיכרון של 216 ג'יגה־בייט ורוחב פס בין-שבבי של 1,200 ג'יגה־בייט לשנייה. 16 אלה נתוני ביצועים שמציגה החברה, ולא תוצאות benchmark שאומתו באופן עצמאי עבור Kimi K3.1 Pro.

זיכרון ותקשורת בין מאיצים: מבחינה הנדסית, הפעלה דלילה יכולה לצמצם את החישוב הנדרש לכל טוקן, אבל אינה מבטלת את הצורך לאחסן את משקולות המודל. כשמחלקים מודל בסדר גודל כזה בין מאיצים, גם תקשורת הנדרשת לניתוב מומחים וניהול מצב של הקשר ארוך נעשים חשובים. המקורות שנבדקו אינם מספקים מדידה של צריכת הזיכרון, מספר המאיצים הנדרש או סף רוחב הפס.

הטענה ל״תמיכה ראשונה ביום ההשקה״ ומתכוני ההרצה: אין די מידע לקבוע שזו הייתה השקת היום הראשון הראשונה של Zhenwu למודל פתוח מרכזי דרך backend חומרה שמוזג לקוד הראשי. כמו כן, אין במידע הזמין מתכוני SGLang מאומתים ל-prefill ול-decode עם מקביליות טנזור ומומחים על פני כמה צמתים. ספר המתכונים מאשר תמיכה בחומרה וקיומו של ענף ייעודי ליום ההשקה, אך לא טענות רחבות יותר. 4

Panmai 920 ואימוץ מסחרי: מהקטעים הזמינים אי אפשר לדעת אם ההודעה כללה פרטים על PCIe 5.0, ‏112G PAM4, תפוקה של 400Gbps, קצב של 400 מיליון מנות בשנייה, RDMA רב-מסלולי, בקרת עומסים ניתנת לתכנות, מתג PCIe משולב ל-GPU ול-SSD או חיסכון של כ-30% בעלויות המערכת. גם הטענה על יותר מ-100 לקוחות גדולים ופילוחם לפי ענף אינה מאומתת כאן.

ההשוואה ל-Huawei: סוגיה של SGLang מ-4 בנובמבר מתארת עבודת תמיכה ב-Kimi K3.1 Pro על Ascend, לרבות ניתוב מסלול הקשב DSA. 14 זה מעיד על מאמץ אינטגרציה נפרד עבור Ascend, אך אינו מספיק כדי לאשר שהושקה הצעת SuperPoD של Huawei ביום הראשון או שקיימת מחסנית מקומית שנייה ומוכנה לייצור.

היקף המודל והארכיטקטורה: ל-Kimi K3.1 Pro יש 2.8 טריליון פרמטרים בסך הכול, כ-104 מיליארד פרמטרים פעילים וחלון הקשר של מיליון טוקנים. 4 דיווח על הודעת Alibaba מתאר ארכיטקטורת MoE דלילה, שילוב של קשב ליניארי KDA וקשב דליל DSA, וכן חיזוי של כמה טוקנים בכל צעד. 9

ההתאמה המשותפת: לפי הדיווח, Alibaba Cloud, חברת T-Head וצוות Kimi התאימו יחד את המודל באמצעות מחסנית התוכנה SAIL של T-Head. הקטע הזמין מזכיר במפורש גם אופטימיזציה של FlashMLA. 9 אין בקטעי המקורות שנאספו די מידע כדי לאשר את פרטי ההתאמה הנוספים לגבי DeepGEMM MoE, ‏MegaMoE ו-MoonEP.

אימות נפרד ב-SGLang: ספר המתכונים של SGLang עבור Kimi K3.1 Pro מציין תמיכה ב-PPU בדגמי M890 ו-810E — חיזוק בלתי תלוי לכך שהתמיכה אינה מוגבלת להודעת Alibaba. 4 עם זאת, לפי התיעוד המודל מוגש מענף kimi-k3.1-day-0, המבוסס על main; אין בכך הוכחה שכל השינויים מיום ההשקה כבר מוזגו לענף הראשי. 4

פריסה ומיקום: לפי הודעת Alibaba, המודל נפרס במופעי SuperPoD ונפתחו בדיקות מוזמנות בז'ונגוויי. דיווח בן התקופה מוסיף שהמודל נפרס גם בפלטפורמת הבינה המלאכותית Qwen, עם שירות API. 159 אין די מידע לאמת פרטים על מופעים bare-metal, פריסה בשירות REIN או זמינות ביום ההשקה באולנצ'אב.

המעבד מהדור הבא: בהודעה נפרדת על Apsara, Alibaba טוענת שמעבד Zhenwu V900 מספק ביצועים גבוהים פי שלושה מ-M890, עם זיכרון של 216 ג'יגה־בייט ורוחב פס בין-שבבי של 1,200 ג'יגה־בייט לשנייה. 16 אלה נתוני ביצועים שמציגה החברה, ולא תוצאות benchmark שאומתו באופן עצמאי עבור Kimi K3.1 Pro.

זיכרון ותקשורת בין מאיצים: מבחינה הנדסית, הפעלה דלילה יכולה לצמצם את החישוב הנדרש לכל טוקן, אבל אינה מבטלת את הצורך לאחסן את משקולות המודל. כשמחלקים מודל בסדר גודל כזה בין מאיצים, גם תקשורת הנדרשת לניתוב מומחים וניהול מצב של הקשר ארוך נעשים חשובים. המקורות שנבדקו אינם מספקים מדידה של צריכת הזיכרון, מספר המאיצים הנדרש או סף רוחב הפס.

הטענה ל״תמיכה ראשונה ביום ההשקה״ ומתכוני ההרצה: אין די מידע לקבוע שזו הייתה השקת היום הראשון הראשונה של Zhenwu למודל פתוח מרכזי דרך backend חומרה שמוזג לקוד הראשי. כמו כן, אין במידע הזמין מתכוני SGLang מאומתים ל-prefill ול-decode עם מקביליות טנזור ומומחים על פני כמה צמתים. ספר המתכונים מאשר תמיכה בחומרה וקיומו של ענף ייעודי ליום ההשקה, אך לא טענות רחבות יותר. 4

Panmai 920 ואימוץ מסחרי: מהקטעים הזמינים אי אפשר לדעת אם ההודעה כללה פרטים על PCIe 5.0, ‏112G PAM4, תפוקה של 400Gbps, קצב של 400 מיליון מנות בשנייה, RDMA רב-מסלולי, בקרת עומסים ניתנת לתכנות, מתג PCIe משולב ל-GPU ול-SSD או חיסכון של כ-30% בעלויות המערכת. גם הטענה על יותר מ-100 לקוחות גדולים ופילוחם לפי ענף אינה מאומתת כאן.

ההשוואה ל-Huawei: סוגיה של SGLang מ-4 בנובמבר מתארת עבודת תמיכה ב-Kimi K3.1 Pro על Ascend, לרבות ניתוב מסלול הקשב DSA. 14 זה מעיד על מאמץ אינטגרציה נפרד עבור Ascend, אך אינו מספיק כדי לאשר שהושקה הצעת SuperPoD של Huawei ביום הראשון או שקיימת מחסנית מקומית שנייה ומוכנה לייצור.