AnswersPublished17 sources
openPangu-2.0-Pro: מה פתוח, מה ניתן לשחזר ומה עדיין חסר
Huawei פרסמה משקולות, קוד הסקה בסיסי ודוח טכני עבור openPangu 2.0 Pro — מודל MoE עם כ־505 מיליארד פרמטרים בסך הכול וכ־18 מיליארד פרמטרים פעילים לכל טוקן. מנגנוני MoE, שילוב DSA+SWA, טופולוגיית mHC בעלת ארבעה זרמים, חיזוי רב טוקני והאופטימייזר Muon נועדו להפוך עבודה עם הקשר ארוך על חומרת Ascend למעשית יותר.
Research answer
Key takeaways
- Huawei פרסמה משקולות, קוד הסקה בסיסי ודוח טכני עבור openPangu 2.0 Pro — מודל MoE עם כ־505 מיליארד פרמטרים בסך הכול וכ־18 מיליארד פרמטרים פעילים לכל טוקן.
- מנגנוני MoE, שילוב DSA+SWA, טופולוגיית mHC בעלת ארבעה זרמים, חיזוי רב טוקני והאופטימייזר Muon נועדו להפוך עבודה עם הקשר ארוך על חומרת Ascend למעשית יותר.
- הפרסום משמעותי להפעלה, לבדיקה ולניסויים, אך שחזור עצמאי של אימון מקדים על כ־34 טריליון טוקנים דורש עדיין נתונים או מפרט נתונים, קוד ותצורות אימון מלאים, ותשתית חישוב תואמת.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How does Huawei’s open-sourcing of openPangu-2.0-Pro—a 505B-parameter MoE model with roughly 180B active parameters, 512K context, 34T-token. Article summary: One correction: openPangu-2.0-Pro has about 505B total parameters but roughly 18B—not 180B—activated per token. The release is significant because it makes an Ascend-native, non-NVIDIA path inspectable from model design . Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
הפרסום של openPangu-2.0-Pro מצד Huawei הוא יותר מהעלאת משקולות של מודל לרשת — אבל חשוב להגדיר במדויק מה הוא מאפשר. הוא פותח דרך משמעותית לבדיקה, להבנה ולהפעלה של מודל גדול על פלטפורמת Ascend של Huawei, ולא מתכון מוכן לשחזור מלא של ריצת האימון המקורית בהיקף חזיתי.
הנתון שמבלבל לעיתים קרובות הוא מספר הפרמטרים הפעילים: מדובר במודל Mixture of Experts (MoE) עם כ־505 מיליארד פרמטרים בסך הכול, אך רק כ־18 מיליארד פרמטרים פעילים לכל טוקן — לא 180 מיליארד. חלון ההקשר שלו הוא 512K טוקנים, והוא אומן על כ־34 טריליון טוקנים, לפי כרטיס המודל. 21
מה Huawei פרסמה בפועל
ב־31 ביולי 2026 הודיעה Huawei על פרסום פתוח של משקולות המודל, קוד הסקה בסיסי ודוח טכני עבור openPangu-2.0-Pro. החברה ציינה כי רכיבים נוספים ממשפחת openPangu 2.0 מועלים בהדרגה לערוצי הקוד הפתוח שלה. 12
לכל רכיב ערך מעשי שונה:
- משקולות המודל מאפשרות לבחון את המודל המאומן ולהגיש אותו לשימוש בהסקה.
- קוד ההסקה מספק נתיב מימוש שמיועד לסביבת Ascend.
- הדוח הטכני ותיעוד המודל מתארים את הארכיטקטורה ואת בחירות התכנון שעליהן מדווחת Huawei.
12
21
במפת הדרכים שהוצגה בכנס המפתחים HDC 2026 דובר גם על פתיחה מדורגת של שבעה רכיבים, ובהם קוד לאימון מקדים, קוד לאימון שלאחר האימון ואופרטורי אימון. 2
10 אם רכיבים אלה יפורסמו בצורה שימושית, המיזם יתקרב יותר למחסנית מלאה — מאימון ועד הסקה — לעומת פרסומים שמציעים משקולות בלבד.
מדוע עדיין מוקדם לקרוא לזה "שחזור מלא"
מודל בעל משקולות פתוחות אינו בהכרח מודל שניתן לשחזר את אימונו בקנה מידה המקורי. משקולות זמינות מאפשרות לבחון את נקודת הבדיקה שפורסמה; הן אינן חושפות לבדן את כל התנאים שנדרשו כדי לייצר אותה מחדש.
שחזור אימון מקדים בהיקף של 34 טריליון טוקנים ידרוש, לכל הפחות, גישה לאותם נתונים או מפרט שניתן לשחזר להפקת הנתונים, מימוש מלא של שלבי האימון והאימון שלאחריו, היפר-פרמטרים, טופולוגיית אשכול, גרסאות תוכנה ומהדרים, תצורת אימון מבוזר, אופרטורים מותאמים, מערך הערכה וחומרה תואמת בהיקף מספיק. החומרים שפורסמו מאשרים זמינות של משקולות, קוד הסקה בסיסי ודוח; רכיבים נוספים מתוארים ככאלה שמשתחררים בהדרגה. 12
21
לכן, התיאור המדויק יותר בשלב זה הוא: מודל פתוח המכוון תחילה ל־Ascend, עם נתיב מוצהר לשקיפות רחבה יותר של המחסנית. זה עדיין אינו מוכיח שארגון חיצוני יכול לשחזר כיום, באופן עצמאי, את ריצת האימון המקורית.
איך הארכיטקטורה מנסה להתמודד עם הקשר של 512K
openPangu-2.0-Pro משלב מספר פרמטרים כולל עצום עם מנגנונים שנועדו לצמצם את עלות החישוב בזמן יצירה ועיבוד של הקשר ארוך.
MoE: קיבולת גדולה בלי להפעיל את הכול
במודלי MoE כל טוקן מנותב רק לחלק מן ה"מומחים" במודל. בכרטיס המודל של Pro מצוינים כ־505 מיליארד פרמטרים בסך הכול וכ־18 מיליארד פרמטרים פעילים לטוקן. 21
אין פירוש הדבר שמדובר במערכת קלה: אחסון, הגשה ותקשורת של מודל בהיקף 505 מיליארד פרמטרים עדיין דורשים תשתית משמעותית. עם זאת, החישוב הפרמטרי עבור טוקן בודד קטן לעומת מודל צפוף בעל אותו מספר פרמטרים כולל.
שילוב DSA ו־SWA להקשר מקומי וגלובלי
המודל שומר על MLA ומשלב DSA עם Sliding-Window Attention (SWA) ביחס שכבות של 1:2. לפי Huawei, שכבות SWA מטפלות במידול של חלון מקומי, ואילו DSA אוספות הקשר גלובלי דליל. המטרה היא להפחית את עלות החישוב, את צריכת הזיכרון ואת עלויות הגישה לזיכרון בהסקה על רצפים ארוכים, תוך שמירה על דיוק. 21
זהו מענה מעשי לקושי המרכזי של חלון הקשר באורך 512K: קשב מלא לכל טוקן מול כל טוקן מתייקר במהירות. קשב מקומי מטפל במידע קרוב בעלות נמוכה יותר, ומנגנון גלובלי דליל נועד לשמר גישה למידע מרוחק ורלוונטי.
טופולוגיית שיור, חיזוי רב-טוקני ו־Muon
Huawei מתארת גם טופולוגיית שיור mHC עם ארבעה זרמים, שנועדה לשפר את מגוון הייצוגים ואת יכולת ההכללה. מודול חיזוי רב-טוקני בעל שלושה ראשים חוזה טוקנים עתידיים נוספים, במטרה להאיץ את ההסקה. כרטיס המודל מציין גם את Muon כאופטימייזר האימון, שנועד להשיג התכנסות מהירה יותר. 21
אלה טענות ארכיטקטורה ואופטימיזציה מתוך החומרים שפרסמה Huawei, ולא הוכחה בלתי תלויה לשיפור מהירות מסוים בכל פריסה. תפוקה והשהיה תלויות מאוד בתצורת המאיצים, בדיוק החישוב, קיבוץ בקשות, אורך ההקשר, דפוסי התעבורה ותוכנת ההגשה.
היכן סוכנים עם הקשר ארוך עשויים להועיל
חלון של 512K טוקנים יכול לאפשר לסוכן לעבד באותה עבודה כמות גדולה בהרבה של חומר מקור — למשל מדריכים, מסמכי מדיניות, יומנים, פלטים קודמים מכלים ומפרטים טכניים. הדבר עשוי לצמצם פיצול אגרסיבי של מסמכים, אך אינו מבטל את הצורך באחזור מידע, בקרות הרשאה, אימות מקורות ואישור אנושי.
תחומים שבהם עשוי להיות לכך ערך גבוה כוללים:
- ממשל ומינהל ציבורי: סיוע בניתוח רגולציה, חומרי תיקים, תגובות ציבור ומסמכים בין-משרדיים — עם בקרות גישה קפדניות והחלטות אנושיות מתועדות.
- פיננסים: סקירת מחקר, דיווחים, חוזים וחומרי ציות, בלי להסתמך על פלט לא מאומת בהחלטות מסחר, אשראי או רגולציה.
- תעשייה ואנרגיה: סינתזה של מדריכי ציוד, היסטוריות התראות, רישומי תחזוקה, מסמכי תהליך ודוחות משמרת לצורך תחקור ותכנון.
- בריאות: סיכום ספרות מקצועית ורשומות רפואיות לאורך זמן תחת ממשל קליני — ולא אבחון או קביעת טיפול אוטונומיים.
- הנדסת רכב אוטונומי: ניתוח לא מקוון של יומני ניסוי, תרחישים, מסמכי בטיחות ותיעוד הנדסי; לא תחליף למערכת נהיגה בזמן אמת שעברה תיקוף.
עבור ארגונים קטנים רבים, Pro עדיין עשוי להיות מורכב לאירוח עצמי, גם בזכות ההפעלה הדלילה. Huawei פרסמה גם את הגרסה הקטנה יותר, openPangu-2.0-Flash, עם 92 מיליארד פרמטרים בסך הכול ו־6 מיליארד פרמטרים פעילים לטוקן; ייתכן שזו נקודת פתיחה נגישה יותר לבחינה ולפריסה. 15
20
הנדסת תוכנה: עוזר שימושי, לא מתחזק אוטונומי
Huawei מדווחת על ציון 68.5 ב־SWE-bench Verified עבור גרסת Thinking של openPangu-2.0-Pro. 24 זו תוצאה בולטת במדד, אך אין לפרש אותה כהוכחה לכך שהמודל יכול לקחת בעלות אמינה על עבודת תוכנה מורכבת בסביבת ייצור.
מאגרי קוד אמיתיים תלויים בהקמת סביבה, תלויות, הרצת בדיקות, סקירת אבטחה, החלטות ארכיטקטורה, דרישות מוצר משתנות וניפוי שגיאות מתמשך לאורך שלבים רבים. דפוס פריסה סביר הוא סוכן קוד מפוקח: גישה מוגבלת למאגר, הרצה בארגז חול, בדיקות אוטומטיות, ניתוח סטטי, סקירת קוד ויכולת חזרה לאחור — ולא מיזוג אוטונומי של שינויים.
למה הפרסום המדורג הוא מהלך אקוסיסטמי
הערך האסטרטגי אינו רק במשקולות. מודל ייחוס המותאם ל־Ascend יכול לעודד מפתחים לבנות, לבדוק ולמטב עומסי עבודה על הפלטפורמה; עומסים כאלה, בתורם, יוצרים ביקוש לזמני ריצה, אופרטורים, כלים ושירותים מנוהלים טובים יותר. Huawei מפנה מפתחים, שותפים עסקיים וחוקרים לקהילת Ascend Tribe ולהצעת MaaS של Huawei Cloud להורדה, שימוש ומשוב. 12
הצעת Flash ו־Pro בשני סדרי גודל מרחיבה את מעגל המשתמשים האפשרי, בעוד שקוד האימון, האימון שלאחר האימון והאופרטורים המתוכננים מכוונים לשכבות התוכנה שיקבעו אם פלטפורמת חומרה אכן שימושית למי שבונה מודלים. 10
15
מכאן שהדרך הנכונה להבין את openPangu 2.0 היא כניסיון לחזק אקוסיסטם פיתוח משולב של Ascend ו־Pangu. הפתיחות הקיימת כבר משמעותית להפעלה, לבדיקה ולניסויים. אך את הטענה לשחזור מלא יש לבחון רק ככל שיתפרסמו קוד, תצורות ופרטים הקשורים לנתונים — וכאשר קבוצות עצמאיות יבדקו מה באמת אפשר לבנות מחדש.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "openPangu-2.0-Pro: מה פתוח, מה ניתן לשחזר ומה עדיין חסר"?
Huawei פרסמה משקולות, קוד הסקה בסיסי ודוח טכני עבור openPangu 2.0 Pro — מודל MoE עם כ־505 מיליארד פרמטרים בסך הכול וכ־18 מיליארד פרמטרים פעילים לכל טוקן.
What are the key points to validate first?
Huawei פרסמה משקולות, קוד הסקה בסיסי ודוח טכני עבור openPangu 2.0 Pro — מודל MoE עם כ־505 מיליארד פרמטרים בסך הכול וכ־18 מיליארד פרמטרים פעילים לכל טוקן. מנגנוני MoE, שילוב DSA+SWA, טופולוגיית mHC בעלת ארבעה זרמים, חיזוי רב טוקני והאופטימייזר Muon נועדו להפוך עבודה עם הקשר ארוך על חומרת Ascend למעשית יותר.
What should I do next in practice?
הפרסום משמעותי להפעלה, לבדיקה ולניסויים, אך שחזור עצמאי של אימון מקדים על כ־34 טריליון טוקנים דורש עדיין נתונים או מפרט נתונים, קוד ותצורות אימון מלאים, ותשתית חישוב תואמת.