AnswersPublished18 sources
Baidu משחררת מודל בסיס עם 280 מיליארד פרמטרים — מה באמת אומר המספר?
Baidu פרסמה ב 5 בנובמבר 2026 את ERNIE 5.5 Flash Base: מודל MoE עם 280 מיליארד פרמטרים בסך הכול ו 14 מיליארד פעילים בכל טוקן. זהו מודל בסיס שנועד להתאמה ולאימון נוספים, ולא צ'אטבוט שעבר כוונון להוראות ומוכן לשימוש.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- Baidu פרסמה ב 5 בנובמבר 2026 את ERNIE 5.5 Flash Base: מודל MoE עם 280 מיליארד פרמטרים בסך הכול ו 14 מיליארד פעילים בכל טוקן.
- זהו מודל בסיס שנועד להתאמה ולאימון נוספים, ולא צ'אטבוט שעבר כוונון להוראות ומוכן לשימוש.
- לפי התיעוד, אפשר לאמן אותו בהקשר של עד 128 אלף טוקנים ולהשתמש בו לכוונון ולהסקה בהקשר של עד מיליון טוקנים.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Baidu פרסמה ב-5 בנובמבר 2026 את ERNIE-5.5-Flash-Base ב-Hugging Face. זהו מודל שפה טקסטואלי מסוג תערובת מומחים (Mixture of Experts, או MoE), עם 280 מיליארד פרמטרים בסך הכול ו-14 מיליארד פרמטרים פעילים לכל טוקן. לפי Baidu, המודל אומן מאפס על 33.5 טריליון טוקנים.1
3
6
ההבדל בין שני המספרים חשוב: 280 מיליארד מתארים את היקף המודל כולו, ואילו 14 מיליארד הם החלק שמופעל עבור כל טוקן. לכן המספר הקטן יותר לא מתאר את גודל קובצי המודל. גם חשוב לדעת שמדובר במודל בסיס — נקודת פתיחה לאימון ולהתאמה — ולא בעוזר שיחה מוגמר שעבר כוונון להוראות.6
מה Baidu שחררה — ולמי זה מיועד?
לפי התיעוד של SGLang, נקודת הבידוק שפורסמה היא זו שמתקבלת בסוף האימון המקדים, לפני שלבי אימון ביניים או אימון נוסף לאחר מכן. היא מיועדת, בין השאר, להתאמה לתחום מסוים, לכוונון לפי הוראות ולמחקר בתחום למידת החיזוק. בפועל, צוות שרוצה לבנות ממנה עוזר AI עשוי להזדקק לאימון נוסף כדי להתאים אותה למשימה.
התיעוד מפריד בין אורך ההקשר באימון לבין זה הנתמך בשלבי שימוש מאוחרים יותר: עד 128 אלף טוקנים לאימון, ועד מיליון טוקנים לכוונון ולהסקה. גם מדריך הפריסה של SGLang מתאר תמיכה בהקשר של עד מיליון טוקנים.
ב-Hugging Face מופיעה גרסת FP8, ולצדה גרסת BF16 נפרדת; SGLang מתעד תמיכה בשתיהן.5 עם זאת, מספר הפרמטרים לבדו לא אומר כמה תשתית חישובית וזיכרון נדרשים כדי להפעיל את המודל.
איך עובדת ארכיטקטורת תערובת המומחים?
במודל MoE, לא כל הפרמטרים משתתפים בעיבוד של כל טוקן. לכן ERNIE יכולה לכלול 280 מיליארד פרמטרים בסך הכול, ובו בזמן להפעיל 14 מיליארד בלבד עבור כל טוקן.6
לפי תיעוד SGLang, הארכיטקטורה כוללת 37 שכבות קשב דחוסות במיוחד ושש שכבות של קשב רב-ראשי חבוי (MLA) עם גישה להקשר מלא וקשב דליל. בכל שכבת MoE יש 512 מומחים מנותבים, שמתוכם נבחרים 10, לצד מומחה משותף. הפרטים האלה מתארים את מבנה המודל; כשלעצמם, הם אינם מוכיחים יתרון מסוים במהירות או בעלות של הפעלה בפועל.
Baidu מדווחת שהאימון השתמש באופטימייזר Muon ובדיוק מעורב FP8 על פני אלפי מעבדים גרפיים. חומרי המודל שלה מתארים גם את FlashMask-4, ליבת קשב המיועדת לממדי ראש גדולים.6
לפי Baidu, ב-SM100 FlashMask-4 משיגה עד 175% יותר מהירות במעבר קדימה ועד 74% יותר מהירות במעבר אחורה לעומת FlashAttention-4 MaskMod.4 אלה תוצאות ש-Baidu מדווחת עליהן עבור ליבת הקשב; אין להסיק מהן שהמודל כולו פועל מהר יותר באותו שיעור בכל עומס עבודה אמיתי.
מה אומרים ציוני הבנצ'מרק?
הציונים ש-Baidu פרסמה מצביעים על תוצאות חזקות בכמה מבחני ידע וקוד, כולל בהשוואה ל-DeepSeek-V4-Flash-Base. אלה תוצאות בנצ'מרק מדווחות, ולא שכפול בלתי תלוי של הבדיקות.4
7
| מבחן | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78.4 | 69.2 |
| HumanEval+ | 82.3 | 69.5 |
| LiveCodeBench | 40.1 | 31.9 |
| ChineseSimpleQA | 73.0 | 75.3 |
במבחן MMLU עם חמש דוגמאות, ERNIE קיבלה 93.3, לעומת 89.4 ל-DeepSeek-V4-Flash-Base, 87.5 ל-Hy3-preview ו-87.6 ל-MiMo-V2.5.4 אבל אין כאן ניצחון גורף: בהשוואות שדווחו, DeepSeek קיבלה ציונים גבוהים יותר ב-ChineseSimpleQA וב-InfiniteBench.
7
14
השורה התחתונה: מדובר במודל בסיס בעל קיבולת כוללת גדולה, הפעלה דלילה לכל טוקן ותמיכה מתועדת בהקשר ארוך. תוצאותיו המדווחות מבטיחות בכמה תחומים, אבל כדאי לבדוק אותן מול המשימה הספציפית — ולבחון את תנאי הרישיון — לפני שמחליטים לפרוס את המודל.
פריסה ותנאי רישיון
SGLang מציין תמיכה גם בנקודות הבידוק FP8 וגם ב-BF16, ומספק הוראות פריסה, לרבות שימוש בפענוח ספקולטיבי מסוג ECHO. בעמוד המודל ב-Hugging Face מצוין רישיון ייעודי בשם ERNIE 5.5 Flash Base Model License Agreement v1.0. הרישיון מפנה גם למדיניות שימוש מקובל, ולכן העובדה שהמשקולות זמינות להורדה אינה מעידה שהשימוש בהן בלתי מוגבל. מומלץ לקרוא את התנאים לפני שילוב המודל במוצר.19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Baidu משחררת מודל בסיס עם 280 מיליארד פרמטרים — מה באמת אומר המספר?"?
Baidu פרסמה ב 5 בנובמבר 2026 את ERNIE 5.5 Flash Base: מודל MoE עם 280 מיליארד פרמטרים בסך הכול ו 14 מיליארד פעילים בכל טוקן.
What are the key points to validate first?
Baidu פרסמה ב 5 בנובמבר 2026 את ERNIE 5.5 Flash Base: מודל MoE עם 280 מיליארד פרמטרים בסך הכול ו 14 מיליארד פעילים בכל טוקן. זהו מודל בסיס שנועד להתאמה ולאימון נוספים, ולא צ'אטבוט שעבר כוונון להוראות ומוכן לשימוש.
What should I do next in practice?
לפי התיעוד, אפשר לאמן אותו בהקשר של עד 128 אלף טוקנים ולהשתמש בו לכוונון ולהסקה בהקשר של עד מיליון טוקנים.