AnswersPublished19 sources
Qwen3.8-2.4T-A95B: מודל Max פתוח במשקל — אבל לא פתרון להרצה מקומית
Qwen3.8 2.4T A95B הוא מודל טקסט פתוח במשקל מסדרת Qwen Max של עליבאבא: 2.4 טריליון פרמטרים בסך הכול וכ־95 מיליארד פרמטרים פעילים לכל טוקן. החלון הטבעי של נקודת הביקורת הוא 262,144 טוקנים; בתצורות הגשה מסוימות מתועד חלון של עד מיליון טוקנים, עם פלט מרבי של כ־131 אלף טוקנים.
פורסם על ידינערך באמצעות GPT-5.6 Terraהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- Qwen3.8 2.4T A95B הוא מודל טקסט פתוח במשקל מסדרת Qwen Max של עליבאבא: 2.4 טריליון פרמטרים בסך הכול וכ־95 מיליארד פרמטרים פעילים לכל טוקן.
- החלון הטבעי של נקודת הביקורת הוא 262,144 טוקנים; בתצורות הגשה מסוימות מתועד חלון של עד מיליון טוקנים, עם פלט מרבי של כ־131 אלף טוקנים.
- פתיחות המשקלים אינה הופכת את ההפעלה לפשוטה: מתכוני NVIDIA מתארים פריסה של 16 מאיצי GB300 על פני ארבעה צמתים, עם Kubernetes, מקביליות ורוטינג למטמון KV.
- המודל הפתוח הוא טקסט בלבד ופועל עם מצב חשיבה; השירות המנוהל Qwen3.8 Max מוסיף יכולות כגון קלט חזותי, מצב ללא חשיבה, כלים מובנים וחלון של מיליון טוקנים כברירת מחדל.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Qwen3.8-2.4T-A95B, and what do its open-weight release, Qwen-Max-class status, 2.4-trillion-parameter/95-billion-active-pa. Article summary: Alibaba’s Qwen3.8-2.4T-A95B is an open-weight, text-generation release of its Qwen3.8-Max/“Max-class” flagship: a very large sparse Mixture-of-Experts (MoE) model rather than a model that can realistically be run like an. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
ההכרזה על Qwen3.8-2.4T-A95B חשובה משום שעליבאבא פתחה להורדה משקלים של מודל ברמת הדגל Qwen-Max. המשמעות אינה שמודל עם 2.4 טריליון פרמטרים הפך למשהו שמריצים על מחשב מקומי; המשמעות היא שארגונים יכולים להחזיק, להתאים ולהגיש את המשקלים בעצמם — במקום להיות תלויים רק ב־API מנוהל. לכן קהל היעד המעשי הוא ספקי ענן, ארגונים גדולים, סביבות מפוקחות וצוותי מחקר עם יכולת אמיתית להפעלת הסקה מבוזרת. 1
18
21
מה יש בתוך המודל?
Qwen3.8-2.4T-A95B הוא מודל יצירת טקסט מסוג Mixture-of-Experts (MoE), עם 2.4 טריליון פרמטרים בסך הכול וכ־95 מיליארד פרמטרים פעילים לכל טוקן. בתיעוד NVIDIA מצוינות 92 שכבות, 512 מומחים מנותבים ובחירה של עשרה מומחים בכל ניתוב. 18
21
ההבחנה בין מספר הפרמטרים הכולל למספר הפעיל חשובה: ב־MoE לא כל פרמטר משתתף בעיבוד של כל טוקן, ולכן עלות החישוב לכל טוקן עשויה להיות נמוכה מזו של מודל צפוף בגודל כולל דומה. אבל אין בכך כדי לבטל את הצורך לאחסן או לפזר את המשקלים, לנהל מקביליות בין מומחים, ולהקצות זיכרון, רשת מהירה ומטמון KV בהיקף ניכר.
הארכיטקטורה משלבת Gated DeltaNet ורכיבי gated attention. היא מיועדת גם לעבודה עם הקשר ארוך, אך בבחירת תשתית השאלה המעשית היא ביצועי קצה־לקצה עבור אורך ההנחיה, רמת המקביליות, דיוק המספרים ושרת ההסקה הספציפיים של הארגון. 1
19
חלון הקשר עצום — אך לא בחינם
חלון ההקשר הטבעי הוא 262,144 טוקנים. NVIDIA מתעדת פריסות עם חלון הקשר של מיליון טוקנים, והמגבלה המוצהרת לפלט היא בערך 131 אלף טוקנים. 1
19
21
אין לקרוא את המספרים האלה כהבטחה שכל בקשה באורך מיליון טוקנים תהיה מהירה, זולה או אמינה באותה מידה. הנחיות ארוכות מגדילות את עבודת ה־prefill — שלב עיבוד הקלט הראשוני — ואת הלחץ על מטמון KV, ששומר מצבי ביניים של מנגנון הקשב. צוותים שמתכננים ניתוח מסמכים ארוכים, אחזור על פני מאגרים גדולים או סוכנים עם תיעוד פעולה מתארך צריכים למדוד את אורכי הקלט ודפוסי העומס המדויקים שלהם.
חשיבה, קוד וסוכנים: היכן הוא עשוי להתאים
המודל תומך בהגדרת reasoning_effort ברמות low, medium ו־xhigh, שנועדה להחליף בין מהירות ועלות לבין עיבוד מעמיק יותר. ברירות המחדל שפורסמו שמות דגש על שמירת תוכן החשיבה. 1
מכאן שהוא עשוי להתאים למשימות טקסט תובעניות: כתיבת קוד, סינתזת מחקר, ניתוח מסמכים ארוכים ותהליכי עבודה סוכניים. אבל סוכן אינו רק מודל חזק: שימוש אמין בכלים דורש גם הגדרות כלים בצד האפליקציה, הרשאות וגבולות גישה, בידוד הרצת פעולות, ניסיונות חוזרים, תצפיתיות ומערך הערכה.
יש גם מגבלה ברורה: נקודת הביקורת הפתוחה היא טקסט בלבד, ולפי הדיווחים לא ניתן לכבות בה את מצב החשיבה. ארגונים הזקוקים לקלט תמונה או וידאו, למסלול שיחה מהיר ללא חשיבה, או לכלים מובנים המנוהלים כשירות, צריכים להבחין בין המשקלים להורדה לבין Qwen3.8-Max המתארח. 3
8
21
משקלים פתוחים משנים את השליטה, לא את מורכבות התפעול
משקלים פתוחים יכולים לאפשר שליטה טובה יותר במיקום הנתונים, בטופולוגיית הפריסה, בהתאמות ובאימון המשך. NVIDIA NeMo AutoModel כולל תמיכה בכוונון מלא של פרמטרי המודל באמצעות FSDP2, מקביליות מומחים ומקביליות צינור עיבוד — נתיב ייעודי לארגונים שצריכים להתאים את המודל. 18
מנגד, רף ההפעלה גבוה. תיעוד NIM של NVIDIA מתאר נתיב פריסה המוגבל ל־GB300-NVL72, הדורש לפחות ארבעה צמתים ו־Kubernetes. מתכוני Dynamo מתארים הגשה עם vLLM או SGLang, משקלי FP8 ומטמון KV ב־FP8, מקביליות טנזורית ורוטינג מודע־KV; תצורה מתועדת אחת משתמשת ב־16 מעבדי GB300 בארבעה צמתים. 19
21
אלה תצורות שנתמכות ומתועדות על ידי הספק, ולא דרישות מינימום אוניברסליות. ובכל זאת, הן ממחישות את סביבת ההפעלה שאליה המודל מכוון: לא מחשב נייד, לא תחנת עבודה, ובדרך כלל גם לא שרת יחיד רגיל.
דפוסי הגשה שישפיעו על העלות והשהיה
במודל בסדר גודל כזה, תכנון ההסקה עשוי לקבוע אם המערכת שימושית בפועל:
- קוונטיזציה: פורמטים בעלי דיוק נמוך מפחיתים את דרישות זיכרון המשקלים, אך יש לאמת איכות ויציבות מול המשימות האמיתיות. AWS מונה FP8, MXFP4 ו־NVFP4 בין הפורמטים שנועדו לצמצם את דרישות הזיכרון בזמן הסקה.
- הפרדת prefill ו־decode: קליטת הנחיה ויצירת טוקנים אחת־אחת הן פעולות עם צווארי בקבוק שונים. AWS מתארת הפרדה שלהן למאגרי GPU ייעודיים, כדי לצמצם הפרעות ולשפר השהיה בין טוקנים בעומסים מתאימים.
- פענוח ספקולטיבי: מנגנון זול יותר מציע טוקנים, והמודל הגדול מאמת אותם. כאשר שיעור הקבלה גבוה, אפשר לצמצם חלק מעבודת הפענוח הטורי.
- הגשה מבוזרת: המתכונים של NVIDIA משלבים vLLM או SGLang, רוטינג מודע־KV, FP8 ומקביליות רב־צומתית על מערכות GB200 או GB300.
19
NVIDIA דיווחה על יותר מ־4,000 טוקנים לשנייה לכל GPU ועל יותר מ־350 טוקנים לשנייה למשתמש בתצורת GB300 NVL72 עם FP8 ביום ההשקה. אלו מדידות ספק בתצורת חומרה ותוכנה מסוימת, לא ציפיית ביצועים כללית לכל עומס ייצור.
הרישיון: פתוח במשקל אינו רישיון מתירני
המודל מופץ תחת Qwen3.8-Max License מותאם אישית, ולא תחת Apache-2.0 או MIT. הרישיון מעניק זכויות רחבות לשימוש, שינוי, הפצה, אירוח, כוונון עדין ויצירת יצירות נגזרות — בכפוף לתנאיו.
סיכומי ההשקה מדווחים על חובות נוספות לעסקים מסוימים של Model-as-a-Service ועוזרי עבודה מבוססי AI מעל סף הכנסות מוגדר. מאחר שהדבר עשוי להשפיע על פריסה מסחרית ועל הפצה בהמשך השרשרת, יש לבדוק את נוסח הרישיון העדכני ולקבל ייעוץ משפטי לפני השקת מוצר המבוסס על המשקלים. 3
10
Qwen3.8-Max המתארח מול A95B באירוח עצמי
המוצר המתארח Qwen3.8-Max מתואר כגרסה רשמית המבוססת על A95B, עם תוספות: קלט חזותי, תמיכה במצב ללא חשיבה, חלון הקשר של מיליון טוקנים כברירת מחדל וכלים רשמיים מובנים. 8
12
בפועל, זו חלוקה פשוטה למדי:
- בחרו גישה מתארחת כאשר חשובים יותר ניהול קיבולת, מולטימודליות, כלים משולבים ותפעול פשוט.
- שקלו אירוח עצמי של A95B כאשר ריבונות נתונים, התנהגות הגשה מותאמת, כוונון או ניצול קבוע וגבוה מצדיקים את הוצאות התשתית והתפעול.
נקודת הביקורת הפתוחה אינה תחליף זהה־תכונות לשירות המנוהל. היא בסיס טקסט חזק, שאליו הארגון צריך להוסיף בעצמו את שכבות המוצר והתשתית.
איך לקרוא את הבנצ'מרקים
Qwen ממקמת את A95B כמודל ברמת Max, וחומרי ההשקה מדווחים על תוצאות חזקות במבחני קוד, מחקר והסקה. אלה סימנים שימושיים, אך אינם הוכחה שהמודל הוא הטוב ביותר לכל משימה או סביבת פריסה. 6
ההחלטה צריכה להתבסס על הערכה מעשית: שפות היעד, רצפי הכלים, אורכי האחזור, פורמטי הפלט, דרישות הבטיחות, יעדי השהיה ומעטפת העלות. עבור רוב הצוותים, השאלה המרכזית אינה אם 95 מיליארד פרמטרים פעילים הם מספר מרשים — אלא אם שיפור היכולת מצדיק את העלות והמורכבות של הפעלת מודל עם 2.4 טריליון פרמטרים.
השורה התחתונה
Qwen3.8-2.4T-A95B הוא שחרור משמעותי: הוא מאפשר לארגונים הזקוקים לשליטה במשקלים ובפריסה להשתמש במודל טקסט מסוג Qwen-Max בהיקף של 2.4 טריליון פרמטרים. המבנה הדליל משפר את תמונת החישוב לעומת מודל צפוף באותו גודל כולל, אך ההפעלה עדיין דורשת פרויקט מערכות מבוזרות בקנה מידה גדול.
לצוותים עתירי משאבים הוא עשוי לספק נתיב להסקת טקסט ברמת דגל, עם התאמה אישית וריבונות תפעולית. לצוותים קטנים שמחפשים הרצה מקומית פשוטה, מודל קטן יותר או נקודת קצה מנוהלת יהיו בדרך כלל אפשרות מציאותית יותר. 18
19
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Qwen3.8-2.4T-A95B: מודל Max פתוח במשקל — אבל לא פתרון להרצה מקומית"?
Qwen3.8 2.4T A95B הוא מודל טקסט פתוח במשקל מסדרת Qwen Max של עליבאבא: 2.4 טריליון פרמטרים בסך הכול וכ־95 מיליארד פרמטרים פעילים לכל טוקן.
What are the key points to validate first?
Qwen3.8 2.4T A95B הוא מודל טקסט פתוח במשקל מסדרת Qwen Max של עליבאבא: 2.4 טריליון פרמטרים בסך הכול וכ־95 מיליארד פרמטרים פעילים לכל טוקן. החלון הטבעי של נקודת הביקורת הוא 262,144 טוקנים; בתצורות הגשה מסוימות מתועד חלון של עד מיליון טוקנים, עם פלט מרבי של כ־131 אלף טוקנים.
What should I do next in practice?
פתיחות המשקלים אינה הופכת את ההפעלה לפשוטה: מתכוני NVIDIA מתארים פריסה של 16 מאיצי GB300 על פני ארבעה צמתים, עם Kubernetes, מקביליות ורוטינג למטמון KV.