AnswersPublished22 sources
Prism של StartLux: מה משתנה כשבונים מנוע במיוחד למודלי החלטה?
Prism הוא מנוע הסקה בקוד פתוח שנבנה עבור מודלי StartLux Decision, שמחזירים החלטות מובנות במקום טקסט חופשי בלבד. הוא מצמצם את חישוב אפשרויות הפלט, מאפשר שימוש חוזר במידע משותף בין שאלות, ומשתמש בחישובי INT8 שנועדו לספק תוצאות שחוזרות על עצמן בתצורות הנתמכות.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- Prism הוא מנוע הסקה בקוד פתוח שנבנה עבור מודלי StartLux Decision, שמחזירים החלטות מובנות במקום טקסט חופשי בלבד.
- הוא מצמצם את חישוב אפשרויות הפלט, מאפשר שימוש חוזר במידע משותף בין שאלות, ומשתמש בחישובי INT8 שנועדו לספק תוצאות שחוזרות על עצמן בתצורות הנתמכות.
- הפריסה הקודמת של v1.1 השתמשה ב vLLM וכללה כבר מטמון לקידומות ו prefill בחלקים; הייחוד של Prism הוא התאמה ייעודית למשימות החלטה, ולא עצם הוספת המטמון.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did StartLux announce with its October 22, 2026 GitHub release of Prism, which it describes as the first open-source inference engine b. Article summary: StartLux announced Prism’s GitHub release on October 22, 2026, presenting it as the first open-source inference engine designed specifically for decision models, rather than general-purpose chat generation. Its claimed i. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
StartLux הכריזה על Prism כמנוע הסקה בקוד פתוח שנבנה במיוחד עבור מודלי ההחלטה שלה. בניגוד למודלי שיחה, שמייצרים טקסט פתוח, מודלי החלטה מחזירים תוצאות מובנות — למשל בחירה באפשרות, שיוך לקטגוריה או הסתברויות. StartLux אומרת ש-Prism מקצר זמני תגובה, מנצל טוב יותר מידע משותף ומפיק תוצאות שניתן לשחזר במדויק; נתוני הביצועים שפורסמו הם מבדיקות שערכה החברה. 5
8
12
מה Prism עושה, ולמה נדרש מנוע ייעודי?
מודלי StartLux-Decision מחזירים החלטות מטיפוס מוגדר דרך ממשק ה-API /v1/systemone, ואפשר לבקש מהם גם לבצע חשיבה לפני מתן תשובה. Prism תומך במודלי v1 ובמודלי v1.1 AutoThink בגדלים 4B, 9B ו-27B; לפי מאגר הקוד, מודלי v1.1 Instant עדיין אינם נתמכים. 8
11
הפריסה הקודמת של v1.1 התבססה על vLLM. חשוב לדייק: תצורת הייחוס של vLLM כבר כללה מטמון לקידומות ו-prefill בחלקים, ולכן לא נכון לומר שהמנוע הקודם לא ידע לעשות שימוש חוזר בהקשר משותף. Prism מכוון למשימות שבהן הפלט קצר ולעיתים נשאלות כמה שאלות על אותו חומר — תרחיש שבו התאמה ייעודית עשויה לחסוך עבודה. 6
22
ארבעה שינויים בתכנון
פחות אפשרויות לבדוק בפלט
במודל 27B, StartLux מעריכה שמנוע כללי מדרג בערך 248 אלף אסימונים אפשריים, בעוד שמשימת החלטה עשויה להזדקק רק לאותיות A–Z. לפי החברה, שלב ניקוד הפלט הזה דורש כך בערך 0.01% ממספר האפשרויות. הנתון מתייחס לשלב הזה בלבד — לא לכך שסך חישובי ההסקה של המודל כולו קטן ל-0.01%. 12
שימוש חוזר במידע משותף בין שאלות
Prism מארגן בקשות במבנה שהחברה מכנה “אצווה בסגנון יער”: הוראות משותפות, חומר רקע משותף ושאלות נפרדות מסודרים כך שהעבודה על החלקים המשותפים תוכל לשמש את כל השאלות. למשל, אפשר לשאול כמה שאלות על אותה פנייה לשירות לקוחות בלי לעבד מחדש את כל הטקסט בכל פעם. 5
23
חישוב שלם לשחזור תוצאות
Prism מבצע פעולות מטריצה ב-INT8 ומצטבר ב-INT32. StartLux אומרת שבכך מתקבלות הסתברויות פלט זהות ברמת הביט בתצורות הנתמכות, גם כשהבקשות מקובצות או כשהחישוב מתבצע על כמה מעבדים גרפיים. זו טענה על סביבת הריצה הנתמכת של Prism, ולא הבטחה שפלט INT8 יהיה זהה בכל מקרה לפלט BF16. 8
19
תזמון בקשות קצרות לצד בקשות שחושבות זמן רב
מודלי החלטה יכולים להשיב מיד או לבצע תחילה תהליך חשיבה. תכנון ההגשה של Prism נועד לשלב בקשות חשיבה עם בקשות קצרות, כדי שתהליכי חשיבה ממושכים לא יעכבו את כל התשובות הקצרות. התוצאות שפורסמו מתייחסות לתצורות המסוימות שנבדקו ואינן מבטיחות זמני המתנה דומים בכל מערכת. 3
23
מה מראים מבחני StartLux?
StartLux פרסמה תוצאות עבור דגמים, חומרה ותנאי בדיקה מסוימים:
- שאלה קצרה אחת על H200 יחיד: זמן ההשהיה ירד מ-53.1 מילישניות ל-19.0 מילישניות — שיפור של בערך פי 2.8.
12
14
- שלוש שאלות על חומר משותף: זמן ההשהיה המדווח ירד מ-92.9 מילישניות ל-17.4 מילישניות — בערך פי 5.3 מהר יותר.
- JevBench, מבחן של 231 שאלות: זמן ההשהיה הממוצע שדווח ל-Prism היה 41.0 מילישניות, לעומת 75.6 ל-SGLang, 112.7 ל-vLLM ו-589 ל-llama.cpp.
- ארבעה מעבדי H200 במקביליות נתונים: בדיווח על Prism נרשמו 121 בקשות בשנייה, בערך פי 3.92 מהתפוקה של מעבד יחיד. במקביליות טנזורית — שבה כמה מעבדים משתתפים בחישוב של אותה שאלה — זמן ההשהיה לשאלה אחת ירד מ-41 ל-29 מילישניות.
18
- השוואת דיוק: בשבעה מערכי הערכה ובהיקף של 12,351 החלטות, הדיוק הממוצע שדווח היה 92.94% ב-Prism INT8 לעומת 92.97% ב-BF16 — פער של 0.03 נקודות אחוז. דמיון בציון הממוצע אינו מוכיח שכל תשובה בודדת זהה.
19
- הרצה בכרטיס מסך לשוק הצרכני: לפי מאגר הקוד, גרסת 4-bit של מודל 27B יכולה לפעול על RTX 5090 עם 32GB זיכרון גרפי; בסיקור ההשקה צוין שגודל הקובץ הדחוס הוא 16.55GB.
8
איך לקרוא את הנתונים
מדובר במדידות של החברה שתלויות בעומס העבודה ובתצורת החומרה והתוכנה. הן אינן הוכחה לכך ש-Prism יהיה מהיר יותר מכל מנוע אחר בכל פריסה. תיעוד המבחנים של StartLux מפרט את הדגמים, החומרה והעומסים שנבדקו, כדי שאפשר יהיה להעריך את ההשוואות או לנסות לשחזר אותן. 1
תיעוד המבחנים מתייחס למודלי StartLux-Decision v1 בגדלים 4B, 9B ו-27B. מאגר Prism מציין תמיכה גם ב-v1.1 AutoThink, אך לא ב-v1.1 Instant. לכן אין להתייחס לכל המספרים כאל מבחן יחיד של כל גרסאות המודל. 1
8
11
גם הביטוי “מנוע הקוד הפתוח הראשון למודלי החלטה” הוא תיאור של StartLux, ולא קביעה עצמאית ומאומתת על כלל התעשייה. בדומה לכך, הטענה על תוצאות זהות ברמת הביט מוגבלת לתצורות הנתמכות של Prism. 5
8
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Prism של StartLux: מה משתנה כשבונים מנוע במיוחד למודלי החלטה?"?
Prism הוא מנוע הסקה בקוד פתוח שנבנה עבור מודלי StartLux Decision, שמחזירים החלטות מובנות במקום טקסט חופשי בלבד.
What are the key points to validate first?
Prism הוא מנוע הסקה בקוד פתוח שנבנה עבור מודלי StartLux Decision, שמחזירים החלטות מובנות במקום טקסט חופשי בלבד. הוא מצמצם את חישוב אפשרויות הפלט, מאפשר שימוש חוזר במידע משותף בין שאלות, ומשתמש בחישובי INT8 שנועדו לספק תוצאות שחוזרות על עצמן בתצורות הנתמכות.
What should I do next in practice?
הפריסה הקודמת של v1.1 השתמשה ב vLLM וכללה כבר מטמון לקידומות ו prefill בחלקים; הייחוד של Prism הוא התאמה ייעודית למשימות החלטה, ולא עצם הוספת המטמון.
Sources
163.comDeepSeek之后，StartLux再来：开源首个决策模型推理引擎，推理快至5.3倍