Red Hat AI 3.5 אינה השקה של מודל חדש או של צ'טבוט; זו בעיקר גרסת תפעול. מטרתה היא לסייע לארגונים להעביר מערכות AI מניסויי פיילוט נקודתיים אל שירות משותף, מבוקר ומנוטר בסביבות ענן היברידיות. Red Hat הכריזה על הגרסה ב-9 בספטמבר 2026, ובהמשך הדגישה את הבטיחות, השליטה התפעולית ושקיפות הביצועים כמרכיבים הדרושים להפעלת AI כשירות ארגוני.
43
15
השינוי המרכזי: EvalHub זמינה באופן כללי
החידוש הבולט ביותר הוא EvalHub, ערכת הכלים של Red Hat להערכת מודלים וסוכני AI, שזמינה כעת באופן כללי (GA). היא מיועדת למודלים שהארגון מביא או מתאים בעצמו, לתצורות RAG — יצירה מועשרת באחזור מידע — ולסוכני AI. הצוותים יכולים להריץ מבחני בטיחות מול סיכונים כגון הזרקת הנחיות (prompt injection) ופריצות מגבלות (jailbreaks), ולהפיק מהתוצאות אישורים ותיעוד המכוונים לדרישות תאימות.
13
המשמעות המעשית היא יצירת שלב הערכה חוזר ומתועד לפני העלאה לאוויר. מודל שעובד היטב בהדגמה אינו בהכרח מוכן לתהליך ארגוני רגיש, ו-EvalHub אמורה לצמצם את הצורך שכל צוות יפתח בנפרד תהליך בדיקות ודיווח משלו.
גם קטלוג המודלים המאומתים הורחב ביותר מ-20 מודלים, ובהם מודלים של Google, NVIDIA ו-Alibaba Cloud. ההערכות בקטלוג כוללות תוצאות של מבחן Garak וכן סמנים לרעילות ולחשיפה אפשרית של מידע מזהה אישי (PII), כדי לספק לצוותים בסיס נוסף לבחירת מודל.
3
4
GPUs משותפים: ממשאב יקר לשירות מנוהל
בפיילוטים, GPU ייעודיים וקהל משתמשים קטן עשויים להספיק. בסביבת ייצור יש עומסים מתחרים, רמות עדיפות ועלויות שצריך לייחס לצוותים. AI 3.5 מוסיפה תזמון הוגן בין משתמשים, הגשה מודעת-עדיפויות, בקרת קבלה וניתוב בקשות לפי עדיפות עבור סביבות GPU משותפות.
4
8
לצד זאת נוספו מדידת טוקנים לפי משתמש ודשבורדים למצב ההסקה, ניצולת ה-GPU וביצועי המודל. היכולות הללו נועדו לעזור למפעילי הפלטפורמה להבין מי צורך את הקיבולת, לאתר בעיות בשירות המודלים ולייחס עלויות ברמת הצוות.
4
14
Red Hat AI Inference 3.5 כוללת גם תמונות קונטיינר אופטימליות להסקה, הזמינות באופן כללי עבור NVIDIA CUDA, לצד AMD ROCm, Google TPU, Intel Gaudi ו-IBM Spyre.
35
כלי RAG וסוכנים — אך לא הכול זמין לפרודקשן
הגרסה מרחיבה את כלי העבודה ליישומים מבוססי אחזור ולסוכנים. AutoRAG מוסיפה יכולות רב-לשוניות לאוספי מסמכים שאינם באנגלית או שמשלבים שפות: זיהוי שפה, חלוקת טקסט מודעת-שפה ומודלי הטמעה רב-לשוניים.
1
Red Hat מתארת את AutoRAG ככלי להערכה ולכיוונון של צינורות RAG, עם אחזור הקשרי, בדיקות שיחה וניפוי שגיאות חזותי. עם זאת, AutoRAG עצמה מוגדרת Technology Preview — תצוגה מקדימה טכנולוגית — ולא יכולת GA. לכן ארגונים צריכים להביא בחשבון את סטטוס הזמינות הזה בעת בחירת רכיבים לשירות ייצור.
13
נכללו גם תבניות AI Hub, שנועדו לשמש נקודת פתיחה לתהליכי עבודה כמו סקירת קוד, עיבוד מסמכים ומחקר.
43
הסקה בענן היברידי, גם מחוץ ל-OpenShift
Red Hat מרחיבה את אפשרויות הפריסה של הסקה מבוזרת עם llm-d על גבי Kubernetes מנוהל. התיעוד מציין את Azure Kubernetes Service (AKS), את CoreWeave Kubernetes Service (CKS) ואת Amazon EKS כפלטפורמות יעד; דרישות הבסיס כוללות Kubernetes בגרסה 1.33 ומעלה וצמתי GPU שהוקצו מראש.
37
אך רמת התמיכה אינה זהה בכל הפלטפורמות. ההסקה המבוזרת עם llm-d ב-Amazon EKS מוגדרת Technology Preview בלבד, ללא הסכם רמת שירות (SLA) לפרודקשן, ו-Red Hat אינה ממליצה להשתמש בה בייצור. התיעוד מדגיש מסלולי פריסה עבור Azure ו-CoreWeave, ולכן אלה הנתיבים הנתמכים הרלוונטיים בגרסה זו.
39
40
מה משתנה בפועל עבור צוותי פלטפורמה
AI 3.5 מאגדת תחת כיוון פלטפורמה אחד ארבעה תחומים שלעתים קרובות מופרדים בפיילוטים:
- אמון לפני השקה: הערכת מודלים מותאמים, צינורות RAG וסוכנים מול סיכוני בטיחות, עם פלט שניתן לבקרה.
13
- שליטה בזמן הפעלה: הקצאת מאיצי GPU משותפים באמצעות מדיניות הוגנות ועדיפות, לצד מדידת שימוש בטוקנים.
4
- נראות תפעולית: דשבורדים להסקה, לניצול תשתיות ולביצועי מודלים לאחר הפריסה.
14
- ניידות בין תשתיות: תמיכה בהסקה מותאמת למספר סוגי מאיצים ובפריסה מבוזרת בסביבות Kubernetes נתמכות.
35
40
במילים פשוטות, Red Hat מנסה להפוך AI מתיק של ניסויים עצמאיים לתשתית ארגונית משותפת: כזו שאפשר לבדוק לפני ההשקה, לנהל בזמן אמת ולפקח עליה לאורך חיי השירות.
43
יוזמת Lightwell: קשורה לאמון, אך נפרדת מ-AI 3.5
במקביל, IBM ו-Red Hat מפעילות את Lightwell, יוזמה נפרדת לטיפול בתלויות קוד פתוח פגיעות של צד שלישי. בספטמבר הודיעה LTM על שיתוף פעולה עם IBM ו-Red Hat סביב Lightwell לטיפול מונע ב-AI בחולשות. זו אינה יכולת של Red Hat AI 3.5; מדובר באבטחת שרשרת אספקת התוכנה. ובכל זאת, היא משקפת את הדגש הרחב יותר של החברות על אימות וצמצום סיכון תפעולי.
24
25
השורה התחתונה
ההבטחה העיקרית של Red Hat AI 3.5 היא תפעולית: לבחון מערכות AI לפני פריסה, למשול בתשתיות האצה משותפות ולנטר שירותי מודלים בסביבות היברידיות. EvalHub, הזמינה באופן כללי, היא החלק המרכזי בהשקה; ניהול ה-GPU, מדידת הטוקנים והניטור מטפלים בעבודה היומיומית שפיילוטים נוטים לדלג עליה. ההסתייגות החשובה היא שזמינות הרכיבים אינה אחידה — AutoRAG והסקה מבוזרת ב-Amazon EKS עדיין נמצאות ב-Technology Preview.
13
39