Red Hat AI 3.5: पायलट से गवर्न्ड प्रोडक्शन AI तक

Red Hat AI 3.5 कोई एक नया मॉडल या चैटबॉट फीचर नहीं है। यह उन एंटरप्राइज़ टीमों के लिए ऑपरेशनल अपडेट है जो AI को प्रूफ-ऑफ-कॉन्सेप्ट से निकालकर नियंत्रित, साझा और मॉनिटर किए जा सकने वाले प्रोडक्शन वर्कलोड के रूप में चलाना चाहती हैं। Red Hat ने 9 सितंबर 2026 को रिलीज़ की घोषणा की थी और 11 सितंबर की अपनी राउंडअप पोस्ट में सुरक्षा, ऑपरेशनल नियंत्रण और प्रदर्शन की पारदर्शिता को मुख्य फोकस बताया। 4315

सबसे अहम बदलाव: EvalHub अब सामान्य रूप से उपलब्ध

इस रिलीज़ का प्रमुख फीचर EvalHub है, जो मॉडल और एजेंट के मूल्यांकन का टूलकिट है। यह अब ग्राहक द्वारा लाए गए या कस्टमाइज़ किए गए मॉडल, रिट्रीवल-ऑगमेंटेड जेनरेशन (RAG) कॉन्फ़िगरेशन और AI एजेंट के लिए सामान्य रूप से उपलब्ध है। टीमें प्रॉम्प्ट इंजेक्शन और जेलब्रेक जैसे जोखिमों पर सुरक्षा-केंद्रित बेंचमार्क चला सकती हैं और परिणामों के आधार पर अनुपालन-केंद्रित प्रमाणन तैयार कर सकती हैं। 13

इसका महत्व सीधा है: किसी डेमो में काम करने वाला मॉडल जरूरी नहीं कि किसी संवेदनशील व्यावसायिक प्रक्रिया के लिए भी तैयार हो। EvalHub का उद्देश्य डिप्लॉयमेंट से पहले एक दोहराए जा सकने वाला मूल्यांकन चरण देना है, ताकि हर एप्लिकेशन टीम को परीक्षण और दस्तावेज़ीकरण की अपनी अलग प्रक्रिया न बनानी पड़े।

Red Hat के अनुसार, उसके वैलिडेटेड मॉडल कैटलॉग में Google, NVIDIA और Alibaba Cloud सहित 20 से अधिक मॉडल जोड़े गए हैं। इन मॉडल आकलनों में Garak बेंचमार्क परिणामों के साथ टॉक्सिसिटी और व्यक्तिगत पहचान योग्य जानकारी (PII) के संभावित एक्सपोज़र के संकेतक भी शामिल हैं। इससे मॉडल चुनते समय टीमों के पास अतिरिक्त प्रमाण मिलते हैं। 34

साझा GPU को एक प्रबंधित सेवा की तरह चलाने की कोशिश

AI पायलट अक्सर सीमित उपयोगकर्ताओं और समर्पित इन्फ्रास्ट्रक्चर पर चलते हैं। प्रोडक्शन में अलग-अलग टीमों के वर्कलोड, सेवा की प्राथमिकताएं और लागत की जवाबदेही सामने आती है। Red Hat AI 3.5 में साझा GPU वातावरण के लिए फेयर-शेयर शेड्यूलिंग, प्राथमिकता-सचेत सर्विंग, एडमिशन कंट्रोल और प्राथमिकता-आधारित रिक्वेस्ट रूटिंग जैसे नियंत्रण जोड़े गए हैं। 48

रिलीज़ में प्रति-उपयोगकर्ता टोकन मीटरिंग तथा इन्फरेंस हेल्थ, GPU उपयोग और मॉडल प्रदर्शन के डैशबोर्ड भी हैं। इनका उद्देश्य प्लेटफॉर्म ऑपरेटरों को यह देखने में मदद देना है कि क्षमता कौन इस्तेमाल कर रहा है, सर्विंग में समस्या कहां है और टीम-स्तर पर लागत का आकलन कैसे किया जाए। 414

NVIDIA-एक्सेलरेटेड इन्फ्रास्ट्रक्चर इस्तेमाल करने वाली संस्थाओं के लिए यह मॉडल सर्विंग के ऊपर Kubernetes-केंद्रित ऑपरेशनल परत जैसा है: वर्कलोड का मूल्यांकन, साझा GPU क्षमता तक पहुंच का प्रबंधन और चल रही सेवा की निगरानी। Red Hat AI Inference 3.5 में NVIDIA CUDA के लिए ऑप्टिमाइज़्ड इन्फरेंस इमेज सामान्य रूप से उपलब्ध हैं; AMD ROCm, Google TPU, Intel Gaudi और IBM Spyre एक्सेलरेटर के लिए भी समर्थन दिया गया है। 35

RAG और एजेंट टूलिंग भी शामिल, लेकिन हर फीचर GA नहीं

Red Hat AI 3.5 में रिट्रीवल और एजेंट-आधारित एप्लिकेशन के लिए टूलिंग का विस्तार भी है। AutoRAG गैर-अंग्रेज़ी और मिश्रित-भाषा दस्तावेज़ संग्रह के लिए बहुभाषी क्षमताएं जोड़ता है, जिनमें भाषा पहचान, भाषा-सचेत चंकिंग और ऑप्टिमाइज़ेशन सर्च स्पेस में बहुभाषी एम्बेडिंग शामिल हैं। 1

Red Hat के अनुसार, AutoRAG से कॉन्टेक्स्चुअल रिट्रीवल, संवादात्मक परीक्षण और विज़ुअल डिबगिंग जैसी क्षमताओं के साथ RAG पाइपलाइन का मूल्यांकन और ट्यूनिंग की जा सकती है। लेकिन AutoRAG स्वयं टेक्नोलॉजी प्रीव्यू है, सामान्य रूप से उपलब्ध फीचर नहीं। इसलिए प्रोडक्शन सेवा की आधारभूत तकनीक चुनते समय टीमों को इसकी स्थिति का ध्यान रखना चाहिए। 13

रिलीज़ में AI Hub टेम्पलेट भी हैं, जो कोड रिव्यू, दस्तावेज़ प्रसंस्करण और रिसर्च जैसे वर्कफ़्लो के शुरुआती ढांचे के रूप में इस्तेमाल किए जा सकते हैं। 43

OpenShift के बाहर हाइब्रिड-क्लाउड इन्फरेंस

यह रिलीज़ मैनेज्ड Kubernetes पर llm-d के साथ डिस्ट्रिब्यूटेड इन्फरेंस के डिप्लॉयमेंट विकल्पों को भी बढ़ाती है। Red Hat दस्तावेज़ में Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) और Amazon Elastic Kubernetes Service (EKS) को लक्षित प्लेटफॉर्म बताया गया है। आवश्यकताओं में Kubernetes 1.33 या इसके बाद का संस्करण और प्रोविज़न्ड GPU नोड शामिल हैं। 37

हालांकि तीनों रास्तों का सपोर्ट स्तर एक जैसा नहीं है। Amazon EKS पर llm-d के साथ डिस्ट्रिब्यूटेड इन्फरेंस को दस्तावेज़ में टेक्नोलॉजी प्रीव्यू कहा गया है; इसके लिए Red Hat का प्रोडक्शन SLA नहीं है और कंपनी इसे प्रोडक्शन में इस्तेमाल करने की सलाह नहीं देती। इस रिलीज़ में Azure और CoreWeave Kubernetes Service के लिए डिप्लॉयमेंट गाइडेंस प्रमुख समर्थित रास्ते हैं। 3940

एंटरप्राइज़ टीमों के लिए व्यावहारिक मतलब

Red Hat AI 3.5 उन चार कामों को एक प्लेटफॉर्म दिशा में लाता है जो AI पायलट में अक्सर अलग-अलग रहते हैं:

1. लॉन्च से पहले भरोसा: कस्टम मॉडल, RAG पाइपलाइन और एजेंट का सुरक्षा जोखिमों के लिए मूल्यांकन और ऑडिट योग्य आउटपुट। 13
2. चलते समय नियंत्रण: फेयरनेस और प्राथमिकता नीतियों से साझा GPU संसाधनों का आवंटन, साथ में टोकन उपयोग का मापन। 4
3. ऑपरेशन में दृश्यता: इन्फरेंस, उपयोग और मॉडल-प्रदर्शन डैशबोर्ड के जरिए सेवा चलने के बाद उसका प्रबंधन। 14
4. इन्फ्रास्ट्रक्चर में पोर्टेबिलिटी: कई एक्सेलरेटर स्टैक पर ऑप्टिमाइज़्ड इन्फरेंस और समर्थित Kubernetes वातावरणों पर डिस्ट्रिब्यूटेड इन्फरेंस। 3540

Red Hat इन क्षमताओं को हाइब्रिड वातावरण में AI को स्केल करने की ऑपरेशनल नींव के रूप में पेश कर रहा है—यानी AI को अलग-अलग प्रयोगों के समूह के बजाय साझा एंटरप्राइज़ इन्फ्रास्ट्रक्चर की तरह चलाने की दिशा। 43

Lightwell: जुड़ी हुई, लेकिन अलग पहल

IBM और Red Hat की व्यापक रणनीति में Lightwell भी शामिल है, लेकिन यह Red Hat AI 3.5 का फीचर नहीं है। यह दोनों कंपनियों की संयुक्त पहल है, जिसका फोकस कमजोर थर्ड-पार्टी ओपन-सोर्स डिपेंडेंसी पर है। सितंबर में LTM ने IBM और Red Hat के साथ Lightwell पर सहयोग की घोषणा की, जिसका उद्देश्य AI-संचालित वल्नरेबिलिटी रिमेडिएशन के जरिए ओपन-सोर्स सॉफ्टवेयर सप्लाई चेन को सुरक्षित करना है। 2425

निष्कर्ष

Red Hat AI 3.5 का मुख्य वादा ऑपरेशनल है: AI को डिप्लॉयमेंट से पहले जांचने, साझा एक्सेलरेटर इन्फ्रास्ट्रक्चर को नियंत्रित करने और हाइब्रिड वातावरण में मॉडल सर्विंग पर नज़र रखने के साधन देना। EvalHub की सामान्य उपलब्धता इसका केंद्र है, जबकि GPU शेड्यूलिंग, मीटरिंग और ऑब्ज़र्वेबिलिटी उन रोज़मर्रा के कामों पर ध्यान देते हैं जिन्हें पायलट प्रोजेक्ट अक्सर टाल देते हैं। अहम बात यह है कि सभी क्षमताओं की उपलब्धता समान नहीं है—AutoRAG और EKS पर डिस्ट्रिब्यूटेड इन्फरेंस अभी टेक्नोलॉजी प्रीव्यू में हैं। 1339