Red Hat AI 3.5, Yapay Zekâyı Pilot Aşamadan Yönetilen Üretime Taşımayı Hedefliyor

Red Hat AI 3.5, tek bir yeni model ya da sohbet botu özelliğinden çok, yapay zekâyı kurumsal üretim ortamında işletmeye yönelik bir güncelleme. Red Hat sürümü 9 Eylül 2026’da duyurdu; 11 Eylül’deki değerlendirmesinde de güvenlik, operasyonel denetim ve performans şeffaflığını öne çıkardı. Amaç, yapay zekâ çalışmalarını birbirinden kopuk pilot projeler olmaktan çıkarıp ortak kullanılan, yönetilen bir kurumsal hizmete dönüştürmek. 4315

Öne çıkan yenilik: EvalHub artık genel kullanıma açık

Sürümün üretime hazırlık açısından en önemli bileşeni EvalHub. Red Hat’in model ve ajan değerlendirme aracı; kuruluşların getirdiği veya özelleştirdiği modeller, retrieval-augmented generation (RAG) yapılandırmaları ve yapay zekâ ajanları için genel kullanıma açıldı.

Ekipler; istem enjeksiyonu (prompt injection) ve güvenlik kısıtlarını aşma girişimleri (jailbreak) gibi risklere karşı güvenlik odaklı testler çalıştırabiliyor, sonuçlardan uyumluluk süreçlerinde kullanılabilecek sertifikasyon çıktıları üretebiliyor. 13

Bu ayrım önemli: Bir modelin prototipte işe yaraması, kritik bir iş akışında güvenle kullanılabileceği anlamına gelmiyor. EvalHub, her uygulama ekibinin kendi test ve belgeleme yöntemini baştan kurması yerine, dağıtımdan önce tekrarlanabilir bir değerlendirme adımı oluşturmayı hedefliyor.

Red Hat ayrıca doğrulanmış model kataloğuna Google, NVIDIA ve Alibaba Cloud kaynaklı olanlar dâhil 20’den fazla model eklediğini belirtiyor. Katalogdaki değerlendirmelerde Garak kıyaslama sonuçlarının yanı sıra toksisite ve kişisel olarak tanımlanabilir bilgi (PII) sızıntısı potansiyeline ilişkin göstergeler de bulunuyor. Bu veriler, ekiplerin model seçerken daha somut kanıtlarla karar vermesine yardımcı olabilir. 34

Ortak GPU kapasitesi için hizmet yönetimi

Yapay zekâ pilotlarında altyapı çoğu zaman belirli bir ekip veya tekil iş yükü için ayrılır. Üretim ortamında ise aynı GPU kapasitesi üzerinde çalışan farklı ekiplerin öncelikleri, rekabet eden talepleri ve maliyet sorumluluğu yönetilmelidir.

Red Hat AI 3.5, ortak GPU ortamları için bu soruna yönelik şu yetenekleri ekliyor: adil paylaşım zamanlaması, öncelik farkındalığı olan sunum, kabul kontrolü ve önceliğe dayalı istek yönlendirme. 48

Sürümde ayrıca kullanıcı başına token ölçümü ile çıkarım sağlığı, GPU kullanımı ve model performansına yönelik panolar bulunuyor. Bu araçların hedefi; platform ekiplerinin kapasiteyi kimin kullandığını görmesi, model sunumundaki sorunları fark etmesi ve ekip bazında maliyet atfı yapabilmesi. 414

NVIDIA hızlandırıcılı altyapı kullanan kurumlar açısından bu, model sunumunun çevresinde Kubernetes odaklı bir operasyon katmanı anlamına geliyor: iş yüklerini değerlendirmek, paylaşılan GPU erişimini yönetmek ve çalışan hizmeti izlemek. Red Hat AI Inference 3.5; NVIDIA CUDA’nın yanı sıra AMD ROCm, Google TPU, Intel Gaudi ve IBM Spyre hızlandırıcıları için optimize edilmiş çıkarım imajları da sunuyor. 35

RAG ve ajan araçları var; ancak hepsi genel kullanıma açık değil

Red Hat AI 3.5, bilgi getirmeli üretim ve ajan tabanlı uygulamalara dönük araçlarını da genişletiyor. AutoRAG, İngilizce dışındaki ve birden çok dil içeren belge koleksiyonları için çok dilli yetenekler ekliyor. Bunlar arasında dil algılama, dile duyarlı parçalama ve optimizasyon arama alanında çok dilli gömme modelleri yer alıyor. 1

Red Hat, AutoRAG’i bağlamsal getirme, konuşma tabanlı testler ve görsel hata ayıklama gibi işlevlerle RAG işlem hatlarını değerlendirme ve ayarlama aracı olarak konumlandırıyor. Ancak kritik not şu: AutoRAG bir Technology Preview, yani genel kullanıma açık bir özellik değil. Üretim hizmeti için hangi bileşenlerin kullanılacağına karar veren ekiplerin bu statüyü hesaba katması gerekiyor. 13

Sürümde ayrıca kod inceleme, belge işleme ve araştırma gibi iş akışları için başlangıç noktası sunmayı amaçlayan AI Hub şablonları yer alıyor. 43

OpenShift dışındaki hibrit bulut seçenekleri

Red Hat, yönetilen Kubernetes ortamlarında llm-d ile dağıtık çıkarım için dağıtım seçeneklerini genişletiyor. Dokümantasyon; Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) ve Amazon Elastic Kubernetes Service’i (EKS) hedef platformlar arasında sayıyor. Gereksinimler arasında Kubernetes 1.33 veya üzeri sürüm ile hazırlanmış GPU düğümleri bulunuyor. 37

Ancak bu seçeneklerin destek düzeyi aynı değil. Red Hat dokümantasyonunda, Amazon EKS üzerinde llm-d ile dağıtık çıkarımın Technology Preview olduğu; üretim hizmet seviyesi anlaşması (SLA) kapsamında desteklenmediği ve üretim kullanımı için önerilmediği açıkça belirtiliyor. Bu sürümde Azure ve CoreWeave Kubernetes Service için dağıtım rehberleri, desteklenen yollar olarak öne çıkıyor. 3940

Kurumsal ekipler için pratik sonuç

Red Hat AI 3.5, bir yapay zekâ pilotunda çoğu zaman ayrı ayrı ele alınan dört işi aynı platform yaklaşımında birleştiriyor:

1. Yayına almadan önce güven: Özel modelleri, RAG hatlarını ve ajanları güvenlik riskleri bakımından değerlendirip denetlenebilir çıktılar üretmek. 13
2. Çalışırken denetim: Ortak GPU kaynaklarını adalet ve öncelik politikalarıyla tahsis etmek; token kullanımını ölçmek. 4
3. Operasyon görünürlüğü: Çıkarım, kullanım ve model performansı panolarıyla canlı hizmeti yönetmek. 14
4. Altyapı taşınabilirliği: Birden fazla hızlandırıcı yığını üzerinde optimize edilmiş çıkarım çalıştırmak ve desteklenen Kubernetes ortamlarına dağıtık çıkarım kurmak. 3540

Red Hat, bu işlevleri hibrit ortamlar arasında çalışan ve bağımsız deneyler toplamından ziyade ortak kurumsal altyapı gibi işletilen yapay zekâ için operasyonel temel olarak sunuyor. 43

Lightwell: İlgili, ancak AI 3.5’ten ayrı bir girişim

IBM ve Red Hat’in daha geniş güven stratejisinde Lightwell de bulunuyor. Lightwell, güvenlik açığı taşıyan üçüncü taraf açık kaynak bağımlılıklarına odaklanan ayrı bir IBM–Red Hat ortak girişimi. Eylül ayında LTM, Lightwell kapsamında IBM ve Red Hat ile yapay zekâ destekli güvenlik açığı giderimi için iş birliği yaptığını duyurdu. 2425

Bu girişim Red Hat AI 3.5’in bir özelliği değil; yazılım tedarik zinciri güvenliğiyle ilgili. Yine de şirketlerin doğrulama ve operasyonel riski azaltma eksenindeki daha geniş yaklaşımıyla uyumlu.

Sonuç

Red Hat AI 3.5’in temel vaadi operasyonel: Yapay zekâyı dağıtımdan önce test etmek, ortak hızlandırıcı altyapısını yönetmek ve hibrit ortamlarda model sunumunu izlemek için platform ekiplerine araç sağlamak. Genel kullanıma açılan EvalHub bu yaklaşımın merkezinde yer alırken, GPU zamanlaması, token ölçümü ve gözlemlenebilirlik araçları pilot projelerde sıklıkla ihmal edilen günlük işletim ihtiyaçlarını hedefliyor.

Bununla birlikte, özelliklerin olgunluk seviyesi aynı değil: AutoRAG ile Amazon EKS üzerinde dağıtık çıkarım hâlâ Technology Preview aşamasında. 1339