Red Hat AI 3.5 mahu menjadikan AI perkhidmatan pengeluaran yang ditadbir

Pada 11 September 2026, Red Hat mengumumkan ketersediaan umum Red Hat AI 3.5, kemas kini platform AI perusahaan yang disasarkan untuk membawa AI daripada projek percubaan kepada perkhidmatan pengeluaran berskala. Tumpuannya bukan sekadar menjalankan model, tetapi mengendalikan AI sebagai infrastruktur yang boleh ditadbir, dipantau dan dikongsi oleh pelbagai pasukan dalam persekitaran awan hibrid. 168

Secara ringkas, Red Hat cuba merapatkan jurang antara pasukan sains data yang membina atau menguji model dengan pasukan operasi yang perlu memastikan perkhidmatan itu selamat, stabil, cekap dan terkawal kosnya.

Penilaian keselamatan dan tadbir urus sebelum model digunakan

Ciri utama ialah EvalHub, yang kini tersedia secara umum. Ia membolehkan organisasi menjalankan penanda aras keselamatan berasaskan risiko secara automatik serta menghasilkan pensijilan pematuhan yang boleh diaudit untuk model yang dibina atau diubah suai pelanggan, saluran retrieval-augmented generation (RAG), dan ejen AI. Antaranya, pasukan boleh menguji pendedahan kepada suntikan arahan (prompt injection) dan cubaan memintas kawalan model atau jailbreak sebelum sesuatu sistem digunakan. 138

Red Hat juga memperluas katalog modelnya dengan lebih 20 model yang telah disahkan daripada penyedia termasuk Google, NVIDIA dan Alibaba Cloud. Katalog tersebut menyertakan maklumat risiko keselamatan, pendedahan maklumat peribadi yang boleh dikenal pasti (PII), dan ketoksikan. Matlamat praktikalnya ialah memberi pasukan platform asas bukti untuk memilih model, tanpa setiap pasukan perlu mereka bentuk proses penilaian sendiri dari awal. 34

GPU dikongsi dengan lebih teratur, bukan dikuasai satu pasukan

Kos dan kapasiti GPU sering menjadi kekangan apabila AI mula digunakan oleh banyak unit perniagaan. Red Hat AI 3.5 memperkenalkan atau menekankan kawalan seperti penjadualan agihan saksama, penyajian yang mengambil kira keutamaan, kawalan kemasukan dan penghalaan permintaan berasaskan keutamaan. Ciri-ciri ini bertujuan menghalang satu beban kerja atau satu pasukan daripada memonopoli GPU yang mahal. 45

Bersama pemeteran token bagi setiap pengguna, kawalan ini menyokong keutamaan tahap perkhidmatan serta mekanisme chargeback atau showback mengikut pasukan—iaitu sama ada mengenakan kos penggunaan atau sekurang-kurangnya menunjukkan penggunaan dan kos kepada unit yang berkaitan. 45

Pemantauan semasa inferens berjalan

Bagi operasi harian, papan pemuka pemerhatian baharu memaparkan kesihatan inferens, penggunaan GPU dan isyarat prestasi model. Ini membolehkan pengendali platform mengesan isu kapasiti, ketersediaan atau mutu respons ketika perkhidmatan AI sedang berjalan, bukannya hanya selepas masalah menjejaskan pengguna. 416

RAG pelbagai bahasa dan templat untuk ejen AI

Untuk pembangunan aplikasi, AutoRAG mendapat sokongan berbilang bahasa bagi koleksi dokumen bukan bahasa Inggeris dan dokumen yang mencampurkan bahasa. Keupayaan ini merangkumi pengesanan bahasa serta konfigurasi eksperimen, sekali gus membantu organisasi menguji corak RAG bagi sumber pengetahuan global. Red Hat turut meletakkan AutoRAG untuk pencarian data perusahaan, ujian aplikasi perbualan dan aplikasi berasaskan ejen. Templat AI Hub pula menyediakan seni bina permulaan bagi aliran kerja seperti semakan kod, pemprosesan dokumen dan penyelidikan. 113

Inferens merentas awan hibrid dan perkakasan berbeza

Red Hat AI Inference 3.5 menyediakan imej inferens yang dioptimumkan untuk pemecut NVIDIA CUDA, AMD ROCm, Google TPU, Intel Gaudi dan IBM Spyre. Ini memberi organisasi pilihan untuk menjalankan inferens pada jenis perkakasan yang berbeza tanpa perlu membina pendekatan operasi yang benar-benar berasingan bagi setiap platform. 384

Untuk inferens teragih menggunakan llm-d, penggunaan pada Azure Kubernetes Service (AKS) dan CoreWeave Kubernetes Service (CKS) disokong. Amazon Elastic Kubernetes Service (EKS) pula mempunyai penjadualan yang peka terhadap inferens sebagai Technology Preview. 384

Perbezaan status ini penting: ciri Technology Preview pada EKS bukan ciri yang disokong di bawah perjanjian tahap perkhidmatan pengeluaran Red Hat dan tidak disyorkan untuk penggunaan pengeluaran, manakala laluan Azure dan CoreWeave ialah penggunaan yang disokong. 84

Peranan Red Hat AI Factory with NVIDIA

Dalam kerangka Red Hat AI Factory with NVIDIA, kawalan ini menjadi lapisan operasi yang lebih seragam di atas infrastruktur dipercepat NVIDIA. Organisasi boleh menilai model, mengagihkan kapasiti GPU secara lebih saksama, memantau penyajian model dan menggunakan beban kerja merentas infrastruktur hibrid dengan pendekatan berasaskan Kubernetes yang sama. Inilah mekanisme yang disasarkan Red Hat untuk mengurangkan jurang penyerahan antara eksperimen sains data dan operasi perusahaan. 163

Secara lebih luas, keluaran ini mengukuhkan strategi IBM dan Red Hat untuk memadankan infrastruktur awan hibrid terbuka dengan operasi AI yang ditadbir. Secara berasingan, LTM bekerjasama dengan IBM dan Red Hat pada Lightwell bagi membantu perusahaan mengenal pasti, mengutamakan dan membaiki kelemahan perisian sumber terbuka; Lightwell ialah inisiatif IBM–Red Hat yang menumpukan pengurangan risiko daripada kebergantungan pihak ketiga yang terdedah. 48