Red Hat AI 3.5 tähtää hallittuun AI-tuotantoon hybridipilvessä

Red Hat AI 3.5 ei ole ensisijaisesti yksittäinen uusi kielimalli tai chatbot-ominaisuus. Kyse on tuotantokäytön hallintaan suunnatusta päivityksestä: tavoitteena on antaa alusta- ja käyttötiimeille välineet AI-ratkaisujen arviointiin ennen käyttöönottoa, kalliiden GPU-resurssien jakamiseen sekä inferenssin seurantaan tuotannossa. Red Hat julkisti version 9. syyskuuta 2026, ja 11. syyskuuta julkaistu kooste korosti turvallisuutta, operatiivista hallintaa ja suorituskyvyn läpinäkyvyyttä. 4315

Keskeisin uudistus: EvalHub on yleisesti saatavilla

Tuotantovalmiuden kannalta selvin lisäys on EvalHub, Red Hatin mallien ja agenttien arviointityökalu. Se on nyt yleisesti saatavilla asiakkaan omille tai mukautetuille malleille, retrieval-augmented generation -kokoonpanoille (RAG) ja AI-agenteille. Tiimit voivat ajaa turvallisuustestejä esimerkiksi prompt injection- ja jailbreak-riskejä vastaan sekä tuottaa tuloksista vaatimustenmukaisuuteen tarkoitettuja sertifiointeja. 13

Prototyypissä toimiva malli ei vielä automaattisesti sovellu yrityksen kriittiseen työnkulkuun. EvalHubin tarkoitus on tehdä arvioinnista toistettava vaihe ennen käyttöönottoa sen sijaan, että jokainen sovellustiimi rakentaisi ja dokumentoisi testauksensa erikseen.

Red Hat kertoi myös, että sen validoitujen mallien luetteloon lisättiin yli 20 mallia muun muassa Googlelta, NVIDIAlta ja Alibaba Cloudilta. Luettelon arvioihin sisältyvät Garak-vertailutulokset sekä indikaattorit toksisuudesta ja mahdollisesta henkilötietojen (PII) paljastumisesta. Näin mallia valitseville tiimeille tarjotaan lisää näyttöä päätöksenteon tueksi. 34

Jaetuista GPU:ista hallittu palvelu

AI-piloteissa infrastruktuuri on usein omistettu yhdelle käyttötapaukselle ja pienelle käyttäjäjoukolle. Tuotannossa sen sijaan useat kuormat kilpailevat kapasiteetista, palveluille on asetettava prioriteetteja ja kustannuksia on pystyttävä kohdistamaan. Red Hat AI 3.5 tuo tähän reilun jaon ajoituksen, prioriteettitietoisen palvelun, pääsynhallinnan sekä prioriteettiin perustuvan pyyntöjen reitityksen jaettuihin GPU-ympäristöihin. 48

Versio lisää myös käyttäjäkohtaisen token-mittauksen sekä hallintanäkymiä inferenssin tilalle, GPU-käytölle ja mallien suorituskyvylle. Näiden avulla alustaoperaattorit voivat selvittää, kuka kuluttaa kapasiteettia, havaita palveluongelmia ja kohdistaa kustannuksia tiimeittäin. 414

NVIDIA-kiihdytettyä infrastruktuuria käyttävälle organisaatiolle käytännön hyöty on Kubernetes-pohjainen hallintakerros mallien palvelun ympärillä: työkuormat voidaan arvioida, pääsyä yhteiseen GPU-kapasiteettiin hallita ja käynnissä olevaa palvelua seurata. Red Hat AI Inference 3.5 tarjoaa yleisesti saatavilla olevia optimoituja inferenssikonttikuvia NVIDIA CUDA:lle sekä AMD ROCm-, Google TPU-, Intel Gaudi- ja IBM Spyre -kiihdyttimille. 35

RAG- ja agenttityökaluja, mutta kaikki eivät ole vielä GA-tasolla

Red Hat AI 3.5 laajentaa myös hakuun ja agentteihin perustuvien sovellusten työkaluja. AutoRAG saa monikielisiä ominaisuuksia muunkielisille ja sekakielisille dokumenttikokoelmille: mukana ovat kielentunnistus, kielitietoinen dokumenttien paloittelu ja monikieliset embedding-mallit optimointivaihtoehdoissa. 1

Red Hat kuvaa AutoRAGin työkaluksi, jolla RAG-putkia voi arvioida ja virittää esimerkiksi kontekstuaalisen haun, keskustelutestauksen ja visuaalisen virheenkorjauksen avulla. AutoRAG on kuitenkin Technology Preview, ei yleisesti saatavilla oleva ominaisuus. Tämä kannattaa ottaa huomioon, kun päätetään, mitkä komponentit voivat muodostaa tuotantopalvelun perustan. 13

Julkaisu sisältää lisäksi AI Hub -mallipohjia, jotka on tarkoitettu lähtökohdiksi esimerkiksi koodikatselmointiin, asiakirjojen käsittelyyn ja tutkimustyöhön liittyville työnkuluille. 43

Hybridipilvi-inferenssiä myös OpenShiftin ulkopuolelle

Julkaisu laajentaa hajautetun inferenssin käyttömahdollisuuksia hallituissa Kubernetes-ympäristöissä llm-d:n avulla. Red Hatin dokumentaatio nimeää kohdealustoiksi Azure Kubernetes Servicen (AKS), CoreWeave Kubernetes Servicen (CKS) ja Amazon EKS:n. Vaatimuksiin kuuluvat muun muassa Kubernetes 1.33 tai uudempi sekä käyttöön otetut GPU-solmut. 37

Tukitaso ei ole sama kaikilla alustoilla. Dokumentaation mukaan hajautettu llm-d-inferenssi Amazon EKS:ssä on Technology Preview: sillä ei ole Red Hatin tuotannon palvelutasosopimusten tukea, eikä sitä suositella tuotantokäyttöön. Red Hat AI Inference -dokumentaatio nostaa puolestaan Azure- ja CoreWeave Kubernetes Service -ympäristöt tämän version tuetuiksi käyttöönottopoluiksi. 3940

Mitä muutos merkitsee yritystiimeille?

Red Hat AI 3.5 kokoaa samaan alustasuuntaan neljä työvaihetta, jotka AI-piloteissa jäävät usein erillisiksi:

1. Luottamus ennen julkaisua: mukautettuja malleja, RAG-putkia ja agentteja arvioidaan turvallisuusriskien varalta, ja tuloksista voidaan tuottaa auditoitavaa aineistoa. 13
2. Hallinta käytön aikana: yhteisiä GPU-resursseja jaetaan reiluus- ja prioriteettisääntöjen mukaisesti samalla, kun token-käyttöä mitataan. 4
3. Näkyvyys tuotannossa: inferenssiä, käyttöastetta ja mallien suorituskykyä seurataan hallintanäkymistä palvelun käydessä. 14
4. Siirrettävyys infrastruktuurien välillä: optimoitua inferenssiä voi ajaa useilla kiihdytinalustoilla, ja hajautettua inferenssiä voi ottaa käyttöön tuetuissa Kubernetes-ympäristöissä. 3540

Red Hat asemoi nämä ominaisuudet operatiiviseksi perustaksi AI:lle, joka toimii hybridissä infrastruktuurissa ja jota hallitaan jaettuna yrityspalveluna erillisten kokeilujen joukon sijaan. 43

Lightwell on erillinen IBM–Red Hat-hanke

IBM:n ja Red Hatin laajempaan luottamusta korostavaan strategiaan kuuluu myös Lightwell, joka on erillinen yhteishanke haavoittuvien kolmannen osapuolen avoimen lähdekoodin riippuvuuksien käsittelyyn. LTM ilmoitti syyskuussa yhteistyöstä IBM:n ja Red Hatin kanssa Lightwellin parissa AI-avusteista haavoittuvuuksien korjaamista varten. Kyse ei ole Red Hat AI 3.5:n ominaisuudesta, vaan ohjelmistotoimitusketjun tietoturvasta. Hanke kuvastaa silti yhtiöiden laajempaa painotusta validointiin ja operatiivisten riskien pienentämiseen. 2425

Yhteenveto

Red Hat AI 3.5:n keskeinen lupaus on operatiivinen: alusta pyrkii antamaan tiimeille keinot testata AI-ratkaisuja ennen käyttöönottoa, hallita yhteistä kiihdytininfrastruktuuria ja seurata mallien palvelua hybridiympäristöissä. EvalHubin yleinen saatavuus on julkaisun tärkein yksittäinen muutos. GPU-ajoitus, käyttömittaus ja observability-ominaisuudet puolestaan kohdistuvat tuotannon jatkuvaan ylläpitotyöhön, joka piloteissa jää usein vähälle huomiolle. Oleellinen varaus on ominaisuuksien vaihteleva saatavuus: AutoRAG ja EKS:n hajautettu inferenssi ovat yhä Technology Preview -tasolla. 1339