Red Hat AI 3.5 veut faire passer l’IA d’entreprise du pilote à la production

Red Hat AI 3.5 n’est pas la sortie d’un nouveau modèle ni d’un assistant conversationnel. Cette mise à jour vise surtout l’exploitation : elle doit aider les équipes plateforme à évaluer les systèmes d’IA avant leur déploiement, à répartir des GPU coûteux entre plusieurs utilisateurs et à surveiller l’inférence une fois les services en ligne.

Red Hat a annoncé cette version le 9 septembre 2026. Dans son récapitulatif du 11 septembre, l’éditeur a de nouveau mis l’accent sur la sécurité, le contrôle opérationnel et la transparence des performances. 4315

EvalHub, la principale nouveauté disponible en production

La nouveauté la plus significative est la disponibilité générale d’EvalHub, l’outil d’évaluation des modèles et des agents de Red Hat. Il couvre les modèles fournis ou personnalisés par les clients, les configurations de génération augmentée par récupération (RAG) et les agents d’IA.

Les équipes peuvent y exécuter des tests de sécurité portant notamment sur l’injection de prompts et les tentatives de contournement des garde-fous (« jailbreaks »), puis générer des certifications orientées conformité à partir des résultats. 13

L’enjeu est clair : un modèle convaincant en démonstration n’est pas nécessairement apte à intégrer un processus métier. EvalHub cherche à instaurer une étape d’évaluation reproductible avant le déploiement, plutôt que de laisser chaque équipe applicative concevoir et documenter ses propres tests.

Le catalogue de modèles validés s’enrichit également de plus de 20 modèles, notamment de Google, NVIDIA et Alibaba Cloud. Les évaluations du catalogue incluent des résultats au benchmark Garak, ainsi que des indicateurs de toxicité et d’exposition potentielle à des données personnelles identifiables. Ces éléments apportent des critères supplémentaires lors du choix d’un modèle. 34

Des GPU partagés, mais gouvernés

Les projets pilotes disposent souvent d’une infrastructure dédiée et d’un petit nombre d’utilisateurs. À l’échelle de la production, il faut arbitrer entre charges de travail concurrentes, priorités de service et attribution des coûts.

Red Hat AI 3.5 ajoute des contrôles adaptés à ces situations : ordonnancement équitable (fair-share scheduling), service tenant compte des priorités, contrôle d’admission et routage des requêtes selon leur priorité dans les environnements GPU partagés. 48

La version introduit aussi le comptage des jetons par utilisateur et des tableaux de bord portant sur l’état de l’inférence, l’utilisation des GPU et les performances des modèles. L’objectif est de permettre aux opérateurs d’identifier les consommateurs de capacité, de détecter les problèmes de service et d’attribuer les coûts au niveau des équipes. 414

Pour les environnements accélérés par NVIDIA, Red Hat fournit ainsi une couche opérationnelle orientée Kubernetes autour du service de modèles : évaluer les charges, administrer l’accès aux GPU partagés et superviser le service en fonctionnement. Red Hat AI Inference 3.5 propose aussi, en disponibilité générale, des images d’inférence optimisées pour NVIDIA CUDA, ainsi que pour AMD ROCm, Google TPU, Intel Gaudi et IBM Spyre. 35

RAG et agents : des outils utiles, mais pas tous finalisés

La version 3.5 étend les outils destinés aux applications de récupération de données et aux agents. AutoRAG ajoute des capacités multilingues pour les corpus documentaires non anglophones ou mixtes : détection de langue, découpage adapté à la langue et modèles d’embeddings multilingues dans l’espace de recherche d’optimisation. 1

Red Hat présente AutoRAG comme un moyen d’évaluer et d’ajuster les pipelines RAG, avec notamment de la récupération contextuelle, des tests conversationnels et un débogage visuel. Mais AutoRAG reste un aperçu technologique (Technology Preview), et non une fonction disponible en disponibilité générale. Les entreprises doivent donc tenir compte de ce statut avant de l’utiliser comme fondation d’un service de production. 13

La mise à jour inclut en outre des modèles AI Hub servant de points de départ pour des flux de travail tels que la revue de code, le traitement de documents et la recherche. 43

Inférence hybride au-delà d’OpenShift

Red Hat élargit les options de déploiement de l’inférence distribuée avec llm-d sur Kubernetes managé. La documentation cite Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) et Amazon EKS parmi les plateformes visées, avec Kubernetes 1.33 ou version ultérieure et des nœuds GPU provisionnés comme prérequis. 37

Le niveau de support n’est toutefois pas identique pour chaque plateforme. L’inférence distribuée avec llm-d sur Amazon EKS est explicitement présentée comme un aperçu technologique : elle n’est pas couverte par les accords de niveau de service de production de Red Hat et n’est pas recommandée pour la production. La documentation met en avant Azure et CoreWeave Kubernetes Service comme voies de déploiement prises en charge dans cette version. 3940

Ce qui change concrètement pour les équipes

Red Hat AI 3.5 réunit dans une même orientation de plateforme quatre chantiers souvent dissociés pendant une expérimentation :

1. Évaluer avant de lancer : tester les modèles sur mesure, les pipelines RAG et les agents face aux risques de sécurité, avec des résultats auditables. 13
2. Gouverner en exploitation : répartir les GPU partagés selon des règles d’équité et de priorité, tout en mesurant l’usage des jetons. 4
3. Voir ce qui se passe en production : suivre l’inférence, l’utilisation des accélérateurs et les performances des modèles grâce aux tableaux de bord. 14
4. Conserver de la portabilité : utiliser plusieurs familles d’accélérateurs et déployer l’inférence distribuée sur des environnements Kubernetes pris en charge. 3540

Red Hat présente cet ensemble comme le socle opérationnel d’une IA déployée dans des environnements hybrides et administrée comme une infrastructure partagée de l’entreprise, plutôt que comme une succession d’expériences isolées. 43

Lightwell : une initiative liée à IBM et Red Hat, mais distincte d’AI 3.5

La stratégie plus large d’IBM et Red Hat comprend aussi Lightwell, une initiative conjointe distincte, consacrée aux dépendances open source tierces vulnérables. En septembre, LTM a annoncé une collaboration avec IBM et Red Hat autour de Lightwell pour la remédiation de vulnérabilités assistée par l’IA.

Cette initiative concerne la sécurité de la chaîne d’approvisionnement logicielle, et non une fonctionnalité de Red Hat AI 3.5. Elle illustre néanmoins l’accent plus général mis par les deux entreprises sur la validation et la réduction des risques opérationnels. 2425

À retenir

La promesse centrale de Red Hat AI 3.5 est opérationnelle : fournir aux équipes plateforme des moyens de tester l’IA avant le déploiement, de gouverner des infrastructures d’accélération partagées et de surveiller le service de modèles dans des environnements hybrides.

La disponibilité générale d’EvalHub en est la pièce maîtresse. La planification GPU, le comptage des jetons et l’observabilité ciblent, eux, le travail quotidien de production que les projets pilotes évitent souvent. Attention toutefois : le niveau de disponibilité varie selon les fonctions ; AutoRAG et l’inférence distribuée sur Amazon EKS sont encore en aperçu technologique. 1339