Red Hat AI 3.5 reforça segurança, gestão de GPUs e observabilidade para IA em produção

A Red Hat posiciona o Red Hat AI 3.5 como uma atualização para a etapa que começa depois do protótipo: operar IA de forma controlada, auditável e observável em ambientes de nuvem híbrida. Anunciada em 9 de setembro de 2026, a versão concentra-se em avaliação de segurança antes da implantação, administração de GPUs compartilhadas e acompanhamento da inferência em produção. 4315

EvalHub é o destaque da versão

A principal novidade é a disponibilidade geral do EvalHub, ferramenta de avaliação de modelos e agentes da Red Hat. Ela pode ser usada com modelos fornecidos ou personalizados pelo cliente, configurações de retrieval-augmented generation (RAG, técnica que combina o modelo a uma base de documentos) e agentes de IA. As equipes podem executar testes de segurança voltados, por exemplo, a injeção de prompts e tentativas de jailbreak, além de gerar certificações orientadas à conformidade a partir dos resultados. 13

Na prática, a proposta é criar uma etapa repetível de validação antes de liberar uma aplicação de IA. Um modelo que funciona em uma demonstração não necessariamente está pronto para processos corporativos, especialmente quando acessa dados internos ou interage com usuários em escala.

A Red Hat também ampliou seu catálogo de modelos validados com mais de 20 opções, incluindo modelos do Google, da NVIDIA e do Alibaba Cloud. As avaliações do catálogo incluem resultados do benchmark Garak e indicadores de toxicidade e possível exposição de informações de identificação pessoal, as chamadas PII. 34

GPUs compartilhadas passam a ter regras de uso

Em pilotos, é comum que uma equipe utilize infraestrutura dedicada. Em produção, diferentes áreas passam a disputar GPUs — processadores especializados e caros, usados para treinar e executar modelos de IA. Para esse cenário, o Red Hat AI 3.5 adiciona agendamento por repartição justa (fair-share), atendimento sensível à prioridade, controle de admissão e roteamento de solicitações baseado em prioridade. 48

A atualização inclui ainda medição de tokens por usuário e painéis para acompanhar a saúde da inferência, a utilização das GPUs e o desempenho dos modelos. A intenção é permitir que operadores de plataforma identifiquem quem está consumindo capacidade, detectem problemas de atendimento e atribuam custos por equipe. 414

Para organizações com infraestrutura acelerada pela NVIDIA, o resultado é uma camada operacional orientada a Kubernetes para avaliar cargas de trabalho, administrar o acesso a GPUs compartilhadas e monitorar o serviço em execução. O Red Hat AI Inference 3.5 também oferece imagens de inferência otimizadas, em disponibilidade geral, para NVIDIA CUDA, AMD ROCm, Google TPU, Intel Gaudi e IBM Spyre. 35

RAG e agentes ganham recursos, mas há ressalvas de disponibilidade

O AutoRAG amplia o suporte a coleções de documentos em idiomas diferentes do inglês e a conjuntos multilíngues. Entre os recursos estão detecção de idioma, fragmentação de texto adaptada ao idioma e embeddings multilíngues no espaço de otimização. 1

A Red Hat descreve o AutoRAG como uma ferramenta para avaliar e ajustar pipelines RAG, com recuperação contextual, testes conversacionais e depuração visual. Porém, o recurso ainda está classificado como Technology Preview — ou seja, não tem o mesmo status de disponibilidade geral dos componentes indicados para produção. 13

A versão também traz modelos prontos no AI Hub para iniciar fluxos como revisão de código, processamento de documentos e pesquisa. 43

Inferência distribuída fora do OpenShift

O Red Hat AI 3.5 amplia as opções de implantação de inferência distribuída com llm-d em Kubernetes gerenciado. A documentação cita Azure Kubernetes Service (AKS), CoreWeave Kubernetes Service (CKS) e Amazon Elastic Kubernetes Service (EKS), exigindo Kubernetes 1.33 ou posterior e nós com GPU provisionados. 37

O nível de suporte, entretanto, varia. A inferência distribuída com llm-d no Amazon EKS é uma Technology Preview, sem acordo de nível de serviço para produção e não recomendada pela Red Hat para esse uso. A documentação destaca caminhos de implantação para Azure e CoreWeave Kubernetes Service como as opções suportadas nesta versão. 3940

O que muda para as equipes de plataforma

A versão reúne, em uma mesma direção de produto, quatro frentes que muitas vezes ficam separadas durante um piloto de IA:

1. Confiança antes do lançamento: avaliar modelos próprios, pipelines RAG e agentes quanto a riscos de segurança e gerar resultados auditáveis. 13
2. Controle em operação: distribuir GPUs compartilhadas com políticas de prioridade e equidade, além de medir o uso de tokens. 4
3. Visibilidade contínua: usar painéis de inferência, utilização e desempenho para administrar o serviço depois da entrada em produção. 14
4. Portabilidade de infraestrutura: executar inferência otimizada em diferentes aceleradores e implantar inferência distribuída nos ambientes Kubernetes compatíveis. 3540

A Red Hat apresenta esse conjunto como base operacional para tratar IA como infraestrutura corporativa compartilhada — e não como uma coleção de experimentos isolados — em ambientes híbridos. 43

Lightwell é uma iniciativa separada

A estratégia mais ampla de IBM e Red Hat também inclui o Lightwell, uma iniciativa conjunta voltada a dependências vulneráveis de código aberto de terceiros. Em setembro, a LTM anunciou colaboração com IBM e Red Hat em torno do Lightwell para remediação de vulnerabilidades orientada por IA. 2425

O Lightwell não é um recurso do Red Hat AI 3.5: seu foco é a segurança da cadeia de suprimentos de software. A conexão está na ênfase comum em validação e redução de riscos operacionais.

Em resumo

A promessa central do Red Hat AI 3.5 é operacional: testar sistemas de IA antes de implantá-los, governar infraestrutura acelerada compartilhada e observar o atendimento dos modelos em ambientes híbridos. O EvalHub, agora disponível de forma geral, é o elemento central; os controles de GPU, a medição de tokens e a observabilidade miram o trabalho cotidiano que costuma ficar fora dos pilotos. O ponto de atenção é o status de cada recurso: AutoRAG e a inferência distribuída no Amazon EKS continuam como Technology Preview. 1339