Red Hat AI 3.5 aposta em governança, GPUs compartilhadas e inferência híbrida

A Red Hat anunciou a disponibilidade geral do Red Hat AI 3.5, atualização voltada a fazer a inteligência artificial deixar de ser uma coleção de provas de conceito e passar a operar como um serviço corporativo em produção: governado, observável, multi-tenant e distribuído por ambientes de nuvem híbrida.

A ideia central da versão é combinar validação de confiança antes da implantação, uso mais eficiente de GPUs compartilhadas e uma forma repetível de implantar aplicações e serviços de inferência. 168

O que muda para empresas que querem escalar IA

Avaliação, segurança e governança antes de publicar

O EvalHub está disponível de forma geral para automatizar benchmarks de segurança voltados a riscos e gerar certificações de conformidade auditáveis. Ele pode ser usado com modelos criados ou personalizados pelos clientes, pipelines de RAG (retrieval-augmented generation, técnica que combina o modelo com uma base de documentos) e agentes de IA. Na prática, ajuda as equipes a verificar riscos como injeção de prompt e tentativas de jailbreak antes de colocar um serviço no ar. 138

A Red Hat também ampliou seu catálogo com mais de 20 modelos validados, de fornecedores como Google, NVIDIA e Alibaba Cloud. O catálogo traz informações reportadas sobre segurança, exposição de dados pessoais identificáveis (PII) e risco de toxicidade, oferecendo evidências para a escolha de modelos pelas equipes de plataforma. 34

GPUs compartilhadas com regras de prioridade

Para operações em que várias áreas usam a mesma infraestrutura, a versão inclui agendamento por divisão justa de recursos, serviço orientado por prioridade, controle de admissão e roteamento de requisições baseado em prioridade. O objetivo é evitar que uma única carga de trabalho — ou uma única equipe — concentre a capacidade de GPUs, que tende a ser cara e limitada. 45

A medição de tokens por usuário complementa esse controle. Ela permite priorizar serviços conforme níveis de atendimento e apoiar modelos internos de cobrança ou rateio de custos por equipe.

Visibilidade do que acontece em produção

Novos painéis de observabilidade exibem sinais sobre a saúde da inferência, utilização de GPU e desempenho dos modelos. Com isso, operadores podem identificar gargalos de capacidade, indisponibilidades e possíveis problemas de qualidade enquanto os serviços de IA estão em execução. 416

RAG e agentes em mais idiomas

O AutoRAG ganha suporte multilíngue para conjuntos de documentos em idiomas diferentes do inglês e para acervos com vários idiomas. Entre os recursos estão detecção de idioma e configurações para experimentos. A Red Hat posiciona a função para busca em dados corporativos, testes conversacionais e aplicações baseadas em agentes. Já os templates do AI Hub oferecem arquiteturas iniciais para revisão de código, processamento de documentos e fluxos de pesquisa. 113

Inferência em Kubernetes, inclusive fora do OpenShift

O Red Hat AI Inference 3.5 oferece imagens de inferência otimizadas para aceleradores NVIDIA CUDA, AMD ROCm, Google TPU, Intel Gaudi e IBM Spyre. 384

A inferência distribuída com llm-d é suportada no Azure Kubernetes Service (AKS) e no CoreWeave Kubernetes Service (CKS). No Amazon Elastic Kubernetes Service (EKS), o agendamento consciente de inferência permanece como Technology Preview — isto é, um recurso de prévia que não conta com acordo de nível de serviço (SLA) de produção da Red Hat e não é recomendado para uso produtivo. 84

Essa distinção é importante: embora o Red Hat AI 3.5 esteja em disponibilidade geral, nem todos os recursos e caminhos de implantação têm o mesmo status de suporte.

O papel da integração com a NVIDIA

No contexto do Red Hat AI Factory with NVIDIA, os recursos da versão formam uma camada operacional padronizada sobre infraestrutura acelerada pela NVIDIA. As organizações podem validar modelos, distribuir capacidade de GPU de forma mais justa, monitorar o serviço de modelos e implantar cargas em uma infraestrutura híbrida com uma abordagem comum, baseada em Kubernetes. 163

É esse conjunto — avaliação, governança, controle de recursos e observabilidade — que busca reduzir a distância entre a experimentação conduzida por cientistas de dados e a operação exigida pelos times de TI e plataforma.

Em síntese, o Red Hat AI 3.5 não se limita a colocar modelos em funcionamento: a proposta é dar às empresas mecanismos para operá-los com controles, prioridade de recursos e visibilidade contínua quando a IA passa a atender processos reais de negócio.