Nvidia transforma aliança de IA aberta em iniciativa de segurança em apenas uma semana

A Nvidia transformou rapidamente uma articulação política em uma iniciativa concreta de segurança. Durante a Black Hat, conferência internacional de cibersegurança realizada em Las Vegas, a Open Secure AI Alliance (OSAA) apresentou o Shared AI Findings Exchange, ou SAFE.

O grupo de trabalho publicou um rascunho de diretrizes para receber comentários públicos, enquanto a Linux Foundation coordena o processo. É um avanço mais concreto do que simplesmente divulgar uma declaração de princípios — mas o SAFE ainda é uma proposta inicial, não um sistema de compartilhamento de incidentes já testado em operações reais.

O que o SAFE pretende fazer

A proposta parte de um problema recorrente na segurança de IA: uma organização pode descobrir um ataque, uma falha ou um quase incidente sem que outras empresas tenham acesso às lições aprendidas. Com isso, diferentes equipes acabam enfrentando riscos semelhantes de maneira isolada.

As diretrizes preliminares do SAFE se concentram em quatro práticas relacionadas:

• coletar e analisar, de forma confidencial, incidentes e quase incidentes de segurança envolvendo IA;
• avisar as organizações afetadas quando um caso for relevante para elas;
• identificar falhas recorrentes em controles e práticas de segurança; e
• produzir aprendizados baseados em evidências e sem atribuição de culpa, que possam ser aproveitados por todo o ecossistema.

A ideia é transformar inteligência defensiva dispersa em um recurso compartilhado. Em vez de tratar cada caso de injeção de prompt, vazamento de dados ou comportamento indevido de um agente como um episódio isolado, os participantes teriam um processo para converter falhas individuais em proteções mais amplas.

Uma camada de segurança, não um produto único

O SAFE é apenas uma parte da estratégia da OSAA. A aliança também reúne tecnologias abertas e passíveis de inspeção para cobrir diferentes camadas da segurança de agentes de IA.

Entre as contribuições citadas estão:

• Nvidia: famílias de modelos com pesos abertos, controles de execução do OpenShell para limitar o que um agente pode acessar ou fazer, ferramentas de teste e auditoria e o Garak, um scanner de código aberto para riscos como vazamento de dados, injeção de prompt e jailbreaks.
• Okta: implementações de referência para identidade e acesso de agentes, usando o protocolo Cross App Access para conectar agentes a aplicações corporativas em ambientes mais controlados.
• Red Hat: o asago, projeto de governança de código aberto que pretende relacionar políticas organizacionais a permissões de execução e criar um caminho auditável entre a regra e o controle aplicado.
• Amazon: o Strands Agents, kit de código aberto para criar e avaliar agentes, além do Cedar, uma linguagem de autorização.
• Outros membros: projetos voltados à identidade, como Agent Guard e Agent Watch, reforçando a visão de que proteger agentes exige mais do que apenas escanear modelos.

Em conjunto, essas iniciativas cobrem identidade, permissões, estruturas de execução de agentes, comportamento em tempo real, avaliação, dados, governança e resiliência. Se amadurecerem, poderão oferecer às empresas um conjunto comum de controles para limitar e monitorar agentes de IA — inclusive aqueles que apresentem comportamento malicioso ou operem fora do escopo previsto. Por enquanto, esse resultado é uma possibilidade, não uma conquista comprovada.

Quem entrou na OSAA — e quem ficou de fora

Relatos indicam que a OSAA já reunia mais de 120 organizações em sua primeira semana. Entre os participantes mencionados estão Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat e Visa. A Amazon foi descrita como uma integrante mais recente.

A aliança surgiu depois de uma carta aberta publicada em 24 de julho, na qual empresas pediram aos formuladores de políticas dos Estados Unidos que evitassem restrições amplas ou prematuras aos modelos de IA com pesos abertos. O documento recebeu inicialmente o apoio de 25 empresas, incluindo Nvidia, Microsoft, Meta, IBM, Dell, Palantir e Hugging Face. A carta argumentava que limitar modelos que podem ser baixados poderia prejudicar a concorrência e levar usuários a sistemas chineses de IA, enquanto Washington avaliava sua resposta de segurança nacional.

Na cobertura sobre a Black Hat, Anthropic, OpenAI e Google apareciam como ausências relevantes na OSAA. A relação dessas empresas com a carta de política pública, porém, é mais complexa: os relatos divergem sobre a lista posterior de signatários. Algumas fontes afirmam que OpenAI e Google foram adicionadas depois, enquanto outras as descrevem como ausentes do grupo original. As fontes disponíveis não explicam por que essas empresas não haviam entrado na OSAA; portanto, não é possível atribuir uma motivação à ausência.

Por que a velocidade chama atenção

A principal tese da OSAA é que abertura e segurança não precisam ser opostos. Modelos, ferramentas, avaliações e relatos de falhas abertos podem permitir que mais equipes de defesa inspecionem problemas, reproduzam vulnerabilidades e adaptem correções. O SAFE tenta combinar essa transparência com confidencialidade durante a coleta e a análise de incidentes, compartilhando posteriormente aprendizados generalizados.

A composição da aliança também pode ajudar a criar interfaces e práticas comuns entre desenvolvedores de modelos, provedores de nuvem e infraestrutura, especialistas em identidade, empresas de segurança e usuários corporativos. Se esses esforços evoluírem, sistemas abertos de IA poderão se tornar mais fáceis de avaliar, controlar e implementar com responsabilidade.

Esse cenário pode fortalecer o argumento de que a IA com pesos abertos é uma questão de competitividade americana, especialmente enquanto autoridades dos Estados Unidos discutem como responder aos laboratórios chineses de IA. Mas a OSAA ainda não demonstrou que aumentou a competitividade do país ou reduziu o risco sistêmico associado à IA.

Até agora, o resultado mensurável é mais específico: uma coalizão com mais de 120 organizações passou da defesa política da IA aberta para um rascunho público de diretrizes voltado ao relato coordenado de incidentes de segurança, enquanto seus membros contribuem com ferramentas que podem formar, ao longo do tempo, uma camada de defesa mais integrada.