Acordo entre Singapura e Microsoft: o que o plano de segurança de IA de fronteira realmente prevê

A ênfase na IA agêntica também é significativa. Sistemas capazes de planejar e executar tarefas usando ferramentas ou fluxos de trabalho exigem avaliações que vão além da qualidade de uma única resposta. É preciso verificar o que o sistema está autorizado a fazer, como lida com instruções ambíguas e se os controles técnicos conseguem limitar ações nocivas ou não intencionais.

2. Compartilhamento de conhecimentos e práticas de governança

As partes também pretendem trocar informações, boas práticas e estruturas de governança. Isso pode aproximar os testes técnicos das decisões operacionais: quais riscos devem ser avaliados, que limites devem ser aplicados, quem pode acessar um modelo e o que fazer quando uma falha grave é identificada.

Essa é uma abordagem mais ampla do que medir apenas a capacidade de um modelo em benchmarks. Um sistema pode ter desempenho impressionante em um teste padronizado e ainda ser inadequado para serviços públicos ou infraestruturas críticas se suas permissões de acesso, mecanismos de monitoramento, procedimentos de divulgação ou regras de supervisão humana forem insuficientes.

3. Uma política para o acesso confiável

A terceira frente envolve a exploração de políticas para o acesso confiável a modelos de fronteira. A ideia central é oferecer disponibilidade controlada: sistemas muito capazes devem poder ser usados em testes legítimos e atividades úteis, mas não devem ser expostos sem salvaguardas proporcionais às suas capacidades e aos riscos envolvidos.

Assim, o acordo aponta para um modelo de segurança em camadas: testar o sistema, compartilhar o que foi aprendido, limitar o acesso quando necessário e usar regras de governança para definir responsabilidades.

Por que o Claude Mythos é relevante — mas não há prova de que tenha motivado o acordo

O Claude Mythos Preview, da Anthropic, oferece um exemplo do problema de uso dual enfrentado pela IA de fronteira. A Anthropic afirma que ela e aproximadamente 50 parceiros do Project Glasswing usaram o modelo de acesso restrito para identificar mais de 10 mil vulnerabilidades de alta ou criticidade em softwares considerados sistemicamente importantes. A empresa também relatou que o Mythos conseguiu identificar e explorar vulnerabilidades, incluindo falhas do tipo zero-day, em grandes sistemas operacionais e navegadores.

Essa capacidade pode reforçar a defesa cibernética, ajudando pesquisadores a encontrar falhas antes dos criminosos. Mas também pode encurtar o caminho entre a descoberta de uma vulnerabilidade e sua exploração se for liberada amplamente ou controlada de forma inadequada. Por isso, a Anthropic manteve o Mythos sob acesso restrito no Project Glasswing, em vez de disponibilizá-lo ao público.

As evidências disponíveis, porém, não comprovam que o Claude Mythos tenha causado ou motivado especificamente o memorando entre Singapura e a Microsoft, de 12 de junho. O modelo deve ser tratado como um exemplo do cenário de risco em rápida transformação que torna cada vez mais importantes a avaliação estruturada, o acesso controlado e as estruturas de governança.

Como essas medidas de segurança funcionam na prática

O acesso restrito é um controle de segurança

O modelo de acesso limitado do Project Glasswing é, por si só, uma medida de gerenciamento de risco. A Anthropic concedeu acesso a um grupo definido de parceiros para trabalhos defensivos, em vez de liberar o modelo de forma ampla. Isso reduz a exposição e, ao mesmo tempo, permite que equipes de segurança estudem suas capacidades.

O acesso restrito não é um sistema de segurança completo: ele depende de seleção adequada dos participantes, monitoramento, armazenamento seguro e divulgação responsável. Ainda assim, demonstra o princípio por trás do trabalho sobre acesso confiável previsto no memorando — o acesso deve levar em conta a capacidade e o risco do sistema, em vez de tratar todo modelo de fronteira como um software público comum.

Descobrir vulnerabilidades não basta: é preciso corrigi-las

Encontrar uma falha é apenas o primeiro passo. A Agência de Segurança Cibernética de Singapura recomenda que as organizações corrijam vulnerabilidades críticas e de alta gravidade, habilitem a autenticação multifator em interfaces e gateways e revisem permissões desnecessárias. Essas medidas reduzem as oportunidades de ataque enquanto as empresas investigam e corrigem os problemas.

As evidências disponíveis também não sustentam a afirmação de que a maioria das cerca de 10 mil descobertas do Mythos já foi corrigida. Uma avaliação posterior registrou 1.596 vulnerabilidades comunicadas aos mantenedores, mas apenas 97 correções. Isso não significa que o projeto não tenha produzido benefícios defensivos, mas indica que alegações de que “muitas” das falhas foram corrigidas devem ser tratadas com cautela.

A lição é tanto operacional quanto técnica: a segurança de IA exige um processo para identificar riscos, comunicá-los de forma responsável, priorizar reparos e reduzir a exposição enquanto a correção não é concluída.

Qual é o papel da Microsoft — e o que o memorando não confirma

A Microsoft contribui com experiência no desenvolvimento de modelos avançados, na infraestrutura corporativa e na operação de avaliações e controles de acesso a sistemas de IA. O escopo declarado do memorando, contudo, é mais amplo do que um único modelo da Microsoft: ele trata de abordagens para testar a segurança e controlar o acesso a modelos de fronteira em geral.

As evidências fornecidas não comprovam que façam parte formal desse acordo alegações mais específicas sobre o modelo MAI da Microsoft, o acesso a modelos da OpenAI e da Anthropic pelo Azure AI Foundry ou acordos semelhantes com o UK AI Security Institute e o US Centre for AI Standards and Innovation. Esses detalhes não devem ser apresentados como compromissos assumidos no memorando entre Singapura e Microsoft.

O objetivo mais amplo: um ecossistema confiável de IA

Em conjunto, os elementos do acordo formam uma cadeia prática de segurança:

1. Avaliar sistemas avançados e agênticos, incluindo seu comportamento em diferentes idiomas.
2. Compartilhar descobertas técnicas, práticas de governança e lições dos testes.
3. Controlar o acesso a modelos cujas capacidades criem riscos elevados.
4. Responder com divulgação responsável, correções, autenticação e controles de permissões.
5. Definir políticas para estabelecer quando e como sistemas de fronteira podem ser usados em ambientes sensíveis.

Essa é a importância do memorando. Ele não torna a IA de fronteira segura por si só e não elimina os riscos ilustrados pelo Claude Mythos. O que faz é conectar avaliação técnica, governança de acesso e práticas de segurança cibernética — uma abordagem destinada a tornar a IA avançada mais segura, protegida, confiável e responsável antes que sua capacidade seja confundida com prontidão para uso.