GRAM: O "interruptor" modular que pode desligar conhecimentos perigosos em modelos de IA

Como o GRAM funciona na arquitetura

Fase de treinamento

O GRAM aumenta a arquitetura Transformer padrão adicionando pequenos módulos auxiliares — essencialmente neurônios dedicados em cada camada — que são destinados a capturar capacidades específicas de uso duplo durante o treinamento . O mecanismo chave é o roteamento de gradiente (gradient routing): durante a retropropagação, máscaras ponderadas controlam quais parâmetros são atualizados para quais dados .

• Quando o modelo processa texto de uso geral, ele aprende normalmente, enquanto os módulos auxiliares também podem treinar de forma a permanecerem compatíveis com o resto do modelo .
• Quando o modelo encontra texto de uma categoria de uso duplo, como virologia ou cibersegurança, o roteamento de gradiente direciona o sinal de aprendizado para o módulo auxiliar correspondente, em vez de permitir que esse conhecimento se difunda por todos os parâmetros do modelo .
• Isso concentra o conhecimento sobre cada domínio alvo em um módulo dedicado, em vez de espalhá-lo por toda a rede .

Fase de inferência

Uma vez concluído o treinamento, módulos individuais podem ser removidos ou desabilitados para reduzir o acesso a uma capacidade específica, ou mantidos no local para implantações que podem usar esse conhecimento . Como cada categoria de uso duplo mapeia para seu próprio módulo, um único modelo treinado com GRAM com quatro categorias pode, teoricamente, ser configurado em 2⁴ = 16 perfis de capacidade distintos, ativando ou desativando cada módulo de forma independente .

Resultados em modelos de até 5 bilhões de parâmetros

Os pesquisadores testaram o GRAM em várias configurações e tamanhos de modelo :

1. Conjunto de dados sintético: Em um ambiente sintético controlado, o GRAM fez um modelo "esquecer" tópicos selecionados, e os resultados foram comparados com modelos treinados como se esses tópicos tivessem sido filtrados desde o início .
2. Dados realistas de uso duplo: Em uma configuração mais realista usando texto da web, código, artigos científicos e domínios de uso duplo, a remoção de um módulo GRAM reduziu a capacidade correspondente — aproximando o efeito da filtragem de dados — enquanto preservava o desempenho de uso geral .
3. Estudo de escala: O GRAM foi testado em tamanhos de modelo de 50 milhões a 5 bilhões de parâmetros . Principais conclusões: o GRAM acompanhou o comportamento da filtragem de dados; modelos maiores mostraram uma separação mais clara entre o comportamento com módulo ativado e desativado; e o método se comparou favoravelmente com algumas abordagens de "desaprendizado" pós-treinamento nas configurações testadas .

Contexto político: Dos controles modulares às proibições de exportação no mundo real

A pesquisa GRAM surge junto com um exemplo do mundo real de alto risco do problema que ela visa resolver. Em junho de 2025, o governo Trump impôs controles de exportação aos modelos Claude Fable 5 e Mythos 5 da Anthropic após preocupações com cibersegurança, bloqueando o acesso de qualquer estrangeiro — dentro ou fora dos EUA, incluindo funcionários estrangeiros da Anthropic . A proibição durou 18 dias antes de o Departamento de Comércio suspendê-la após uma revisão de segurança nacional .

Este episódio ilustra o estado atual do controle de acesso à IA: um modelo inteiro — com todas as suas capacidades — é tratado como uma unidade única e indivisível. Se um modelo tem uma capacidade perigosa, a única opção hoje é reter todo o sistema. O GRAM propõe uma alternativa mais refinada: em vez de bloquear um modelo inteiro, um sistema poderia permitir ou desabilitar categorias específicas de conhecimento, dependendo do contexto de implantação .

Perguntas em aberto e limitações

Os pesquisadores da Anthropic identificam explicitamente o GRAM como um trabalho preliminar e destacam várias limitações :

• Escala de fronteira não testada: O GRAM não foi demonstrado em modelos Claude de produção ou na escala dos maiores sistemas de fronteira .
• Escopo da avaliação: Os experimentos relatados focam em avaliações controladas; a remoção de capacidade em cenários reais pode ser mais difícil de medir de forma confiável .
• Problema fundamental de entrelaçamento: Algumas capacidades de uso duplo podem estar profundamente entrelaçadas com o conhecimento geral, tornando difícil para qualquer método de localização ou filtragem separá-las de forma limpa .
• Realismo da rotulagem de dados: O GRAM depende da identificação e roteamento de dados de uso duplo relevantes durante o treinamento, portanto, rotular esses dados de forma confiável em escala continua sendo um desafio prático importante .
• Descobertas preliminares: A Anthropic apresenta o GRAM como uma direção de pesquisa inicial, e não como um mecanismo de segurança implantado — e a organização não tem certeza se ele será implantado algum dia .