Acesso da UE a testes de IA expõe lacuna do Reino Unido em modelos de fronteira

O fato de o Reino Unido ter ficado, segundo relatos, fora dos testes pré-lançamento do Claude Mythos 5.1 não é necessariamente um juízo sobre a competência técnica britânica. O episódio expõe, sobretudo, uma questão de acesso: um avaliador nacional não consegue examinar de forma independente um modelo de fronteira no momento certo se a participação depende, no fim, da autorização da desenvolvedora.

A Agência da União Europeia para a Cibersegurança, a ENISA, obteve acesso ao Mythos 5, da Anthropic, e ao GPT-6 Astra, da OpenAI. É um avanço relevante, mas não equivale a um direito permanente de testar cada modelo sucessor — nem significa que a agência tenha recebido o Mythos 5.1. 920

O acesso é específico para cada modelo

Segundo um porta-voz da Comissão Europeia, a ENISA recebeu acesso ao Mythos 5 e ao GPT-6 Astra para testes. 9 Em paralelo, reportagens afirmam que a Anthropic não disponibilizou o Mythos 5.1 ao Instituto de Segurança de IA do Reino Unido antes de seu lançamento — o primeiro caso relatado em que a empresa teria deixado de fornecer um modelo importante ao órgão britânico no processo prévio. 2023

Não se trata simplesmente de uma vitória da UE e uma derrota do Reino Unido. O acesso da ENISA vale para dois modelos identificados e sob acordos específicos. O Mythos 5.1 é outra versão, com regras mais restritivas. Na prática, a avaliação de segurança tende a ficar cada vez mais segmentada por versão do modelo, capacidade, uso pretendido, jurisdição e critérios de parceria definidos pela própria empresa.

Por que o Mythos 5.1 é um caso mais sensível

A Anthropic afirma que Claude Fable 5.1 e Claude Mythos 5.1 usam o mesmo modelo de base, mas têm salvaguardas diferentes. O Fable 5.1 é disponibilizado de modo amplo; o Mythos 5.1 só pode ser usado em programas de acesso confiável, concebidos para atividades em cibersegurança e ciências da vida. 12

Isso vai além de um teste rotineiro de produto. Um sistema voltado a trabalho sensível em segurança digital ou pesquisa científica levanta questões sobre ambientes controlados, monitoramento de mau uso, checagem de usuários e tratamento de informações ligadas à segurança nacional. Relatos indicam que o acesso ao Mythos 5.1 ficou inicialmente limitado a organizações americanas previamente aprovadas. 1824

As evidências disponíveis não demonstram que a Anthropic tenha excluído o Reino Unido por desconfiança do país ou de seu instituto. O desenho do programa restrito, preocupações com segurança operacional e o controle comercial sobre o acesso são explicações plausíveis. Ainda assim, o resultado é relevante: cooperação anterior e boa reputação de um avaliador não garantiram acesso oportuno a um modelo de alto impacto.

O que o acesso da ENISA revela sobre a influência da UE

A União Europeia dispõe de uma base legal mais forte do que um regime inteiramente voluntário. Pelo Artigo 55 do AI Act, fornecedores de modelos de IA de propósito geral com risco sistêmico devem fazer avaliações segundo protocolos e ferramentas padronizados, avaliar e mitigar riscos sistêmicos, registrar e comunicar incidentes graves e assegurar um nível adequado de proteção em cibersegurança. 4337

A legislação também prevê avaliações antes da primeira colocação do modelo no mercado, incluindo testes adversariais documentados, internos ou externos independentes, quando apropriado. 3534

Mas essas obrigações das empresas não equivalem a uma autorização geral para a ENISA receber pesos do modelo, acesso irrestrito ao sistema ou acesso prévio a cada lançamento de IA de fronteira. O acordo de testes da ENISA é importante justamente porque parece ter sido obtido por meio da negociação com as empresas, além do peso regulatório mais amplo da UE. 49

Em outras palavras, a regulação pode ampliar a capacidade europeia de exigir evidências, gestão de riscos e conformidade. Ela não elimina a necessidade de cooperação segura para testar modelos com capacidades sensíveis em cibersegurança, biologia ou agentes autônomos.

Por que o Reino Unido fica mais vulnerável

A exclusão relatada do Mythos 5.1 deixa evidente o limite do acesso voluntário. Após o caso, surgiram pedidos por uma base legal mais sólida e por poderes maiores para o Instituto de Segurança de IA do Reino Unido. 23

A colaboração voluntária pode funcionar bem quando os laboratórios enxergam valor nela. Também pode ser mais rápida e tecnicamente flexível do que regras rígidas. Sua fragilidade está na previsibilidade: a desenvolvedora pode restringir o acesso, alterar quem é elegível ou decidir que determinado modelo deve ficar num canal mais fechado, por razões de segurança nacional.

Isso cria um risco estratégico para o Reino Unido. Se seus avaliadores tiverem acesso a sistemas de fronteira apenas depois do lançamento — ou somente após testes feitos por outros governos e parceiros aprovados — o país pode deixar de ajudar a produzir a evidência de segurança para passar a consumir evidências geradas em outros lugares.

Um caminho mais duradouro para o Reino Unido

O objetivo imediato não precisa ser obrigar empresas a entregar os pesos dos modelos. Para sistemas altamente capazes, isso também pode criar riscos de segurança e propriedade intelectual. Uma estrutura mais robusta poderia priorizar acesso controlado, verificável e auditável.

Medidas possíveis incluem:

1. Notificação antes da implantação de modelos de fronteira definidos em lei. Desenvolvedoras poderiam ter de avisar uma autoridade designada antes de disponibilizar modelos que atinjam limites definidos de capacidade ou risco.
2. Poderes legais para solicitar evidências. O instituto britânico poderia ter autoridade clara para obter relatórios de segurança, resultados de avaliações, informações sobre incidentes e documentação técnica pertinente.
3. Ambientes seguros de avaliação. As regras poderiam exigir acesso por prazo determinado via APIs monitoradas, sistemas isolados ou outros ambientes controlados, sem exigir a entrega dos pesos.
4. Uma via de revisão de segurança nacional. Modelos com implicações materiais em cibersegurança, ciências da vida ou agentes autônomos poderiam acionar uma análise coordenada entre especialistas em segurança cibernética, biossegurança, inteligência e avaliação de IA.
5. Cooperação formal com a UE. Protocolos compartilhados, canais recíprocos de testes seguros e processos compatíveis para incidentes graves reduziriam duplicações e ajudariam a evitar que o Reino Unido fique fora das redes europeias de avaliação.

Essas propostas atacam a fragilidade central exposta pelo caso: o acesso precisa ser previsto na arquitetura de governança, e não depender apenas da relação com laboratórios individuais.

A avaliação de IA de fronteira tende a ser feita por camadas

A tendência é um sistema escalonado. Modelos voltados ao mercado amplo estarão sujeitos a testes das próprias empresas, documentação regulatória e obrigações sobre incidentes. Capacidades mais delicadas em cibersegurança, biologia e agentes autônomos deverão ser avaliadas cada vez mais em ambientes restritos. Os sistemas de maior risco podem ficar acessíveis apenas a um pequeno grupo de governos, laboratórios e parceiros de segurança previamente aprovados.

O acordo da ENISA e a exclusão britânica do Mythos 5.1 mostram por que essa diferença importa. A disputa deixou de ser apenas sobre quem consegue construir o modelo mais poderoso. Também passou a envolver quem pode inspecionar, testar e governar as versões mais consequentes antes de uma implantação mais ampla. 91220

Para o Reino Unido, competência técnica em avaliação continua valiosa, mas não basta por si só. Preservar influência exigirá poderes legais confiáveis no país e acordos duradouros, atentos à segurança, com parceiros no exterior.