Como criar regras globais de segurança para a IA que possam ser verificadas

Dizer que um sistema de inteligência artificial (IA) é seguro não basta. Para que essa afirmação tenha valor, avaliadores independentes precisam conseguir examinar as evidências — e autoridades precisam poder exigir correções ou restringir seu uso quando elas forem insuficientes. A ministra de Desenvolvimento Digital e Informação de Singapura, Josephine Teo, compara o desafio ao da aviação: a confiança para usar uma tecnologia rotineiramente depende de várias camadas de proteção. 36

A lição da aviação é construir regras por etapas

A cooperação internacional na aviação não começou com um manual completo. Leis nacionais e acordos bilaterais vieram antes da Convenção de Paris, de 1919. A Convenção de Chicago, de 1944, criou uma nova estrutura, e a Organização da Aviação Civil Internacional (OACI) passou a funcionar em 1947. 313935 Para a IA, a lição não é copiar as regras dos aviões, mas começar com compromissos viáveis e ampliá-los à medida que os países desenvolvam práticas comuns.

Nesse desenho, uma instância internacional poderia estabelecer padrões mínimos, credenciar avaliadores e reunir dados comparáveis sobre incidentes. A fiscalização continuaria nas mãos das autoridades de cada país, com poderes para inspecionar, exigir mudanças, limitar a implantação de sistemas e aplicar sanções. Um certificado internacional não substituiria essa capacidade de agir.

A segurança também não terminaria na aprovação inicial. Seriam necessários testes antes da implantação, monitoramento durante o uso e novas avaliações após alterações relevantes, além de planos para reverter mudanças ou retirar um sistema de operação. A aprovação deveria valer para uma versão e um contexto de uso definidos — não para todos os usos futuros daquela IA.

Como verificar uma promessa de segurança

Um selo ou uma boa pontuação em testes públicos não é suficiente. Avaliadores credenciados precisariam de acesso seguro ao modelo, à configuração em que ele será usado, à documentação e aos registros de falhas importantes. Métodos e resultados deveriam ser documentados de modo que outros especialistas qualificados pudessem contestá-los, sem expor dados pessoais, segredos comerciais ou informações sensíveis para a segurança.

Para sistemas de alto risco, uma exigência possível seria um dossiê de segurança: o que o sistema pode fazer, como foi testado, quais proteções foram demonstradas, que riscos permanecem e como incidentes serão tratados. Se as provas não sustentarem as conclusões, o órgão regulador deveria poder exigir correções ou limitar o uso. O objetivo é verificar o cumprimento de requisitos definidos, não prometer risco zero.

A independência depende também de quem paga os testes. Grandes desenvolvedores poderiam contribuir para um fundo coletivo ou administrado pelo regulador, em vez de escolher e controlar diretamente seus avaliadores. Investigações independentes de falhas graves e de situações em que uma falha quase ocorreu deveriam priorizar a prevenção. Proteger quem relata problemas ajuda a revelar riscos, mas não pode servir de desculpa para ocultação ou má conduta.

O papel possível de Singapura

Teo defende que as salvaguardas sejam desenvolvidas junto com a adoção da IA. O conjunto de ferramentas AI Verify e o Instituto de Segurança de IA de Singapura são apontados como bases do trabalho do país com testes e avaliação. 13 Singapura poderia receber avaliações conjuntas ou intercâmbios técnicos confidenciais dentro de uma rede mais ampla de laboratórios credenciados.

Mas sediar um centro de testes não garantiria, por si só, a confiança dos Estados Unidos e da China. Isso dependeria de governança transparente, regras seguras de acesso, possibilidade de contestar decisões e disposição demonstrada de ambos para participar. Uma rede distribuída também evitaria que todos dependessem de um único centro.

Começar pelos riscos compartilhados

Há divergências sobre a velocidade de desenvolvimento da IA. Segundo a Reuters, Dario Amodei, Sam Altman e Elon Musk defenderam uma desaceleração coordenada; Mark Zuckerberg favoreceu salvaguardas orientadas pelo mercado, enquanto Jensen Huang rejeitou a necessidade de novas regras. 4748 A China rejeitou pedidos de desaceleração. Em 24 de setembro, o presidente Donald Trump disse não esperar avanços em salvaguardas para a IA em sua reunião com Xi Jinping; a cobertura do encontro já apontava baixa expectativa de um grande avanço. 585049

Essas diferenças não impedem acordos mais estreitos. Especialistas em segurança dos EUA e da China propuseram limites para o uso de IA em sistemas nucleares, controle humano sobre ataques cibernéticos de grande consequência e uma linha direta para incidentes envolvendo IA autônoma. 20 Contatos de emergência, comunicação de incidentes graves e discussões técnicas recíprocas seriam pontos de partida possíveis. A participação dos dois países seria importante, mas outros também precisariam ter voz nas regras e acesso à capacidade de avaliação.

Acordos de controle de armamentos oferecem um princípio útil: assumir compromissos recíprocos e suficientemente específicos para serem verificados. A supervisão financeira sugere outro: concentrar exigências mais rigorosas onde uma falha pode causar maior impacto. Desenvolvedores e responsáveis pela implantação de sistemas de alto risco poderiam ter avaliações independentes, planos de recuperação e obrigações de comunicar falhas graves, vazamentos relevantes de dados, invasões e roubo de modelos. Serviços de baixo risco oferecidos por empresas menores poderiam contar com testes compartilhados e documentação mais simples — sem que o porte da empresa isente um sistema perigoso.

Um tratado e uma instituição permanente até 2030 seriam uma meta ambiciosa, não uma previsão. Um sinal mais concreto de progresso seria o acordo sobre o que constitui um incidente, como garantir a independência dos avaliadores e quais salvaguardas podem ser verificadas mutuamente — acompanhado de reguladores capazes de agir quando as evidências não forem suficientes.