Como tornar significativa uma desaceleração da IA — e o papel de Singapura

Uma desaceleração significativa da IA deveria reduzir o ritmo do desenvolvimento dos sistemas mais avançados, sem interromper o uso da tecnologia em toda a economia. Recentes manifestações públicas de executivos do setor colocaram avaliações independentes e coordenação na pauta. Mas transformar essas propostas em salvaguardas confiáveis exige mais do que compromissos voluntários: as avaliações precisam ser independentes, os resultados devem influenciar decisões de lançamento e as regras precisam acompanhar o nível de risco.

Singapura já tem instrumentos que podem contribuir para esse trabalho, entre eles um modelo de governança para IA agêntica, as ferramentas de teste do AI Verify e um programa que reconhece empresas avaliadoras terceirizadas. O desafio agora seria conectar esses recursos a decisões claras, baseadas em evidências, sobre os sistemas que de fato são colocados em uso. 4

O que as propostas de desaceleração dizem — e o que não dizem

As propostas recentes tratam do ritmo da IA de fronteira: os sistemas mais avançados, cujas capacidades podem evoluir mais rápido do que as medidas de segurança e a fiscalização externa conseguem acompanhar. Entre as ideias divulgadas estão dar a avaliadores externos acesso contínuo às empresas que desenvolvem esses sistemas, coordenar padrões de segurança e ampliar a cooperação internacional.

Essas propostas indicam um interesse crescente, mas não constituem uma política definida nem um acordo obrigatório entre empresas de IA. O Relatório Internacional de Segurança da IA descreve as práticas de gestão de riscos como ainda em desenvolvimento e observa que a maioria das iniciativas das empresas continua sendo voluntária. A diferença é importante: o compromisso de uma empresa de testar um modelo não cria, por si só, uma regra exigível que a obrigue a adiar o lançamento se houver riscos graves.

Transformar a desaceleração em uma etapa de aprovação baseada em risco

Uma abordagem prática imporia condições mais rigorosas aos sistemas com maior capacidade ou autonomia, sem estabelecer uma pausa geral para usos rotineiros de IA. Uma ferramenta de baixo impacto para ajudar a redigir textos e um agente autorizado a realizar ações com consequências relevantes não deveriam, automaticamente, enfrentar as mesmas exigências. O modelo de Singapura para IA agêntica já recomenda avaliar e limitar os riscos, além de estabelecer pontos de aprovação humana para ações importantes ou sensíveis. 46

Para modelos de fronteira e usos de alto impacto, autoridades poderiam desenvolver esse princípio em um processo de liberação que inclua:

• Avaliação independente antes do lançamento: dar a avaliadores externos qualificados acesso seguro aos sistemas e às evidências relevantes, para examinar capacidades perigosas e formas previsíveis de uso indevido. O acesso contínuo de avaliadores foi proposto em recentes apelos para controlar o ritmo do desenvolvimento de IA de fronteira; não é uma exigência universal já em vigor.
• Critérios definidos e consequências: estabelecer com clareza quais resultados exigem salvaguardas adicionais, acesso restrito ou adiamento. Uma avaliação reprovada deveria levar a uma resposta documentada e, quando o risco justificar, à suspensão do lançamento — não apenas a uma nova revisão interna. Essas são medidas de governança propostas, não exigências descritas no modelo atual de Singapura. 4
• Controles proporcionais ao uso: para agentes com permissões para executar ações relevantes, considerar limites de acesso, aprovação humana em etapas importantes, monitoramento e responsabilidades bem definidas. O modelo de Singapura apoia a limitação de riscos e a supervisão humana efetiva; os controles específicos devem levar em conta o sistema e sua aplicação. 48
• Nova avaliação diante de mudanças relevantes: reavaliar alterações significativas no modelo, nas ferramentas às quais ele tem acesso ou no contexto de uso, em vez de tratar um teste anterior como garantia permanente. Essa é uma proposta para manter as avaliações pertinentes à medida que o sistema em operação muda.

Aplicações de menor risco deveriam ter um caminho mais simples para chegar ao mercado. Regras proporcionais permitem que empresas adotem a tecnologia sem tratar um teste bem-sucedido como prova de que o sistema é seguro em qualquer contexto. O Regulamento de IA da União Europeia é um exemplo de regulação organizada de acordo com os riscos dos usos da tecnologia.

Regras públicas, avaliações independentes

A coordenação internacional poderia tornar as avaliações mais comparáveis e reduzir o incentivo para buscar a supervisão menos exigente. Governos podem trabalhar em métodos de teste comuns, compartilhamento de informações sobre incidentes e requisitos mínimos para sistemas de maior risco. Avaliadores independentes poderiam então produzir evidências com base nesses parâmetros. As propostas recentes para desacelerar a IA também defendem coordenação entre empresas e entre países.

A divisão de responsabilidades é fundamental. Autoridades públicas devem estabelecer critérios exigíveis e determinar o que acontece quando eles não são cumpridos. Empresas podem contribuir com conhecimento técnico, mas não deveriam ser as únicas a avaliar se os próprios sistemas atendem aos requisitos. Avaliadores independentes precisam de métodos transparentes e de divulgação de conflitos de interesse. Esses são princípios para um modelo de supervisão proposto, não características já estabelecidas pelas manifestações do setor noticiadas.

O que Singapura pode aproveitar

O Modelo de Governança de IA para IA Agêntica de Singapura oferece orientações para organizações que implementam agentes, incluindo avaliação de riscos, responsabilidade humana e controles. É uma diretriz para uma implementação responsável, não, por si só, uma etapa obrigatória de aprovação para lançamento. 468

O AI Verify oferece ferramentas de teste, enquanto o Programa de Acreditação de Testadores de IA reconhece empresas terceirizadas com competências técnicas e preparo operacional relevantes. Em conjunto, essas iniciativas poderiam apoiar avaliações mais consistentes nos setores empresarial e financeiro. Singapura também poderia incentivar perfis de avaliação compartilhados e contratos que esclareçam o que provedores de modelos, integradores de sistemas, operadores e avaliadores devem demonstrar. Esses são possíveis próximos passos, não políticas já estabelecidas pelos modelos citados.

Um objetivo útil seria o reconhecimento internacional de métodos e evidências de teste, e não a ideia de que um certificado nacional, sozinho, garante a segurança de qualquer sistema ou uso. Os modelos e as ferramentas de avaliação podem ajudar a organizar as evidências; ainda cabe às autoridades e às organizações decidir se elas tratam dos riscos do uso concreto.

Avaliar segurança da IA, confiabilidade de software e cibersegurança em conjunto

Testar as respostas de um modelo é apenas parte da avaliação de um agente de IA. Uma análise completa também deveria examinar o software ao redor do modelo e a segurança das ferramentas e permissões às quais ele tem acesso. São questões relacionadas, mas distintas: que comportamento prejudicial a IA pode produzir; como o sistema completo se comporta quando algo falha ou muda; e se um invasor pode comprometê-lo ou desviá-lo de sua função.

Essa avaliação conjunta é uma extensão recomendada das práticas de garantia, não uma afirmação de que todas as ferramentas existentes já cubram os três campos. O AI Verify Toolkit descreve testes técnicos para sistemas tradicionais de aprendizado de máquina, incluindo imparcialidade, explicabilidade e robustez. Por isso, é importante especificar quais testes adicionais, de ponta a ponta, são necessários para aplicações agênticas — em vez de presumir que um resultado obtido no nível do modelo certifica o sistema inteiro.

O que define uma desaceleração efetiva

Uma desaceleração é significativa quando evidências independentes podem mudar o que acontece em seguida: um lançamento de alto risco pode ser adiado, restringido ou corrigido se as salvaguardas forem insuficientes, enquanto usos comuns e de menor risco continuam tendo um caminho proporcional para chegar à implantação. Os modelos de governança e programas de teste de Singapura oferecem uma base para construir esse tipo de garantia, mas os critérios de lançamento, a fiscalização e o escopo das avaliações ainda precisariam ser explicitados.