Risco de IA: a resposta de Singapura é auditar sistemas e limitar agentes

Quando uma inteligência artificial passa a acessar dados, usar ferramentas e executar tarefas, a pergunta deixa de ser apenas se ela é segura. Passa a ser: quem pode verificar isso — e o que ela está autorizada a fazer? Em Singapura, representantes do setor têm respondido aos novos alertas sobre riscos catastróficos com uma defesa de avaliações independentes, transparência e limites para sistemas em operação, sem propor uma paralisação geral da IA. 732

O que reacendeu o debate

Em setembro de 2026, Jacob Coxon deixou a Anthropic depois de trabalhar também na OpenAI. Ele acusou as duas empresas de avançar irresponsavelmente na corrida por uma superinteligência capaz de aprimorar a si mesma. Evan Hubinger, pesquisador da Anthropic, concordou publicamente com a preocupação e estimou, em avaliação pessoal, um risco superior a 10% de a IA causar a extinção humana na década seguinte. Esse número expressa o julgamento dele: não é uma probabilidade medida nem prova de que tal desfecho seja iminente. 34

O presidente-executivo da Anthropic, Dario Amodei, pediu que o desenvolvimento desacelerasse. Em uma proposta apresentada em 12 de setembro, defendeu também que avaliadores externos tenham acesso para conferir práticas e comunicações de segurança e relatar incidentes. A proposta desloca parte da discussão das previsões sobre o futuro para aquilo que pode ser verificado por terceiros. 1332

O que uma auditoria consegue verificar

Testes podem revelar limitações de sistemas que já existem, mas não certificar a segurança de todos os modelos futuros. Lançado em 2022, o conjunto de ferramentas AI Verify, de Singapura, ajuda a avaliar se resultados de IA são justos, robustos e explicáveis. Um programa de acreditação de profissionais que testam IA também é apontado como forma de ampliar essa capacidade. 1933

Para que a avaliação seja independente, não basta o fornecedor afirmar que seu modelo passou em testes internos. Avaliadores precisam de acesso suficiente para examinar as práticas declaradas e identificar incidentes; organizações que adotam a tecnologia precisam entender seus controles antes de conectá-la a dados e processos. Ter acesso aos parâmetros de um modelo, por si só, não revela todas as decisões de treinamento, falhas ou salvaguardas. 3234

Isso não significa descartar qualquer freio. Um especialista citado no debate em Singapura defende suspender uma atividade específica quando seus desenvolvedores não conseguem conter adequadamente o sistema ou explicar como administram riscos graves. É uma condição ligada ao risco demonstrável, não uma pausa indiscriminada em todas as aplicações. 32

Agentes de IA precisam de limites antes de receber acesso

A questão é imediata para agentes de IA: sistemas capazes de usar ferramentas e agir em etapas de um processo, em vez de apenas responder a perguntas. Em janeiro de 2026, a Autoridade de Desenvolvimento de Mídia e Infocomunicações de Singapura (IMDA) lançou um marco de governança para esses agentes. As orientações pedem avaliação prévia de riscos e limites à autonomia e ao acesso a ferramentas e dados. A versão atualizada explicita o princípio do menor privilégio: conceder somente as permissões necessárias para a tarefa. Trata-se de orientação, não de uma proibição legal geral ao uso de agentes. 504852

Na prática, uma organização precisa definir quem responde por cada agente, restringir suas permissões, acompanhar sua atuação e, quando possível, conseguir rastrear e reverter suas ações. São controles mais concretos do que simplesmente declarar que um agente é seguro. 34 A ministra Josephine Teo comparou o papel de salvaguardas e padrões de IA na construção da confiança às práticas de segurança da aviação civil. 17

A resposta, portanto, é responsabilização mesmo diante da incerteza: testar o que já pode ser testado, abrir espaço para escrutínio externo e não conceder poderes que ainda não possam ser governados com segurança. Isso não encerra o debate sobre riscos de longo prazo, mas cria obrigações práticas para quem desenvolve e utiliza IA agora. 3248