Programa AI TAP de Singapura quer certificar empresas que testam segurança de IA

O anúncio foi feito pela ministra do Desenvolvimento Digital e Informação, Josephine Teo, durante um evento internacional sobre segurança de IA em maio de 2026.

Cronograma previsto:

• Organização responsável: AI Verify Foundation
• Lançamento do programa: segundo semestre de 2026
• Abertura das inscrições para empresas: prevista para o terceiro trimestre de 2026

Por que Singapura criou o AI TAP

O objetivo principal do programa é aumentar a confiança nos serviços de teste de segurança em IA.

Hoje, muitas empresas recorrem a especialistas externos para tentar “quebrar” sistemas de IA — prática conhecida como red teaming ou testes de jailbreak — a fim de identificar falhas antes que elas causem problemas no mundo real.

O problema é que a qualidade dessas empresas pode variar bastante.

O AI TAP busca resolver isso criando um padrão oficial de acreditação para provedores de testes de IA.

A iniciativa também faz parte da estratégia de Singapura para construir um ecossistema de IA confiável, equilibrando inovação tecnológica com responsabilidade e segurança.

Entre as iniciativas relacionadas estão:

• AI Verify, um framework que ajuda empresas a avaliar se seus sistemas seguem princípios internacionais de governança de IA.
• Global AI Assurance Pilot e Sandbox, programas que conectam empresas que usam IA com especialistas em testes para desenvolver métodos práticos de avaliação.

Como o AI TAP vai certificar empresas de testes de IA

As empresas interessadas em obter a certificação passarão por dois tipos principais de avaliação.

Avaliação da capacidade técnica

Primeiro, os candidatos precisam demonstrar que sabem testar sistemas de IA de forma rigorosa.

Isso inclui comprovar que seus métodos seguem orientações reconhecidas para avaliação de IA, como:

• segurança de aplicações baseadas em modelos de linguagem (LLMs)
• testes de robustez e confiabilidade
• identificação de vulnerabilidades e exploração de falhas

As empresas também devem demonstrar que utilizam metodologias estruturadas de teste e conjuntos de dados adequados para avaliação de IA.

Avaliação organizacional

Além da parte técnica, o programa examina a própria empresa.

Entre os fatores avaliados estão:

• reputação e histórico de negócios
• capacidade operacional e qualificação da equipe
• estabilidade financeira
• coerência entre serviços anunciados e capacidades reais

Esse processo de duas camadas busca garantir que empresas certificadas sejam competentes tecnicamente e confiáveis do ponto de vista institucional.

Tipos de riscos de IA que os testadores analisam

Embora o AI TAP ainda não tenha divulgado uma lista universal de testes, trabalhos de garantia de IA em Singapura já destacam vários riscos comuns em sistemas modernos.

Entre eles:

• vulnerabilidades de segurança, incluindo tentativas de contornar proteções
• falhas de segurança de conteúdo, como geração de respostas perigosas
• vazamento de dados, especialmente em sistemas de RAG conectados a bases internas
• falhas multilíngues, quando proteções funcionam em um idioma mas falham em outro
• problemas de precisão e robustez, como respostas inconsistentes ou alucinações

Experimentos conduzidos em projetos de garantia de IA mostraram, por exemplo, que proteções que funcionam em inglês podem falhar em outros idiomas, e que certos designs de sistemas podem ampliar o risco de vazamento de informações sensíveis.

Métodos usados nos testes de segurança de IA

Empresas especializadas em auditoria de IA normalmente combinam análise automatizada com revisão humana.

Alguns métodos já utilizados em iniciativas ligadas a Singapura incluem:

• red teaming e prompts adversariais para testar vulnerabilidades de jailbreak
• geração de conjuntos de dados sintéticos para criar cenários extremos
• benchmarking de precisão, como classificação e recuperação de informação
• avaliação humana especializada (human‑in‑the‑loop)
• "LLM como juiz", quando modelos de IA ajudam a avaliar respostas em grande escala

Essas técnicas permitem analisar tanto o desempenho dos sistemas de IA quanto a eficácia das proteções implementadas.

Como o programa pode influenciar o ecossistema global de IA

Certificar os próprios testadores é uma abordagem que tenta resolver um problema crescente: garantir que as auditorias de segurança de IA sejam confiáveis e comparáveis.

Se funcionar como esperado, o AI TAP pode trazer vários efeitos:

• mais confiança ao contratar empresas para auditar sistemas de IA
• padrões mais claros sobre o que constitui um teste de segurança competente
• maior comparabilidade de resultados entre setores e países
• colaboração mais estruturada entre desenvolvedores de IA e auditores independentes

Como o programa é descrito como o primeiro esquema desse tipo na Ásia, ele pode influenciar como outros países estruturam seus próprios sistemas de certificação e garantia de IA.

O que ainda não foi totalmente definido

Apesar de a estrutura geral já ser pública, alguns detalhes operacionais ainda não foram divulgados, como:

• o modelo completo de pontuação para acreditação
• protocolos específicos de teste exigidos
• possíveis requisitos diferentes para setores como saúde ou finanças

Essas informações devem ficar mais claras quando o programa abrir inscrições e começar a certificar as primeiras empresas.

O panorama maior

À medida que sistemas de IA se tornam parte central de produtos, serviços e infraestrutura digital, testar sua segurança e confiabilidade passa a ser essencial.

A estratégia de Singapura aposta em um modelo específico: certificar quem testa a IA, criando uma camada confiável de avaliadores independentes.

Se a iniciativa se consolidar, programas como o AI TAP podem se tornar um elemento importante da futura arquitetura global de governança e segurança em inteligência artificial.