Por que Singapura compara a segurança da IA à da aviação

Quem embarca em um avião não precisa confiar apenas na empresa que o fabricou. A segurança do voo também depende de manutenção, gestão do espaço aéreo e dos aeroportos, profissionais treinados e procedimentos seguidos todos os dias. É essa combinação de responsabilidades que a ministra do Desenvolvimento Digital e da Informação de Singapura, Josephine Teo, quer trazer para a discussão sobre inteligência artificial. 79

Em uma publicação no LinkedIn em 17 de setembro, Teo argumentou que as pessoas só passarão a depender regularmente da IA se confiarem nas proteções ao seu redor. Ela sugeriu que a tecnologia talvez venha a precisar de um arranjo de segurança comparável ao da aviação civil — não afirmou que esse arranjo já exista. 23

O que a comparação significa na prática

A proposta não é copiar as regras da aviação para softwares. É olhar para a segurança como um sistema: como avaliar uma IA antes do uso, quem verifica se ela continua segura à medida que muda e que orientação recebem as pessoas responsáveis por operá-la. Teo descreveu a proteção na aviação como uma abordagem de várias camadas e disse que Singapura precisa aprender rapidamente, já que não existe um manual pronto para a segurança da IA. 5

O que Singapura está fazendo

Segundo Teo, as salvaguardas devem ser construídas ao mesmo tempo que a adoção da IA avança, enquanto pesquisas e testes continuam. Entre as iniciativas já identificadas no país estão o AI Verify, voltado a incentivar testes responsáveis e transparência, e o Instituto de Segurança de IA de Singapura. 1222

Teo também apresentou um programa de credenciamento de avaliadores independentes de IA. A ideia é dar às organizações que colocam esses sistemas em uso mais confiança na qualificação de quem os testa. São medidas de verificação e acompanhamento, não uma garantia de que todos os riscos estejam resolvidos. 22

Como sistemas de IA e seus riscos atravessam fronteiras, Singapura sediou o Intercâmbio Científico Internacional sobre Segurança da IA, ajudou a elaborar o Consenso de Singapura sobre Prioridades Globais de Pesquisa em Segurança da IA e participou de esforços conjuntos de testes. Essa cooperação favorece pesquisa e avaliação compartilhadas; não equivale à criação de uma autoridade internacional obrigatória nos moldes da aviação. 181

Segurança durante o avanço — ou avanço mais lento?

A posição de Teo aparece em meio a alertas sobre riscos de sistemas cada vez mais capazes, como perda de controle humano, ataques cibernéticos e bioterrorismo. Em 12 de setembro, Dario Amodei, presidente-executivo da Anthropic, defendeu reduzir o ritmo de melhoria dos modelos de IA mais avançados para que as medidas de segurança e a verificação independente consigam acompanhá-los. Sua previsão de que agentes de IA poderiam provocar uma perturbação em escala de internet é um alerta sobre o futuro, não um fato consumado. 131011

As respostas não são iguais: Teo enfatiza o fortalecimento das proteções enquanto o uso da IA cresce; Amodei também propõe ganhar tempo antes de ampliar ainda mais as capacidades dos modelos. A pergunta comum é se as práticas de segurança conseguirão acompanhar uma tecnologia da qual cada vez mais pessoas são convidadas a depender. 1311