Como Singapura está ampliando o uso de IA no governo sem dar liberdade total aos agentes

A distinção é importante porque um agente de IA pode fazer mais do que gerar texto. Conforme suas permissões e integrações, ele pode tomar decisões, acionar ferramentas ou executar tarefas em velocidade de máquina. Por isso, o registro funcionará como inventário e mecanismo de responsabilização para esses “trabalhadores digitais”, e não apenas como uma lista de softwares.

A GovTech descreve o AI Assistant Desk como um ambiente seguro de assistentes digitais para servidores públicos. Entre os usos esperados estão a elaboração de relatórios, o gerenciamento de agendas, a programação, a pesquisa e outras tarefas rotineiras.

Barreiras técnicas definem o que a IA pode fazer

O modelo proposto é aplicar a segurança no sistema ao redor do agente, em vez de depender apenas das proteções incorporadas a um determinado modelo de IA. Os controles mencionados incluem:

• regras configuráveis para diferentes órgãos ou casos de uso;
• ferramentas de IA aprovadas pelo governo;
• restrições a ações como apagar arquivos ou enviar e-mails externos;
• limites para os destinatários, reduzindo o risco de distribuição descontrolada ou spam; e
• verificações automáticas de prompts e respostas para identificar linguagem ofensiva e outros problemas de qualidade e segurança.

Essa arquitetura segue o princípio do menor privilégio: o agente deve receber apenas o acesso e a capacidade de ação necessários para cumprir sua tarefa. A abordagem se torna especialmente relevante quando os órgãos utilizam vários modelos ou conectam agentes a sistemas governamentais sensíveis.

A camada de segurança deve continuar funcionando mesmo com a troca de modelos

A AI Guardian, da GovTech, fornece uma camada separada de governança para aplicações de inteligência artificial. Seus dois componentes principais atuam em momentos diferentes do ciclo de vida: o Litmus avalia riscos de segurança antes da implementação, por meio de testes adversariais, enquanto o Sentinel faz moderação de conteúdo e filtragem de respostas em tempo real depois que a aplicação entra em operação.

Separar essas funções do modelo subjacente pode reduzir a dependência de um único fornecedor. A GovTech também afirma que a arquitetura de segurança do Assistant Desk foi projetada para manter suas proteções quando ferramentas de IA de terceiros forem adicionadas ou substituídas.

A lógica é direta: o modelo pode mudar, mas as exigências do governo para proteção de dados, ações permitidas, monitoramento e segurança das respostas devem permanecer estáveis. A estrutura de IA responsável da GovTech lista segurança, robustez, proteção e privacidade, explicabilidade e transparência como requisitos centrais.

Adoção vem acompanhada de capacitação

O programa de IA do setor público singapuriano não se limita a agentes autônomos. O assistente Pair já apoia tarefas de redação, pesquisa, resumo e análise em dispositivos oficiais, inclusive em trabalhos que envolvem dados governamentais sensíveis e não poderiam ser realizados com segurança em chatbots comerciais.

A GovTech também desenvolve ferramentas para engenharia de software assistida por IA e abordagens de baixo código, permitindo que equipes técnicas e servidores criem protótipos ou automatizem fluxos de trabalho com mais rapidez. Relatórios anteriores da agência mencionaram planos para assistentes de programação, engenharia apoiada por IA e ferramentas capazes de ajudar os órgãos a levar protótipos para ambientes mais seguros.

O treinamento é outra parte dessa infraestrutura. A GovTech oferece materiais de aprendizagem sobre dados e IA para servidores públicos, enquanto os planos mais amplos de qualificação de Singapura incluem programas para profissionais de tecnologia que trabalharão com automação de código e sistemas baseados em agentes.

O objetivo prático é criar capacidade dentro do próprio governo. Os servidores precisam saber quando a IA é adequada; as equipes técnicas devem conseguir avaliar e proteger aquilo que desenvolvem; e os órgãos precisam compartilhar plataformas, em vez de acumular experimentos isolados e desconectados.

Projetos públicos mostram por que a avaliação é essencial

O trabalho da GovTech com o LangBuddy ilustra a necessidade de avaliar uma aplicação de IA de acordo com sua finalidade real. O LangBuddy é um chatbot de voz criado para ajudar estudantes a praticar sua língua materna por meio de conversas.

Nesse tipo de produto, uma avaliação útil não pode se limitar a verificar se o chatbot produz respostas fluentes. O trabalho da GovTech considera segurança, risco de alucinações e cumprimento das regras pedagógicas definidas para a ferramenta.

O princípio vale para outros serviços públicos: os órgãos precisam testar se o sistema executa a tarefa para a qual foi criado, respeita suas limitações e se comporta de forma aceitável em interações realistas — e não apenas se parece convincente.

Cibersegurança é requisito e também caso de uso da IA

A mesma filosofia de governança aparece no trabalho de cibersegurança da GovTech. Entre as capacidades declaradas estão o desenho seguro de sistemas, exercícios de red team, testes de invasão, divulgação colaborativa de vulnerabilidades e funções de blue team para detectar e responder a ameaças.

A agência também testa o uso de IA para ampliar testes de invasão e automatizar a triagem de incidentes em operações de segurança. Nesses experimentos, a IA atua nos dois lados do processo: ajuda a encontrar vulnerabilidades e auxilia os defensores a priorizar ocorrências.

Alguns relatos mencionam mais de 2 mil sistemas digitais do governo no contexto da ampliação dos testes de segurança. O material disponível confirma a direção geral — red teaming, testes de invasão e operações de segurança apoiadas por IA —, mas não comprova que testes contínuos com IA já estejam em execução em todos esses sistemas.

O que o programa revela sobre a estratégia de Singapura

Em conjunto, essas iniciativas sustentam três objetivos relacionados:

1. Melhorar a prestação de serviços públicos. Assistentes e agentes podem cuidar de redação, análise, programação e fluxos rotineiros, liberando os servidores para tarefas mais complexas e para o atendimento direto à população.
2. Fortalecer a capacidade tecnológica interna. Plataformas compartilhadas, ferramentas de avaliação, camadas de segurança e treinamento ajudam Singapura a manter conhecimento operacional dentro do governo, sem depender integralmente de um único fornecedor ou produto comercial.
3. Proteger a confiança pública e os sistemas nacionais. Registros, permissões, auditorias, testes de segurança e defesa cibernética criam mecanismos de supervisão à medida que a IA ganha acesso ao trabalho e aos dados governamentais.

A principal lição é que ampliar a IA com segurança é tanto um problema de arquitetura quanto de modelo. Singapura tenta tornar a tecnologia amplamente disponível, mantendo visíveis a responsabilidade, as permissões, os testes e o monitoramento das atividades para as instituições encarregadas dos serviços públicos.