Um semáforo para definir até onde a IA pode ir no trabalho

Os tribunais de Singapura oferecem um ponto de partida útil para empresas que querem estabelecer regras para o uso de inteligência artificial: classificar as tarefas pelo grau de responsabilidade transferido a um sistema, em vez de simplesmente dizer que a IA está “liberada” ou que haverá “supervisão humana”. A orientação dos tribunais permite usar IA generativa na preparação de documentos judiciais, mas mantém com as pessoas a responsabilidade por verificar o conteúdo e garantir sua exatidão. Empresas podem adaptar esse princípio às próprias atividades — sem apresentar a adaptação como uma exigência dos tribunais. 36

Defina limites por tarefa, não por ferramenta

Uma mesma ferramenta de IA pode servir para uma tarefa simples de redação e ser inadequada para uma decisão que afete alguém. Os tribunais de Singapura descreveram uma abordagem em semáforo: verde para usos como tradução e resumo, que ajudam as pessoas a entender informações sem decidir um caso; amarelo para situações que pedem mais cautela; e vermelho para usos que os tribunais não consideram aceitáveis. 638

Nas empresas, as cores podem organizar uma política prática. Os exemplos abaixo são apenas um ponto de partida, não uma classificação universal: a avaliação deve considerar a tarefa concreta, as informações usadas e as consequências de um erro.

Verde: apoio ao trabalho rotineiro

Permita que ferramentas aprovadas ajudem em atividades de menor risco, como formatação, tradução, organização de informações ou elaboração de uma primeira versão de um texto. Especifique quais ferramentas são autorizadas, que informações os funcionários podem inserir e se o resultado precisa ser conferido antes de ser usado. Deixe claro que um rascunho gerado por IA não representa, por si só, uma decisão ou posição oficial da empresa.

Amarelo: preparar, mas não decidir

Em tarefas com consequências relevantes, a IA pode ajudar a organizar evidências, resumir registros ou estruturar alternativas. Exija que uma pessoa responsável confira as afirmações importantes com base nos documentos originais, considere o contexto e aprove o material antes que ele afete alguém.

Verificação independente significa voltar às evidências ou aos registros oficiais — não pedir a outro sistema de IA que confirme a resposta do primeiro. O guia dos tribunais de Singapura atribui aos usuários a responsabilidade de garantir que o material apresentado à Justiça seja verificado de forma independente, preciso, verdadeiro e apropriado. 3

Vermelho: decisão reservada a uma pessoa

Uma empresa pode reservar para pessoas as decisões que envolvam, por exemplo, emprego, segurança ou acesso a serviços essenciais. Nesses casos, a IA pode ajudar na preparação, mas não deve tomar nem acionar automaticamente a decisão final. A pessoa responsável precisa avaliar o caso, ter condições de rejeitar a recomendação do sistema e explicar a decisão.

Essa é uma salvaguarda recomendada para empresas, não uma afirmação de que os tribunais de Singapura imponham exatamente essa regra aos negócios. O Judiciário afirmou que ferramentas de IA podem ajudar juízes a ler e organizar materiais, mas que, no momento, não usa IA para ponderar evidências, aplicar a lei aos fatos ou exercer poder de decisão. 40

Torne as regras públicas e específicas

Uma política pública é mais útil quando descreve tarefas concretas, em vez de apenas anunciar um compromisso amplo com o “uso responsável da IA”. Para cada uso autorizado, publique uma explicação breve que responda:

• O que a IA pode fazer nessa tarefa — e o que está fora dos limites?
• Que informações os funcionários podem fornecer à ferramenta?
• Quem confere o resultado e com base em quais fontes?
• Quem é responsável pela decisão final?
• Como funcionários ou pessoas afetadas podem sinalizar uma preocupação ou contestar um erro?

Internamente, mantenha um registro proporcional da ferramenta e da tarefa, das fontes consultadas e de quem aprovou o trabalho. Dê aos revisores tempo e autoridade para discordar do resultado. Sem isso, a revisão humana pode virar apenas uma formalidade.

Revise as classificações e preserve o discernimento

Trate cada classificação por cor como uma decisão que precisa ser reavaliada, não como um rótulo permanente. Teste a ferramenta específica no fluxo de trabalho em que será usada, observe os erros e decida se os controles precisam mudar ou se o uso deve ser suspenso. Não presuma que uma afirmação geral sobre um modelo se aplica a todas as tarefas.

Também é importante manter oportunidades para que os funcionários pratiquem o trabalho que a IA está ajudando a fazer. O presidente da Suprema Corte de Singapura manifestou preocupação com a possibilidade de a IA transformar tarefas jurídicas rotineiras que tradicionalmente ajudavam advogados iniciantes a desenvolver habilidades fundamentais. 2335 Para as empresas, a lição é mais ampla: as equipes precisam de experiência suficiente para entender o trabalho, identificar falhas e exercer julgamento próprio antes de conseguir revisar resultados de IA de maneira efetiva.

Um critério simples para aplicar

O semáforo só é útil quando cada cor muda o que acontece na prática: o que a IA pode fazer, o que uma pessoa precisa verificar, quem responde pela decisão e como ela pode ser contestada. Publique os limites por tarefa, revise-os à medida que ferramentas e processos mudam e mantenha as decisões de maior impacto nas mãos de pessoas com autoridade e preparo para tomá-las.