Por que o Reino Unido rejeitou um “botão de desligar” para IA perigosa

O governo do Reino Unido rejeitou a criação de um “botão de desligar” emergencial para IA não porque considere os modelos perigosos inofensivos. O argumento central é outro: uma medida restrita ao território britânico seria incompleta. Desativar o acesso a um modelo, o próprio modelo ou um data center no país não impediria que sistemas semelhantes fossem desenvolvidos, hospedados ou usados indevidamente em outros lugares. 1

A posição acirrou o debate regulatório. Ministros dizem que o país já dispõe de meios para intervir em incidentes cibernéticos graves e pode endurecer as regras se as salvaguardas voluntárias falharem. Quem defende novos poderes responde que riscos catastróficos exigem controles explícitos e obrigatórios antes que ocorra uma emergência. 1617

O que faria o “botão de desligar” proposto

Lord Tim Clement-Jones propôs uma emenda ao Cyber Security and Resilience Bill, projeto britânico sobre segurança e resiliência cibernética. A medida criaria um mecanismo legal para intervenção de emergência diante de IA perigosa — como último recurso para desativar um modelo ou interromper operações de data centers no Reino Unido quando um sistema representasse uma ameaça grave à segurança ou à operação de serviços. 26

A proposta ganhou relevância porque as regras cibernéticas existentes se concentram principalmente na segurança de redes e sistemas de informação. Críticos argumentam que elas não estabelecem, de modo claro, um regime específico para supervisionar empresas que desenvolvem modelos de fronteira — os sistemas de IA mais avançados — nem para responder a riscos gerados pelo comportamento autônomo de um modelo. 15

O argumento do governo: não dá para “desligar a IA” em um só país

A objeção do Cabinet Office, órgão do governo britânico que coordena temas ligados à segurança de IA, é sobretudo uma questão de jurisdição. Nas palavras do órgão, o Reino Unido “não pode simplesmente desligar a IA”: restringir o acesso dentro do país não impediria que um modelo capaz fosse criado ou explorado em outro lugar. 1

Esse também é o limite prático de um poder de paralisação nacional. Ele poderia interromper infraestrutura sob alcance das autoridades britânicas, mas não apagaria os pesos do modelo — os arquivos que armazenam o que ele aprendeu —, não cessaria serviços remotos no exterior nem impediria atores estrangeiros de desenvolver capacidades equivalentes. A medida poderia ajudar a conter um incidente local, mas não resolveria sozinha um problema transnacional.

O ex-pesquisador da OpenAI Daniel Kokotajlo apresentou argumento semelhante em reportagens sobre a proposta: uma interrupção unilateral seria insuficiente sem um acordo internacional. Para ele, ferramentas desse tipo são melhores do que não ter nenhuma, mas diplomacia — em especial o diálogo com os Estados Unidos — seria mais importante para desacelerar ou governar o desenvolvimento de sistemas de fronteira. 14

Por que ministros citam os poderes cibernéticos já existentes

A alternativa do governo não é simplesmente esperar que empresas ajam por vontade própria. Ministros sustentam que o Cyber Security and Resilience Bill já oferece base para intervenções quando redes ou sistemas de informação comprometidos apresentam risco à segurança nacional. Isso poderia incluir exigir que uma organização deixe de usar e isole um modelo de IA. 16

O ministro de IA Kanishka Narayan também afirmou que o governo consideraria regras obrigatórias para modelos avançados se as salvaguardas voluntárias prévias ao lançamento deixassem de proteger o público. Hoje, o AI Security Institute britânico recebe acesso antes da disponibilização pública a modelos de empresas como OpenAI, Anthropic e Google por meio de acordos voluntários. 17

Daí nasce o desacordo central:

• Visão do governo: poderes cibernéticos direcionados, responsabilidade das empresas desenvolvedoras, acesso voluntário aos modelos e cooperação internacional são mais viáveis do que um botão de desligar limitado ao Reino Unido.
• Visão dos críticos: acesso voluntário e poderes cibernéticos genéricos não substituem autoridade legal para exigir testes, impor restrições ou suspender uma implantação quando os riscos se tornarem inaceitáveis.

O que propõe o projeto de Alex Sobel

Uma iniciativa separada, do deputado trabalhista Alex Sobel, vai além de poderes emergenciais de desligamento. Segundo reportagens sobre seu proposto AI Security Bill, a medida proibiria o desenvolvimento, a implantação e a operação de superinteligência artificial, especialmente quando esses sistemas não puderem ser controlados por seres humanos. 23

A abordagem é preventiva, e não apenas reativa. Em vez de depender de uma paralisação depois que um sistema perigoso já esteja operando, o projeto daria ao governo um papel na supervisão e no controle do processo de desenvolvimento em toda a cadeia de fornecimento da IA, inclusive no nível dos chips. 7

A proposta também olha além das fronteiras britânicas. Ela exigiria que o governo buscasse um acordo internacional para impedir superinteligência sem controle — reconhecimento de que capacidade computacional, desenvolvimento e implantação de modelos estão distribuídos por várias jurisdições. 3

Por que o projeto enfrenta um caminho difícil

A medida de Sobel é um projeto apresentado por parlamentar individual, conhecido no sistema britânico como private member’s bill. Em geral, propostas desse tipo precisam de apoio do governo para avançar. A resistência do Executivo ao mecanismo de desligamento relacionado indica pouco apetite, no curto prazo, por uma intervenção dessa natureza. 21

De forma mais ampla, o Reino Unido ainda depende fortemente de leis existentes, reguladores setoriais e acordos voluntários para modelos de fronteira, em vez de uma lei única de IA com amplos poderes obrigatórios antes do lançamento. Narayan manteve aberta a possibilidade de uma regulamentação mais rígida, mas apenas se a estratégia voluntária atual se mostrar insuficiente. 17

Isso deixa uma questão relevante de política pública: quanta evidência de fracasso deve ser exigida antes da criação de poderes vinculantes? Defensores de salvaguardas legais argumentam que esperar um fracasso evidente pode ser perigoso quando o risco em discussão é um evento rápido e de grande impacto.

Por que o debate sobre riscos de IA se intensificou

A proposta do botão de desligar surgiu em meio a relatos de incidentes de segurança envolvendo IA e preocupações de que modelos possam contornar proteções ou ser usados em atividades cibernéticas. Esses relatos tornaram mais concreta, para parte dos parlamentares e defensores da segurança, a hipótese de perda de controle. 12

O debate também é marcado por uma diferença regulatória. A União Europeia adotou o AI Act, enquanto o Reino Unido preferiu um modelo mais leve, conduzido por reguladores de cada setor e complementado por testes voluntários antes do lançamento de sistemas de fronteira. 17

Nenhuma das abordagens resolve sozinha o problema da coordenação internacional. Um sistema altamente capaz pode ser treinado, hospedado, copiado ou implantado além das fronteiras nacionais. Mas a disputa sobre o “kill switch” expõe uma questão mais imediata: o Reino Unido deveria criar poderes legais explícitos para intervir antes que a cooperação voluntária ou as autoridades cibernéticas existentes sejam colocadas à prova em uma crise?

A escolha real de política pública

A discussão não se resume a existir ou não um botão para apertar. Ela envolve a sequência e o alcance do controle:

1. Prevenção: supervisão de capacidade computacional, chips, treinamento, testes e implantação antes de um sistema ser lançado.
2. Intervenção: poderes claros para isolar ou interromper sistemas que criem um risco agudo de segurança.
3. Coordenação internacional: acordos que reduzam a arbitragem regulatória — quando atividades migram para locais com regras mais frouxas — e tornem salvaguardas domésticas mais eficazes.

O governo rejeitou um botão de desligar nacional isolado por considerá-lo insuficiente diante de uma ameaça global. Os críticos aceitam essa limitação, mas chegam à conclusão oposta: o Reino Unido deveria combinar poderes legais internos com cooperação internacional, em vez de tratar um como substituto do outro. 1316