A IA pode acelerar a própria evolução — e pesquisadores querem mais fiscalização

O alerta de pesquisadores de OpenAI, Anthropic, Meta e Microsoft não é simplesmente que a inteligência artificial pode ficar mais poderosa. A preocupação é que ela ajude a desenvolver a próxima geração de sistemas, criando um ciclo capaz de acelerar a pesquisa. Por isso, eles querem que autoridades examinem até que ponto essa automação já avançou, antes que o ritmo dificulte a fiscalização. 23

A chamada “explosão de inteligência” é um cenário de risco, não uma prova de que a IA já esteja se aprimorando sozinha, sem direção humana. A questão para os formuladores de políticas é como medir e supervisionar o papel crescente da IA na pesquisa e no desenvolvimento de outras IAs. 114

Como a IA poderia acelerar a pesquisa

Sistemas de IA já podem contribuir para tarefas envolvidas na criação de modelos futuros. Se esse trabalho ajudar pesquisadores a produzir sistemas mais capazes, e esses sistemas assumirem uma parcela maior da pesquisa, cada ciclo poderá acelerar o seguinte. Essa possibilidade é chamada de autoaperfeiçoamento recursivo: a IA ajuda a melhorar o próprio processo usado para desenvolver IA. 15

O alerta está ligado sobretudo ao ritmo das mudanças. Em um cenário descrito na cobertura do estudo, avanços que levariam um ano poderiam acontecer em questão de semanas. É uma projeção, não um resultado medido: as fontes não indicam que esse ritmo já tenha sido alcançado. 314

Uma pesquisa anterior, baseada em entrevistas com 25 pesquisadores de laboratórios de ponta e da academia, constatou que muitos esperavam que a IA automatizasse a pesquisa em IA e criasse um ciclo de aceleração. Isso ajuda a explicar por que o tema é levado a sério por profissionais da área, mas não demonstra que uma explosão de inteligência seja inevitável. 1

O que os pesquisadores pedem às autoridades

O pedido mais imediato é por mais visibilidade sobre o uso de IA na pesquisa e no desenvolvimento das empresas. Mais de 20 líderes e pesquisadores da área pediram que formuladores de políticas acompanhem esse avanço e considerem medidas de proteção. 2

Isso não significa que os laboratórios já tenham transferido o controle da pesquisa para sistemas de IA. Informações mais claras sobre onde e como a tecnologia está sendo usada poderiam ajudar a avaliar se a supervisão atual é suficiente à medida que a IA assume mais etapas do desenvolvimento. 23

Por que há quem defenda desacelerar

Uma desaceleração coordenada poderia abrir espaço para testes de segurança, avaliações independentes e regras mais robustas antes de uma nova mudança de capacidade. Pesquisadores da OpenAI e da Anthropic já defenderam um ritmo mais lento, enquanto outros líderes do setor preferem uma abordagem mais guiada pelo mercado. Não há consenso sobre quanto desacelerar — nem sobre como seria uma pausa viável. 818

Também há questões práticas: quais sistemas ou atividades entrariam na pausa, quem verificaria o cumprimento e como coordenar a medida entre empresas concorrentes? A cobertura disponível observa que tanto o significado de uma pausa quanto sua aplicação ainda são incertos.

O que um mecanismo de desligamento resolveria — e o que não resolveria

Brad Smith, presidente da Microsoft, defendeu que quem cria modelos de IA, empresas de infraestrutura em nuvem e responsáveis por agentes de IA possam desligar os sistemas. A proposta trata essa possibilidade como um freio de emergência, não como substituto para prevenção e supervisão contínua.

Há limites técnicos. Sistemas de IA podem funcionar em infraestruturas distribuídas, e por isso um único botão não garante que todos os componentes parem. Especialistas também apontam a necessidade de monitoramento contínuo e intervenção humana.

A sobreposição entre supervisão e interesses comerciais

A proposta de envolver desenvolvedores e provedores de nuvem na governança levanta uma questão: empresas podem ajudar a supervisionar sistemas que também criam ou hospedam. A Microsoft, por exemplo, participa do desenvolvimento de modelos de IA e também fornece serviços de nuvem. Essa sobreposição torna importantes regras claras e verificações independentes, mas não prova, por si só, que a posição de segurança de qualquer empresa seja insincera. 2

Há ainda um desafio de coordenação. Líderes do setor divergem sobre o ritmo do desenvolvimento, enquanto a discussão sobre desacelerar ocorre em meio à competição entre empresas para criar e lançar IA. Uma decisão voluntária de uma empresa pode ser difícil de manter se outras continuarem avançando rapidamente. As fontes mostram divergências e pressão competitiva, mas não provam que interesses de investimento determinem a opinião de cada pesquisador. 1218

Na prática, as autoridades enfrentam duas perguntas relacionadas: como acompanhar o papel da IA na criação de outras IAs e como tornar as salvaguardas verificáveis, em vez de depender apenas da palavra das empresas. Os alertas justificam examinar essas questões agora; não esclarecem, por si só, a probabilidade de uma explosão de inteligência nem qual resposta regulatória funcionaria melhor. 123