Shane Legg alerta: segurança da IA precisa acompanhar avanço rumo à AGI

A mensagem de Shane Legg, cofundador do Google DeepMind, é direta: o ganho de capacidade dos sistemas de inteligência artificial não pode correr à frente dos controles de segurança necessários para monitorá-los e mantê-los sob controle. O alerta acompanhou o lançamento do DeepMind Institute (DMI), uma nova plataforma voltada à implantação e às implicações da inteligência artificial geral, ou AGI, na sigla em inglês. 141

O alerta sobre segurança em IA

Legg afirmou que o avanço acelerado da IA não deve superar os mecanismos de segurança. A questão não é apenas modelos se tornarem mais capazes: é saber se supervisão, monitoramento, governança e formas de controle estão avançando rápido o suficiente para que esses sistemas continuem administráveis. 1

Essa visão explica por que o escopo do instituto vai além da pesquisa técnica. Segundo a proposta divulgada, o DMI quer estimular pesquisa interdisciplinar, colaboração e debate sobre as principais questões técnicas e sociais da era da AGI — incluindo como construir e governar, com segurança, sistemas de AGI e as comunidades de agentes que eles possam formar. 16

O que é o DeepMind Institute

O DeepMind Institute funciona como uma plataforma de publicação e discussão, e não como substituto da pesquisa central de IA do DeepMind. A ideia é reunir pesquisadores do Google DeepMind e da comunidade acadêmica e científica mais ampla para discutir como IAs cada vez mais capazes devem ser desenvolvidas, governadas, implantadas e utilizadas. 3642

A agenda abrange ciência, educação, sociedade, políticas públicas, filosofia, economia, segurança e florescimento humano. Na prática, isso envolve tanto reduzir riscos graves quanto discutir quais instituições, políticas e objetivos sociais poderiam precisar se adaptar caso a AGI seja amplamente implantada. 1636

A posição sobre desacelerar lançamentos de modelos de fronteira

Legg classificou como “interessante em termos de direção” e “digna de consideração” a proposta do CEO da Anthropic, Dario Amodei, de desacelerar — mas não interromper — o lançamento de modelos de IA de fronteira. 2

A fala não representa uma política anunciada pelo DeepMind. Mas indica que Legg considera seriamente a possibilidade de um ritmo mais cauteloso de lançamento, para que a implantação acompanhe a existência de salvaguardas adequadas. 2

Por que ele considera prematuro dizer que a AGI já chegou

Legg disse ser cedo demais para declarar que a AGI já foi alcançada, apesar de declarações recentes de executivos da Nvidia e da OpenAI. As reportagens sobre suas falas não detalham todas as lacunas de capacidade às quais ele se referia; portanto, a conclusão mais segura é que, para Legg, os sistemas atuais ainda não atingiram o patamar de AGI adotado pelo DeepMind. 4

O Google DeepMind descreve AGI como um sistema com as capacidades cognitivas do cérebro humano. É um critério bem mais amplo do que ter alto desempenho em benchmarks específicos ou em tarefas isoladas. 13

Ao mesmo tempo, Legg disse continuar “confortável” com sua previsão de longa data: 50% de chance de alcançar uma AGI “mínima” até 2028. Trata-se de uma estimativa, não de um cronograma confirmado. 210

Os primeiros ensaios do instituto

A coleção de lançamento reúne um texto introdutório e vários ensaios. Três temas iniciais mostram o alcance da iniciativa:

1. Transparência do raciocínio — Rohin Shah e Anca Dragan defendem a preservação de raciocínios interpretáveis, para que pessoas possam monitorar modelos em busca de engano ou comportamento estratégico oculto. 11
2. Política econômica para a AGI — O ensaio avalia 11 políticas possíveis para lidar com a potencial disrupção econômica provocada por uma IA cada vez mais avançada e disseminada, com critérios como bem-estar, resiliência, autonomia e estabilidade econômica. 39
3. Princípios para um novo utopismo — O texto discute o que o florescimento humano poderia significar em uma sociedade moldada pela AGI, sem tratar “utopia” como promessa de perfeição. 37

O instituto também lista um quarto ensaio substantivo de lançamento, “A framework for frontier AI and the dawning of a new age” (“Um marco para IA de fronteira e o alvorecer de uma nova era”), além da introdução e dos três temas acima. 4138

Em resumo

A posição de Legg combina urgência e cautela. Ele não considera que a AGI já exista, mas ainda atribui probabilidade relevante — 50% — à chegada de uma AGI “mínima” até 2028. Seu ponto central, portanto, não depende de uma data específica: se a capacidade da IA acelerar, os meios para compreendê-la, supervisioná-la e orientar sua implantação também precisarão acelerar. 1216