UE quer frear riscos dos modelos de IA mais avançados — sem desacelerar o uso produtivo da tecnologia

A mensagem central de Ursula von der Leyen em seu discurso sobre o Estado da União foi de cautela seletiva, não de freio geral na inteligência artificial. A presidente da Comissão Europeia combinou uma proposta para administrar os riscos dos sistemas mais capazes com planos de proteger crianças no ambiente digital e ampliar o uso de IA em setores estratégicos da economia europeia. 1

Frear a corrida na fronteira da IA

Von der Leyen disse que convidará os principais laboratórios de IA de fronteira — expressão usada para os modelos mais avançados e capazes — para discutir como autoridades públicas podem apoiar esforços do setor para “ritmar a fronteira”. Na prática, o anúncio trata de diálogo e cooperação em segurança, e não de uma moratória imediata nem de uma proibição ampla ao desenvolvimento de IA. 16

A preocupação está concentrada em modelos cada vez mais capazes, inclusive sistemas que podem se aperfeiçoar de forma autônoma ou recursiva. Segundo von der Leyen, essas tecnologias podem viabilizar ataques cibernéticos em uma escala antes impensável e, em breve, estar ao alcance de adversários. 115

A proposta surge em meio a uma divergência no próprio setor. A Reuters informou que Dario Amodei, CEO da Anthropic, defendeu reduzir o ritmo do avanço da IA avançada, posição que recebeu apoio de Sam Altman, CEO da OpenAI, e de Elon Musk. Ao mesmo tempo, os alertas reabriram o debate sobre se representam uma precaução proporcional ou um excesso de alarmismo, chamado por críticos de “AI doomerism”. 17

Von der Leyen também defendeu aprofundar a cooperação com Canadá, Reino Unido e outros parceiros alinhados em segurança de IA, incluindo a avaliação de modelos de fronteira e medidas de proteção associadas. 9

EU Kids Act: acesso online definido por idade

A proposta do EU Kids Act, ou Lei Europeia para Crianças, vai além das redes sociais tradicionais. Ela deverá abranger plataformas sociais e de compartilhamento de vídeo, jogos online e chatbots de IA, com salvaguardas diferentes conforme a faixa etária. Por enquanto, trata-se de uma proposta: ela não cria regras aplicáveis de imediato. 1

O modelo anunciado prevê:

• Sem acesso a redes sociais para menores de 13 anos. 1
• Contas limitadas, criadas e supervisionadas pelos pais, para adolescentes de 13 e 14 anos, com recursos restritos e limites de tempo. 1
• Obrigação de plataformas adotarem segurança desde a concepção para usuários de 15 a 18 anos.

O ponto central é que a responsabilidade não ficaria apenas sobre crianças e famílias. Os serviços digitais teriam de incorporar proteção ao produto desde o início. Reportagens sobre a proposta indicam ainda que empresas deverão verificar a idade dos usuários e enfrentar mecanismos que estimulam uso compulsivo, como a rolagem infinita. 7

IA mais rápida onde a Europa vê valor econômico e estratégico

Enquanto pede prudência com os sistemas de fronteira, von der Leyen apresentou a IA como uma tecnologia fundamental para a economia e a segurança europeias. Ela citou aplicações como direção autônoma e defesa, defendendo que a Europa extraia valor prático da tecnologia. 1

A Comissão Europeia identificou cinco áreas de alto valor para a IA industrial, nas quais afirma que o bloco dispõe de dados e capacidade relevantes:

1. Saúde;
2. Transporte;
3. Agroalimentar;
4. Manufatura avançada;
5. Defesa e espaço. 1

A Comissão afirmou que anunciará iniciativas “transformadoras” nesses setores em novembro. 1

O que essa estratégia sinaliza

A agenda desenha uma política em duas frentes. No limite mais avançado da IA, a Comissão quer mais avaliação, coordenação internacional e um ritmo mais cauteloso para ganhos de capacidade considerados de alto risco. Na economia em geral, quer acelerar aplicações de IA em áreas ligadas a serviços públicos, competitividade industrial e segurança. 19

A distinção é decisiva: não se trata de desacelerar todo produto ou uso de IA. A proposta é cercar os modelos de fronteira com mais cautela, enquanto se busca acelerar aplicações industriais consideradas úteis na Europa. 1