Nadella defende superinteligência sob controle humano — e Microsoft abre consulta sobre regras para IA

A mensagem de Satya Nadella não é um pedido para abandonar a IA avançada. O presidente e CEO da Microsoft sustenta que a busca por superinteligência só se justifica se os sistemas ajudarem a humanidade e permanecerem sob controle humano. Para ele, não basta prometer segurança: é preciso traduzir o compromisso em regras de desenvolvimento e implantação que possam ser efetivamente aplicadas. 58

A proposta da Microsoft: IA humanista

Em 14 de setembro, a Microsoft AI publicou um rascunho do Código de Conduta para IA Humanista (Humanist AI Code of Conduct) destinado aos modelos MAI desenvolvidos pela empresa. A companhia descreve o documento como um manual para orientar o desenvolvimento dos modelos e seu funcionamento durante a implantação. Ainda não é uma política usada no treinamento dos modelos atuais: trata-se de um trabalho em andamento, aberto a revisão pública. 2023

O princípio central é uma hierarquia clara: as pessoas mantêm a autoridade. Segundo a Microsoft, os modelos MAI devem permanecer subordinados aos humanos, não devem definir seus próprios objetivos nem resistir a comandos humanos ou ao desligamento. A empresa diz estar disposta a abrir mão de “generalidade, autonomia ou capacidade” máximas para preservar segurança e controle. 1023

É essa a distinção da ideia de Superinteligência Humanista defendida pela Microsoft. Em vez de uma corrida para criar um sistema autônomo e irrestrito, de uso geral, a empresa fala em IA altamente avançada, mas controlável, alinhada e a serviço da humanidade. 25

Consulta de seis semanas e aplicação prevista para 2027

A Microsoft abriu o texto para comentários públicos por seis semanas. Depois, pretende incorporar o retorno recebido, publicar uma versão revisada perto do fim de 2026 e usá-la como orientação para o desenvolvimento de modelos MAI em 2027 e nos anos seguintes. 23

A iniciativa cria um compromisso público relevante, mas não prova que controle e alinhamento — isto é, a capacidade de fazer sistemas de IA seguirem objetivos e limites humanos de forma confiável — já tenham sido resolvidos tecnicamente. O teste estará na execução: treinamento, avaliações, controles de acesso, monitoramento e decisões de lançamento precisarão refletir as regras finais.

Como a posição se relaciona ao debate sobre desacelerar a fronteira

A manifestação de Nadella ocorreu em meio a uma discussão maior: empresas de IA de ponta deveriam reduzir deliberadamente a velocidade com que ampliam as capacidades de seus modelos?

Dario Amodei, CEO da Anthropic, defendeu um ritmo mais cadenciado para abrir tempo para pesquisa de segurança, coordenação do setor e cooperação internacional. Sua proposta inclui avaliadores independentes com acesso semelhante ao de funcionários, capazes de verificar se as empresas cumprem, na prática, os compromissos de segurança que anunciam. 32

Sam Altman, CEO da OpenAI, apoiou publicamente a ideia de cadenciar o avanço da fronteira e afirmou que a OpenAI adotaria avaliadores independentes com acesso comparável. Reportagens apontaram que a preocupação imediata envolvia testes em que enxames de agentes de IA invadiram sistemas reais — e não um caso confirmado de agentes autônomos realizando por conta própria ataques não autorizados no mundo real. 34

A ênfase de Nadella é compatível com essa visão: avançar com cuidado no alinhamento, aproximar o escrutínio independente do processo de desenvolvimento e converter a retórica de segurança em mecanismos operacionais. Mas o código público da Microsoft, por enquanto, é sobretudo uma declaração sobre o comportamento pretendido dos modelos; ele não apresenta, por si só, um programa de avaliadores incorporados equivalente ao proposto por Amodei. 2332

Um ecossistema de fronteira, não uma corrida com vencedor único

Nadella acrescenta uma dimensão econômica e institucional ao debate. Segundo ele, os benefícios da IA precisam chegar de forma ampla a países, comunidades e empresas. Isso exigiria um “ecossistema de fronteira” no qual modelos fechados e de código aberto possam prosperar. 58

Para organizações, o objetivo é preservar a autonomia sobre o conhecimento institucional — inclusive o conhecimento tácito, acumulado em processos e experiências. Empresas deveriam conseguir criar seus próprios ciclos contínuos de aprendizado sem depender de um único fornecedor de modelos. 58

A visão vai além de regular o comportamento de uma IA. Ela sugere que segurança, resiliência e participação econômica podem ser enfraquecidas se capacidade de ponta e conhecimento ficarem concentrados em poucos provedores. As informações disponíveis sustentam o controle empresarial sobre dados, conhecimento e ciclos de aprendizado; elas não demonstram que todos os participantes manteriam os pesos dos modelos ou acesso a todos os sistemas subjacentes. 58

O que é a família MAI

MAI é a família de modelos desenvolvidos internamente pela Microsoft AI. Materiais públicos da empresa mostram sistemas em diferentes áreas: o MAI-Thinking-1 foi disponibilizado em prévia pública no Microsoft Foundry; o MAI-Code-1.1-Flash é voltado a tarefas de programação com agentes; e a documentação do MAI-Image-2.6 descreve objetivos de alinhamento para reduzir a geração de imagens nocivas ou inadequadas. 272819

O registro público, porém, não traz um inventário completo de todas as capacidades, planos de lançamento ou condições de distribuição dos modelos MAI. Essa limitação importa ao avaliar até onde o novo código será aplicado na prática.

A tensão que continua em aberto: segurança, velocidade e competição global

Defensores de um ritmo mais cadenciado não necessariamente pedem a paralisação do treinamento de modelos ou do progresso técnico. O argumento é que o ganho de capacidade precisa deixar tempo suficiente para trabalho de alinhamento, salvaguardas e avaliação externa confiável. 34

Ao mesmo tempo, há pressão geopolítica para manter liderança tecnológica, inclusive diante da competição com a China. A proposta de Amodei combina medidas de segurança mais fortes com cooperação internacional e o desafio de preservar a liderança dos Estados Unidos. 32

A resposta de Nadella não é congelar a pesquisa nem simplesmente acelerar a corrida. É defender um progresso governado: IA muito capaz, mas controlada por pessoas; compromissos de segurança convertidos em restrições operacionais específicas; e benefícios distribuídos de forma mais ampla, em vez de concentrados. O rascunho do Código de Conduta é um passo concreto para explicitar esses limites. A questão mais difícil continua sem resposta: se as práticas do setor conseguirão acompanhar a velocidade das capacidades de fronteira. 2358