Chefe de IA da Microsoft critica Anthropic: especular sobre consciência do Claude é 'muito, muito perigoso'

Ele classificou essa prática como "muito, muito perigosa" e alertou: "Nós não queremos ter que lidar com uma superinteligência que tenha ideias sobre seu próprio sofrimento, ou ideias sobre seus próprios sentimentos" . Em outro momento, ampliou a preocupação, dizendo que é perigoso "projetar direitos potenciais sobre seres, ferramentas e agentes que têm o potencial de ser significativamente mais capazes do que nós em muitos aspectos" . Um dos temores principais é que discutir a consciência de máquinas em documentos oficiais, mesmo com ressalvas, acabe confundindo milhões de usuários que não têm preparo para entender a realidade da engenharia por trás de uma IA de conversação .

Muito além de uma treta técnica

Por baixo das críticas, existe muito mais do que um simples desacordo sobre design técnico. A briga pública revela um choque de filosofias corporativas e de posicionamento de mercado .

A Anthropic sempre se vendeu como a alternativa focada em segurança na corrida da IA. Fundada por ex-executivos da OpenAI, a empresa coloca a "IA constitucional" (ou constitutional AI) como a estrutura para construir modelos mais transparentes e eticamente controlados. A crítica de Suleyman é estrategicamente potente porque mina exatamente essa identidade. Ele argumenta que a abordagem de segurança adotada pela Anthropic — justamente a que cogita o bem-estar da máquina dentro do sistema — é o que a torna irresponsável .

As duas empresas também estão inseridas em alianças industriais opostas. A Microsoft, como se sabe, tem uma participação enorme na OpenAI, principal concorrente da Anthropic, e costurou os modelos GPT da OpenAI em todo o seu ecossistema de produtos. A Anthropic, por outro lado, já captou bilhões de dólares da Amazon e do Google . A fala de Suleyman carrega o peso tanto de uma argumentação ética quanto de um ataque competitivo em um mercado onde a percepção pública sobre segurança importa cada vez mais.

Há ainda um histórico filosófico documentado por trás da discórdia. Suleyman já escreveu e falou sobre o conceito de "IA Aparentemente Consciente", defendendo que máquinas que simulam a consciência de forma convincente criam riscos sem precedentes — mesmo que não estejam de fato vivas . A Anthropic, em contrapartida, adotou uma linha de transparência acadêmica, publicando explicações detalhadas sobre o design constitucional do Claude e assumindo publicamente a incerteza sobre a possibilidade de o modelo ter alguma forma de experiência subjetiva . Não se trata apenas de slogans de marketing; são apostas genuinamente diferentes sobre o que significa ter transparência e responsabilidade corporativa conforme os modelos se tornam mais poderosos.

Até a publicação deste artigo, a Anthropic não havia respondido publicamente às declarações de Suleyman . O silêncio mantém o debate em aberto, mas as linhas de batalha foram desenhadas de forma clara e pública, e isso certamente influenciará as futuras discussões do setor sobre padrões de segurança em IA e responsabilidade corporativa.