Sam Altman vê risco em atribuir poder religioso à inteligência artificial

Sam Altman afirmou estar “muito desconfortável” com pessoas atribuindo “força religiosa” a modelos de inteligência artificial ou abrindo mão do julgamento humano em favor deles. O CEO da OpenAI classificou essa postura como “um problema real de segurança”. Ele não mencionou a Anthropic na publicação, mas o momento — dias depois de notícias sobre conversas da empresa com estudiosos religiosos — levou veículos de imprensa a interpretar a fala como uma crítica indireta. 71

Há uma diferença importante entre discutir como uma IA deve se comportar — ou se poderia ser consciente — e dizer que ela deve ser tratada como uma autoridade espiritual. As reportagens descrevem a Anthropic explorando essas questões. Já o cofundador Christopher Olah disse que não sabe se modelos de IA são conscientes e que tem dúvidas genuínas sobre o assunto. 1

O alerta de Altman

A publicação de Altman reuniu duas preocupações: atribuir poder religioso à IA e transferir para um modelo decisões que cabem às pessoas. Ele chamou essa combinação de risco de segurança. Como não citou empresa ou projeto, relacionar a fala especificamente à Anthropic é uma interpretação baseada nas notícias da época, não uma acusação explícita no post. 7

A preocupação vai além da religião. Quando respostas convincentes e com aparência humana são tratadas como fonte de autoridade, as pessoas podem dar aos modelos mais influência do que sua compreensão demonstrada justifica. As reportagens registram o alerta de Altman, mas não estabelecem com que frequência isso acontece nem medem seus efeitos. 67

Por que as conversas da Anthropic chamaram atenção

A Anthropic consultou estudiosos religiosos sobre como orientar o comportamento moral de Claude e sobre a possibilidade de modelos de IA serem conscientes. A coincidência entre esses temas e a fala de Altman fez com que seus comentários fossem interpretados como uma resposta ao trabalho da empresa. 17

Mas explorar uma hipótese não é o mesmo que afirmá-la como fato. Olah disse: “não sabemos se modelos de IA são conscientes. Eu não sei. Tenho dúvidas genuínas”. Discutir uma possível consciência não prova que um modelo tenha experiência subjetiva; da mesma forma, conversar com pensadores religiosos sobre comportamento moral não confere, por si só, status religioso à IA. 1

Consciência e comportamento moral não são a mesma questão

Um modelo pode ser desenvolvido para seguir orientações sobre como responder sem que isso demonstre que ele tem uma vida interior. As conversas relatadas sobre a Anthropic abordaram tanto o comportamento de Claude quanto uma possível consciência — questões que não devem ser tratadas como se fossem uma só. 1

As reportagens também registraram críticas à ideia de treinar modelos como se fossem conscientes: um executivo de IA da Microsoft alertou que isso poderia ser perigoso. Trata-se de uma preocupação relatada, não de uma resposta definitiva sobre a consciência de máquinas. A posição atribuída a Olah foi de incerteza. 91

Dignidade humana e responsabilidade

A encíclica do papa Leão XIV sobre inteligência artificial colocou a dignidade humana no centro do debate. Segundo as reportagens sobre o documento, o texto defendeu maior supervisão das empresas de IA, proteção para trabalhadores afetados por mudanças econômicas e medidas contra informações falsas geradas por inteligência artificial. Essas questões reforçam a importância de manter os interesses humanos e a responsabilização no centro do desenvolvimento e do uso da tecnologia. 152

A OpenAI também está sob escrutínio

A discussão veio à tona em meio a notícias separadas sobre a OpenAI. A Business Insider informou que o líder de segurança David Robinson deixou a empresa e criticou seu histórico na área. Já a BBC noticiou que a OpenAI demitiu três pesquisadores por suposto manejo inadequado de informações. Esses relatos não respondem se modelos de IA podem ser conscientes, mas fazem parte do contexto de avaliação da governança e das declarações das duas empresas. 1226

A conclusão mais segura é limitada: Altman se posicionou contra tratar modelos como autoridades religiosas ou abrir mão do julgamento humano em favor deles. As consultas relatadas da Anthropic levantaram questões relacionadas sobre o comportamento moral de Claude e uma possível consciência, mas as informações disponíveis não demonstram que essas conversas tenham dado a Claude autoridade religiosa — nem que a questão da consciência em IA esteja resolvida. 71