El director de IA de Microsoft carga contra Anthropic: "Es muy peligroso especular con que Claude tenga conciencia"

Calificó esta práctica de "muy, muy peligrosa" (really, really dangerous) y advirtió que "no queremos tener que lidiar con una superinteligencia que tenga ideas sobre su propio sufrimiento, o ideas sobre sus propios sentimientos" . Amplió su preocupación en otro momento, afirmando que es peligroso "proyectar derechos potenciales sobre seres, herramientas y agentes que tienen el potencial de ser significativamente más capaces que nosotros en muchos aspectos" . Una de sus grandes inquietudes es que el hecho de contemplar la conciencia de las máquinas en la documentación oficial confunda a millones de usuarios que no están preparados para entender la realidad ingenieril que hay detrás de la IA conversacional .

Un choque filosófico y competitivo

Detrás de la crítica hay mucho más que un simple desacuerdo sobre el diseño técnico. El encontronazo público revela un choque de filosofías corporativas y un claro posicionamiento competitivo .

Anthropic se ha promocionado durante mucho tiempo como la alternativa centrada en la seguridad dentro de la carrera por la IA. Fundada por exejecutivos de OpenAI, la empresa hace hincapié en la "IA constitucional" como un marco para construir modelos más transparentes y éticamente limitados. La crítica de Suleyman es estratégicamente potente porque socava directamente esa identidad. Argumenta que el enfoque particular de Anthropic hacia la seguridad —contemplar la posibilidad del bienestar de la máquina dentro del sistema— es precisamente lo que la convierte en irresponsable .

Las dos empresas también están integradas en alianzas industriales opuestas. Microsoft tiene una enorme participación en OpenAI, el principal competidor de Anthropic, y ha integrado los modelos GPT de OpenAI en todo su ecosistema de productos. Anthropic, por su parte, ha recaudado miles de millones de dólares de Amazon y Google . La crítica de Suleyman tiene tanto el peso de un argumento ético como el de una salva competitiva en un mercado donde la percepción pública de la seguridad es cada vez más relevante.

También hay un historial filosófico documentado detrás del desacuerdo. Suleyman ha publicado y hablado anteriormente sobre la "IA Aparentemente Consciente" (Seemingly Conscious AI), argumentando que las máquinas con una apariencia convincente de conciencia plantean riesgos sin precedentes, incluso cuando no están realmente vivas . Anthropic, en cambio, ha adoptado una postura más transparente desde el punto de vista de la investigación, publicando explicaciones detalladas del diseño constitucional de Claude y reconociendo la incertidumbre sobre si el modelo podría tener formas de experiencia subjetiva . No se trata solo de eslóganes de marketing; representan apuestas genuinamente diferentes sobre lo que constituye una divulgación responsable a medida que los modelos se vuelven más potentes.

Hasta el momento de esta publicación, Anthropic no ha respondido públicamente a las declaraciones de Suleyman . El silencio deja el debate sin resolver, pero las líneas se han trazado ya de forma pública de una manera que probablemente marcará las próximas discusiones de la industria sobre los estándares de seguridad de la IA y la responsabilidad corporativa.