“Queridos campesinos”: la disputa de la IA por la confianza y el control

Las declaraciones de Sam Altman en un pódcast emitido el 23 de agosto captaron una grieta cada vez más visible dentro de la industria de la inteligencia artificial. En tono sarcástico, el CEO de OpenAI imaginó un mensaje dirigido a los “campesinos”: las empresas les entregarían curas contra el cáncer, riqueza material y entretenimiento, pero a cambio les pedirían que dejaran de quejarse y les permitieran tomar todas las decisiones sobre el futuro. 3242

La broma no fue un ataque directo y explícito contra Dario Amodei, CEO de Anthropic. Sin embargo, llegó pocos días después de que Amodei planteara una crítica muy cercana: repetir que la IA curará el cáncer ya no entusiasma al público si la industria no consigue avances médicos reales. 1416

Qué quiso decir Altman con “queridos campesinos”

Altman no estaba rechazando necesariamente la promesa de una medicina mejor o de una mayor abundancia. Su blanco era el acuerdo paternalista implícito: las compañías ofrecerían prosperidad y, a cambio, la sociedad tendría que aceptar que un pequeño grupo de empresas o líderes decidiera por todos.

La preocupación encaja con otros comentarios del pódcast. Altman señaló dos riesgos que, aunque parecen apuntar en direcciones distintas, pueden reforzarse entre sí: que la IA llegue a ser tan poderosa que los seres humanos no puedan controlarla de forma fiable, y que la capacidad de decisión se concentre en unas pocas compañías, modelos o individuos. 3135

Desde esa perspectiva, el problema no es solo técnico. También es político. Un futuro con más riqueza y mejores tratamientos podría seguir siendo inaceptable si la mayoría de las personas pierde capacidad de decisión sobre su trabajo, su privacidad y las instituciones que organizan su vida.

Por qué el comentario recordó a Amodei

La respuesta de Amodei del 15 de agosto estaba dirigida a otro interlocutor y a otro problema. El inversor Gavin Baker había sostenido que las advertencias reiteradas del CEO de Anthropic sobre los peligros de la IA habían alimentado la hostilidad pública hacia la tecnología, incluida la oposición a la construcción de centros de datos. 722

Amodei rechazó la idea de que bastara con cambiar el tono de la comunicación. Describió el escepticismo público como una “crisis de confianza” fundamental, arraigada en décadas de desconfianza hacia las empresas, los gobiernos y la industria tecnológica. 13

También formuló una crítica especialmente contundente contra su propio sector: las compañías de IA, incluida Anthropic, todavía no han cumplido sus grandes promesas de beneficiar al mundo. Según Amodei, decir que la IA curará el cáncer se ha convertido en un cliché que muchas personas consideran engañoso; lo que cambiaría la opinión pública sería “curar realmente el cáncer”. 814

Ahí es donde convergen los argumentos de ambos ejecutivos. Los dos cuestionan la idea de pedirle al público que acepte afirmaciones grandiosas por confianza. Altman pone el foco en el coste político de renunciar a la autonomía. Amodei, en el coste de credibilidad que tiene prometer beneficios extraordinarios sin demostrarlos.

La respuesta de Amodei al optimismo de Baker

El diagnóstico de Baker interpretaba buena parte de la reacción negativa como un fallo de comunicación: hablar menos de riesgos catastróficos, insistir más en los beneficios y hacer que la tecnología resultara más fácil de respaldar públicamente. Amodei respondió que la desconfianza es anterior a las declaraciones de cualquier ejecutivo y que no puede repararse con una campaña de marketing brillante. 17

Eso no significa que Amodei descarte el potencial de la IA. El ejecutivo afirmó que la tecnología podría ayudar a curar la mayoría de las enfermedades humanas en un plazo aproximado de cinco a diez años, aunque reconoció que la predicción suena extraordinaria. 16

La diferencia está entre una previsión y un resultado conseguido. Amodei sostiene que la industria quizá tenga un caso muy poderoso que presentar, pero que seguirá siendo poco convincente hasta que las personas vean resultados tangibles y entiendan cómo se repartirán sus beneficios.

Dónde encaja la visión de Zuckerberg

El CEO de Meta, Mark Zuckerberg, ha defendido un futuro más optimista: uno en el que la superinteligencia empodere a todo el mundo y el empleo siga siendo abundante. En su ensayo de 6.500 palabras, “The Future is for Everyone”, presentó la IA como una herramienta para ampliar las capacidades individuales. 1726

El argumento de Amodei sobre la confianza cuestiona implícitamente que una visión positiva sea suficiente por sí sola. El público puede seguir preguntando quién controla los modelos, quién se queda con la riqueza que generen, quién asume los riesgos y si las instituciones podrán exigir responsabilidades a las empresas.

El escepticismo tampoco se limita a la seguridad de los sistemas. Distintos informes han señalado preocupaciones por la pérdida de empleos, la desigualdad, la privacidad, la remuneración de los creadores y los efectos sociales de la IA. Además, una encuesta citada por WIRED encontró que muchos estadounidenses perciben la IA de forma más negativa que positiva. 25

La evidencia disponible respalda una disputa seria sobre la confianza y la aceptación pública. No demuestra, en cambio, que las advertencias de un solo CEO hayan provocado la oposición a los centros de datos ni establece una causa única y cuantificada para una supuesta caída generalizada del entusiasmo.

La fractura de fondo: promesas frente a poder

El desacuerdo entre Altman, Amodei y sus críticos no es, por tanto, una simple discusión sobre el tono.

• La visión centrada en el optimismo: las compañías de IA deben explicar mejor sus beneficios y evitar que los mensajes sobre riesgos catastróficos y destrucción de empleo definan toda la tecnología. 730
• La visión centrada en la confianza: el escepticismo público refleja décadas de desconfianza, y la publicidad no puede sustituir a los beneficios demostrados, una gobernanza creíble y la rendición de cuentas. 12
• La visión centrada en el control: incluso un futuro próspero sería inaceptable si unas pocas empresas, modelos o personas tomaran las decisiones más importantes en nombre de todos los demás. 3537

La frase de Altman sobre los “campesinos” hizo visible la contradicción: la industria puede prometer abundancia y, al mismo tiempo, sonar como si estuviera pidiendo a la sociedad que entregue su autonomía. La respuesta de Amodei aporta la otra mitad de la crítica: ni siquiera las promesas bienintencionadas recuperarán la confianza si no se convierten en resultados comprobables.

La lección que emerge es sencilla. Los líderes de la IA no pueden dar por hecho que el miedo o el optimismo bastarán para convencer al público. La confianza dependerá de lo que la tecnología consiga, de quién la controle, de quién reciba sus beneficios y de si las personas conservan una voz real en el futuro que se está construyendo.