Zuckerberg defiende que cada empresa decida cuándo frenar su IA

Mark Zuckerberg no sostiene que los sistemas de inteligencia artificial deban lanzarse a toda costa. Su objeción es otra: no cree necesario que las empresas acuerden frenar juntas. En una entrevista con Joanna Stern, de NBC News, el CEO de Meta dijo que los principales laboratorios pueden ralentizar o pausar sus propios productos si consideran que no son seguros. 10

Su argumento: cada laboratorio debe responder por lo que crea

Para Zuckerberg, cada empresa tiene la responsabilidad y la capacidad de avanzar al ritmo que le permita desarrollar modelos de forma segura. También cree que existen incentivos comerciales y legales para hacerlo: los usuarios evitarán agentes que no sigan sus instrucciones, y una compañía podría afrontar responsabilidades si sus sistemas causan daños. Desde esa perspectiva, la confianza y la capacidad de un agente para actuar conforme a las intenciones del usuario son ventajas competitivas, no motivos para imponer una pausa simultánea a todos los desarrolladores. 172934

La distinción importa: defiende los frenos dentro de cada empresa, no una prohibición de frenar. Pero su argumento depende de que las compañías detecten los problemas y reaccionen antes de que haya perjuicios. Los incentivos del mercado, por sí solos, no garantizan que eso ocurra siempre.

Muse, el ejemplo que ofrece Meta

Zuckerberg señaló que Meta retrasó durante meses su agente de IA Muse para trabajar en su seguridad. Según él, esa decisión muestra que una empresa puede posponer un producto sin exigir primero que sus rivales hagan lo mismo. 1727

Meta también ha descrito un agente separado, Sentinel, que supervisa las acciones y los datos que Muse envía a la red y está diseñado para solicitar permiso al usuario cuando corresponde. Es un ejemplo de las protecciones que la compañía dice haber incorporado, no una prueba de que hayan eliminado todos los riesgos. 30

El desacuerdo con otros líderes de la IA

Dario Amodei, CEO de Anthropic, ha pedido reducir el ritmo de desarrollo de la IA más avanzada, una postura respaldada por Sam Altman, CEO de OpenAI, y Elon Musk. El 23 de septiembre, Amodei y Altman comparecieron ante el Consejo de Seguridad de las Naciones Unidas y reclamaron coordinación internacional para gestionar los riesgos de esta tecnología. 146

En el fondo, la disputa es quién debe marcar el ritmo: cada laboratorio por separado, como propone Zuckerberg, o las empresas y los países mediante la cooperación, como defienden Amodei y Altman. 10174

Las advertencias de investigadores han dado más urgencia al debate. Tras dejar Anthropic, Jacob Coxon alertó sobre posibles riesgos catastróficos de la IA. Aun así, propuso permitir que los principales laboratorios se autorregulen mientras el Congreso de Estados Unidos elabora un marco de largo plazo para ralentizar el desarrollo. Su postura muestra que preocuparse por esos riesgos no implica necesariamente exigir una pausa inmediata y uniforme. 4237