OpenAI, Anthropic y Google DeepMind exploran una colaboración en seguridad de IA

OpenAI, Anthropic y Google DeepMind, tres competidores directos en el desarrollo de modelos avanzados de inteligencia artificial, estarían explorando una colaboración para dar prioridad a la seguridad de la IA. La cuestión de fondo es delicada: cómo coordinar protecciones frente a riesgos graves sin que esa coordinación termine afectando la competencia.

Según Bloomberg News, citado por Reuters, las tres compañías mantenían conversaciones sobre este asunto. Reuters aclaró que no pudo verificar el reporte de forma independiente y que OpenAI, Alphabet —matriz de Google— y Anthropic no respondieron de inmediato a sus solicitudes de comentarios. 4

Qué se sabe de las conversaciones

La iniciativa reportada reúne a OpenAI, Anthropic y Google DeepMind, la división de IA de Alphabet. Chris Lehane, responsable global de políticas de OpenAI, afirmó que las empresas llevaban varias semanas hablando y defendió que intentaran trabajar juntas para priorizar la seguridad. 4

Por ahora, la información pública no confirma un acuerdo definitivo, estándares comunes concretos ni un programa vinculante entre las compañías. La conclusión prudente es que se trataba de conversaciones reportadas, no de la adopción confirmada de un marco formal de colaboración. 4

Por qué crece la preocupación por riesgos catastróficos

El diálogo surge después de que dirigentes de los principales laboratorios de IA de Estados Unidos reclamaran públicamente una pausa en el desarrollo de la tecnología, lo que elevó la atención sobre los llamados riesgos existenciales de sistemas cada vez más capaces. 4

La preocupación también ha llegado al debate político. Reuters informó que un número creciente de legisladores estadounidenses busca nuevas normas para la IA tras advertencias de investigadores de Anthropic sobre la posibilidad de que el rápido avance de esta tecnología plantee un riesgo de extinción. 3

Anthropic, por su parte, había pedido a los grandes laboratorios que considerasen una pausa coordinada y verificable si los riesgos aumentan. La empresa argumentó que los sistemas de IA podrían llegar a mejorarse a sí mismos a una velocidad superior a la capacidad de la sociedad para gestionar las consecuencias. 15

Son advertencias sobre capacidades y riesgos potenciales, no una certeza de que esos escenarios vayan a ocurrir. Aun así, ayudan a explicar por qué están ganando peso las salvaguardas voluntarias de las empresas, los estándares compartidos y una supervisión con capacidad de exigir resultados.

El límite antimonopolio

La cooperación entre empresas rivales puede atraer el escrutinio de las autoridades de competencia, especialmente cuando esas mismas compañías compiten por desarrollar y desplegar los modelos más avanzados.

Lehane afirmó que OpenAI, Anthropic y Google DeepMind no necesitaban una exención de las normas antimonopolio para coordinarse en materia de seguridad. 4 Esa visión no es unánime. Andrew Ferguson, presidente de la Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés), dijo que la población debería ser «profundamente escéptica» ante las empresas de IA que solicitan exenciones antimonopolio. No obstante, expertos consultados por Reuters señalaron que la legislación vigente podría permitir coordinación destinada a evitar riesgos catastróficos. 2

La diferencia es relevante: compartir métodos de evaluación de seguridad o prácticas de gestión de riesgos puede presentarse como una medida de protección. En cambio, pactar una ralentización del desarrollo que restrinja la competencia plantea interrogantes legales y políticos mucho más complejos.

El frente regulatorio en Estados Unidos

Lehane también señaló que OpenAI respaldaría legislación bipartidista en Estados Unidos para reducir los riesgos catastróficos de la IA. 4

En el Senado estadounidense se discutían propuestas para establecer un «deber de diligencia» para los desarrolladores: las empresas tendrían que demostrar que adoptan precauciones razonables para impedir daños. El Departamento de Comercio podría solicitar pruebas de esas medidas y enviar auditores gubernamentales para evaluar productos. 8

OpenAI también ha pedido requisitos nacionales obligatorios de seguridad para la IA y ha dicho que los estándares deberían extenderse más allá de Estados Unidos. 6

Qué falta por comprobar

La principal incógnita es si estas conversaciones derivarán en un compromiso público y formal, con salvaguardas definidas, evaluaciones independientes y mecanismos de rendición de cuentas.

De momento, la evidencia disponible permite una conclusión más acotada: OpenAI, Anthropic y Google DeepMind mantenían, según lo reportado, conversaciones sobre seguridad de IA en un contexto de creciente preocupación por riesgos avanzados y de presión para crear estándares compartidos y normas federales. 4

Cualquier acuerdo futuro tendrá que superar dos pruebas a la vez: ofrecer protecciones de seguridad que sean realmente significativas y evitar que el lenguaje de la seguridad se convierta en una vía para que competidores limiten la competencia.