Ro Khanna quiere saber si los modelos de IA de EE. UU. están a salvo de intrusiones

El congresista demócrata Ro Khanna quiere que las principales empresas estadounidenses de inteligencia artificial expliquen si han detectado intentos de acceso ilegal a los pesos de sus modelos y qué protecciones usan para impedirlo. El objetivo es aclarar un riesgo de seguridad nacional: que un actor hostil no se limite a usar un servicio de IA, sino que consiga sus componentes internos.3

Robar los pesos no es lo mismo que destilar un modelo

Los pesos son los parámetros aprendidos durante el entrenamiento que determinan cómo funciona un modelo. Si alguien los obtiene, puede conseguir una copia interna del sistema, en lugar de limitarse a consultarlo a través del servicio de la empresa. Eso no significa automáticamente que controle otros sistemas, pero sí que tendría acceso directo al modelo y podría ejecutarlo o modificarlo según las condiciones técnicas y legales.3

La destilación es distinta: se entrena otro modelo usando las respuestas de uno ya existente. OpenAI y Anthropic han informado de casos de destilación vinculados a empresas chinas, pero los reportes disponibles señalan que hay pocos casos conocidos de robo de pesos. Por tanto, la destilación no demuestra que se hayan sustraído los modelos originales.3

La disputa sobre quién debe poner las reglas

El Gobierno de Donald Trump ha favorecido un marco voluntario para la industria. En ese contexto, la administración dijo que no sometería a pruebas de seguridad voluntarias a los modelos de pesos abiertos. Khanna, por su parte, ha defendido auditorías obligatorias antes del lanzamiento y una mayor supervisión federal; también ha planteado un acuerdo verificable entre Estados Unidos y China sobre seguridad de la IA.5

La solicitud busca datos para evaluar si las medidas de las propias empresas bastan, no da por probado que haya ocurrido un robo. Con la información disponible, no se ha establecido que China haya sustraído los pesos de OpenAI, Anthropic, Google, Meta o xAI; tampoco se conocen públicamente todos los detalles de las defensas ni de posibles intentos no divulgados.3