Sondeo Gaussiano: la técnica de seguridad en IA que detecta modelos de CSAM sin generar una sola imagen

Investigadores del MIT, la Universidad de Boston y la organización sin fines de lucro Thorn, dedicada a la seguridad infantil, han desarrollado una técnica llamada sondeo gaussiano que puede determinar si un modelo de IA generativa ha sido ajustado para producir material de abuso sexual infantil (CSAM, por sus siglas en inglés), sin generar ni una sola imagen . El método, presentado como artículo destacado en el taller "Trustworthy AI for Good" dentro de la Conferencia Internacional sobre Aprendizaje Automático, representa un avance en la auditoría de seguridad de la IA para contenido tan dañino que incluso probarlo es ilegal .

¿Qué es el sondeo gaussiano?

El sondeo gaussiano es un método de auditoría no generativo que detecta si un modelo de IA generativa ha sido especializado mediante un ajuste fino para producir CSAM . La técnica se centra específicamente en la Adaptación de Bajo Rango (LoRA), un método de ajuste fino popular y eficiente que permite a los usuarios especializar un modelo base, como Stable Diffusion, para una tarea particular sin reentrenar todo el modelo . Actores maliciosos han explotado los adaptadores LoRA para crear variantes de modelos capaces de producir CSAM de alta calidad .

En lugar de preguntar qué imagen genera el modelo adaptado como salida, el sondeo gaussiano pregunta cómo el adaptador cambia el perfil de respuesta interna del modelo en el espacio de estados gaussianos nativo del proceso de difusión .

¿Cómo funciona?

El método funciona midiendo cómo un adaptador LoRA perturba funcionalmente las representaciones internas del modelo. Específicamente, introduce un conjunto de referencia de estados latentes gaussianos aleatorios a través del proceso de difusión del modelo y observa cómo cambian las activaciones ocultas .

El objeto matemático central es un "funcional de sondeo" que calcula la representación oculta promedio a través de los pasos de tiempo de difusión para un conjunto de entradas de ruido gaussiano, y luego agrega estas en un vector de características que caracteriza el efecto del adaptador . Luego, se entrena un clasificador en estos vectores de características para distinguir los adaptadores dañinos (especializados en CSAM) de los benignos.

Como explicó el autor principal, Vinith Suriyakumar, estudiante de posgrado del MIT: "Antes, no teníamos forma de medir esto. Era un punto ciego enorme del que algunos se estaban aprovechando" .

Precisión: 100 % en pruebas

En las pruebas, el procedimiento de sondeo gaussiano identificó las variaciones de modelos que habían sido especializados para generar CSAM con un 100 % de precisión . Los investigadores descubrieron que el sondeo gaussiano distingue de manera confiable la especialización benigna de la dañina, a diferencia de los métodos de referencia basados en pesos brutos que pueden depender de artefactos de entrenamiento incidentales en lugar de una señal de contenido significativa .

La técnica también demostró ser efectiva bajo restricciones realistas, lo que sugiere que podría implementarse a escala en plataformas como Hugging Face o Civitai, donde los usuarios suben adaptadores LoRA .

La investigación fue una colaboración entre el estudiante de posgrado del MIT Vinith Suriyakumar y los profesores asociados Ashia Wilson y Marzyeh Ghassemi, junto con investigadores de Thorn, incluida la Dra. Rebecca Portnoff .

La paradoja legal que resuelve el sondeo gaussiano

La auditoría de seguridad de IA estándar se basa en un proceso directo: pedir a un modelo entradas dañinas e inspeccionar las salidas. Para el CSAM, esto es legalmente imposible. Es ilegal en los Estados Unidos generar dicho contenido, independientemente de la intención .

El sondeo gaussiano resuelve esta paradoja al evaluar la capacidad del modelo para producir CSAM basándose únicamente en las activaciones internas, sin generar nunca una imagen de salida. Como señala el anuncio del MIT, "Su técnica examina cómo cambia el funcionamiento interno de un modelo cuando se ajusta con CSAM, sin necesidad de ver ninguna imagen" .

Este método también evita el problema ético de exponer a los investigadores de seguridad a material traumático, ya que no requiere que se vea ninguna imagen de CSAM durante las pruebas .

La creciente crisis del CSAM generado por IA

La técnica llega en un momento en que la escala del CSAM generado por IA está explotando. Las estadísticas clave de fuentes autorizadas incluyen:

• NCMEC (Centro Nacional para Menores Desaparecidos y Explotados) recibió más de 1,5 millones de reportes de CSAM generado por IA en 2025, un aumento dramático desde los 67.000 en todo 2024 . Esto representa un aumento interanual de aproximadamente 22 veces.
• Solo en el primer semestre de 2025, NCMEC recibió 485.000 reportes de CSAM relacionado con IA, con unas 35 empresas de tecnología reportando dicho material .
• La Fundación Internet Watch (IWF) evaluó 8.029 imágenes y videos generados por IA como abuso sexual infantil realista en 2025 . Aunque el CSAM de IA aún representa una proporción relativamente pequeña del material total reportado, se describe como "generalizado y creciente" en escala, sofisticación y accesibilidad .
• El Parlamento Europeo señaló que 2025 vio un "enorme aumento" en el CSAM generado por IA, siendo los modelos de texto a imagen de código abierto un vector principal .
• NCMEC reportó un aumento del 1.325 % en los reportes que involucran IA generativa solo entre 2023 y 2024 .

El contenido de video realista generado por IA se ha vuelto común. En 2025, la IWF identificó 3.443 videos de abuso sexual infantil generados por IA, con el 65 % categorizados bajo la Categoría A, el material más grave según la legislación del Reino Unido .

Lo que esto significa para la seguridad de la IA y la protección infantil

El sondeo gaussiano llena un vacío crítico en el conjunto de herramientas de seguridad de la IA. Las defensas actuales contra el CSAM generado por IA se basan principalmente en el filtrado de entrada, el filtrado de salida y el cribado de datos de entrenamiento . Pero, como ha demostrado la investigación, "es posible reintroducir un concepto a través del ajuste fino incluso si el filtrado es perfecto", lo que significa que los métodos de filtrado actuales ofrecen "protección limitada a los modelos de peso cerrado y ninguna protección a los modelos de peso abierto" .

Al permitir que las plataformas detecten modelos ajustados dañinos antes de que se distribuyan ampliamente, el sondeo gaussiano podría permitir que plataformas como Hugging Face y Civitai examinen los adaptadores LoRA cargados sin recurrir a la generación de contenido ilegal .

Por ahora, la técnica proporciona una alternativa escalable y no generativa para evaluar la seguridad de los modelos en dominios de alto riesgo donde la generación está legalmente restringida, una herramienta que el campo necesitaba con urgencia a medida que se acelera la crisis del CSAM generado por IA.