Gaussian Probing: техніка, яка виявляє небезпечні ШІ-моделі, не створюючи незаконного контенту

Дослідники з Массачусетського технологічного інституту (MIT), Бостонського університету та дитячої правозахисної некомерційної організації Thorn розробили техніку під назвою Gaussian probing, яка дозволяє визначити, чи донавчена генеративна ШІ-модель для створення матеріалів сексуального насильства над дітьми (CSAM) — і все це без генерування жодного зображення . Метод, представлений як доповідь на воркшопі "Trustworthy AI for Good" в рамках Міжнародної конференції з машинного навчання (ICML), є проривом у сфері аудиту безпеки ШІ для контенту, настільки шкідливого, що навіть його тестування є незаконним .

Що таке Gaussian probing?

Gaussian probing — це негенеративний метод аудиту, який виявляє, чи була генеративна ШІ-модель спеціалізована через донавчання для створення CSAM . Техніка зосереджена саме на Low-Rank Adaptation (LoRA), популярному та ефективному методі донавчання, який дозволяє налаштувати базову модель, таку як Stable Diffusion, для конкретного завдання без перенавчання всієї моделі . Зловмисники використовують адаптери LoRA для створення варіантів моделей, здатних продукувати високоякісний CSAM .

Замість того, щоб питати, яке зображення створює адаптована модель, Gaussian probing досліджує, як адаптер змінює внутрішній профіль реакції моделі в рідному гауссовому просторі станів дифузійного процесу .

Як це працює?

Метод працює шляхом вимірювання того, як адаптер LoRA функціонально збурює внутрішні репрезентації моделі. Зокрема, він подає референтний ансамбль випадкових гауссових латентних станів через дифузійний процес моделі та спостерігає, як змінюються приховані активації .

Ключовим математичним об'єктом є "функціонал зонда", який обчислює середнє приховане представлення за кроками дифузії для набору гауссових шумових входів, а потім агрегує їх у вектор ознак, що характеризує ефект адаптера . Потім на цих векторах ознак навчається класифікатор для розрізнення шкідливих (спеціалізованих на CSAM) та безпечних адаптерів.

Як пояснив провідний автор дослідження Вініт Суріякумар, аспірант MIT: "Раніше ми не мали способу це виміряти. Це була величезна сліпа пляма, якою деякі люди користувалися" .

Точність: 100% у тестах

Під час тестування процедура Gaussian probing ідентифікувала варіації моделей, спеціалізовані для генерації CSAM, з точністю 100% . Дослідники виявили, що Gaussian probing надійно відрізняє шкідливу спеціалізацію від безпечної, на відміну від базових методів, що аналізують сирі ваги, які можуть покладатися на випадкові артефакти навчання, а не на значущий сигнал вмісту .

Техніка також довела свою ефективність за реалістичних обмежень, що свідчить про можливість її масштабного впровадження на таких платформах, як Hugging Face або Civitai, де користувачі завантажують адаптери LoRA .

Дослідження було результатом співпраці аспіранта MIT Вініта Суріякумара та доценток Ешії Вілсон і Марзіє Гассемі, разом із дослідницями з Thorn, зокрема докторкою Ребеккою Портнофф .

Юридичний парадокс, який розв'язує Gaussian probing

Стандартний аудит безпеки ШІ покладається на простий процес: подати моделі шкідливі запити та перевірити виходи. Для CSAM це юридично неможливо. У Сполучених Штатах генерування такого контенту є незаконним, незалежно від намірів .

Gaussian probing розв'язує цей парадокс, оцінюючи здатність моделі створювати CSAM на основі виключно внутрішніх активацій, без генерування вихідного зображення. Як зазначається в анонсі MIT: "Їхня техніка досліджує, як змінюються внутрішні механізми моделі, коли вона донавчена на CSAM — без необхідності бачити будь-які зображення" .

Цей метод також уникає етичної проблеми впливу травматичного матеріалу на дослідників безпеки, оскільки не потребує перегляду жодних зображень CSAM під час тестування .

Зростаюча криза ШІ-генерованого CSAM

Техніка з'являється в той час, коли масштаби ШІ-генерованого CSAM вибухово зростають. Ключові статистичні дані з авторитетних джерел включають:

• NCMEC (Національний центр по боротьбі зі зниклими та експлуатованими дітьми) отримав понад 1,5 мільйона повідомлень про ШІ-генерований CSAM у 2025 році, що є різким зростанням з 67 000 за весь 2024 рік . Це приблизно 22-кратне збільшення порівняно з попереднім роком.
• Лише за перше півріччя 2025 року NCMEC отримав 485 000 повідомлень про ШІ-асоційований CSAM, причому близько 35 технологічних компаній вже повідомляють про такий матеріал .
• Фонд інтернет-нагляду (IWF) оцінив 8 029 ШІ-генерованих зображень та відео як такі, що демонструють реалістичне сексуальне насильство над дітьми у 2025 році . Хоча ШІ-CSAM все ще становить відносно невелику частку загального обсягу повідомлень, він описується як "широко поширений і зростаючий" за масштабом, складністю та доступністю .
• Європейський парламент зазначив, що 2025 рік став свідком "величезного зростання" ШІ-генерованого CSAM, причому відкриті текстово-зображувальні моделі є основним вектором .
• NCMEC повідомив про зростання на 1325% кількості повідомлень, пов'язаних із генеративним ШІ, лише між 2023 та 2024 роками .

Реалістичний повноцінний відеоконтент, створений ШІ, став звичним явищем. У 2025 році IWF ідентифікував 3 443 ШІ-генерованих відео сексуального насильства над дітьми, з яких 65% були віднесені до Категорії A — найсерйознішого матеріалу згідно з британським законодавством .

Що це означає для безпеки ШІ та захисту дітей

Gaussian probing заповнює критичну прогалину в інструментарії безпеки ШІ. Поточні захисти від ШІ-генерованого CSAM в основному покладаються на фільтрацію вхідних даних, фільтрацію вихідних даних та перевірку навчальних даних . Але, як показали дослідження, "повторне введення концепції можливе через донавчання, навіть якщо фільтрація є ідеальною", а це означає, що поточні методи фільтрації пропонують "обмежений захист для моделей із закритими вагами та жодного захисту для моделей із відкритими вагами" .

Дозволяючи платформам виявляти шкідливі донавчені моделі до того, як вони будуть широко поширені, Gaussian probing може дозволити таким майданчикам, як Hugging Face та Civitai, перевіряти завантажені адаптери LoRA, не вдаючись до незаконної генерації контенту .

Наразі ця техніка пропонує масштабовану, негенеративну альтернативу для оцінки безпеки моделей у сферах високого ризику, де генерація є юридично обмеженою — інструмент, який галузь гостро потребувала в умовах кризи, що прискорюється.