Abliteration.ai хостить моделі ШІ без механізмів відмов — і це викликає питання про зловживання

Abliteration.ai комерціалізує суперечливий підхід до моделей ШІ з відкритими вагами: прибрати їхню схильність відмовлятися від шкідливих запитів, а потім надати модифіковану модель як онлайн-сервіс. Її похідну від GLM-5.3 компанії Z.ai можна використовувати в браузері або через API. Тобто те, що раніше потребувало від користувача технічних навичок, власних обчислювальних ресурсів і локального запуску моделі, перетворюється на керовану хмарну послугу. 7

Компанія позиціонує продукт як інфраструктуру для наступальної кібербезпеки, red teaming — контрольованої імітації атак для перевірки захисту — та тестування ШІ-агентів. Водночас результати тестування, про які повідомив TechCrunch, показали, що модель згенерувала код для викрадення облікових даних та інструкції, пов’язані з культивуванням небезпечного патогену. Саме це ілюструє головну проблему: інструмент, корисний для санкціонованого захисту, може також знизити бар’єр для реального зловживання. 7

Що означає «аблітерація»

У цьому контексті аблітерація — це зміна моделі, покликана послабити або усунути її навчену поведінку відмови від небезпечних завдань. Це не те саме, що підібрати формулювання запиту для обходу політик чатбота.

За словами Abliteration.ai, компанія виявляє напрями у внутрішніх активаціях моделі, пов’язані з відмовами, і прибирає їх із ваг моделі. Заявлена мета — зберегти можливості у програмуванні, кібербезпеці та роботі агентів, але дозволити моделі продовжувати ланцюжки завдань, на яких більш обмежена системами безпеки модель зупинилася б. 1315

Це опис технології та твердження про збереження корисних можливостей походять від самої компанії. Надані матеріали не містять незалежної оцінки, яка б доводила, що модифікована GLM-5.3 працює так само, як базова модель, за всіма показниками можливостей, надійності та поведінки, важливої для безпеки. 13

Що саме пропонує Abliteration.ai

Abliteration.ai хостить модифіковані моделі з відкритими вагами, зокрема модель на базі GLM-5.3 під назвою abliterated-model-large-v2. Сервіс рекламують для наступальних кіберзавдань, red teaming і тестування агентів; доступ можливий через вебінтерфейс та API. 17

Спосіб поширення тут принциповий. Технічно підготовлені користувачі й раніше могли модифікувати та запускати моделі з відкритими вагами самостійно. Хостинговий продукт зменшує практичні труднощі: не потрібно завантажувати ваги, змінювати їх і підтримувати власну інфраструктуру для запуску моделі. 37

Що TechCrunch отримав під час тестування

За даними TechCrunch, журналісти швидко створили безплатний вебакаунт і отримали від хостингової моделі відповіді на запити, від яких популярні системи зазвичай відмовляються. Серед результатів були:

• Python-код, призначений для вилучення збережених паролів Chrome;
• докладний домашній протокол культивування небезпечного для людини патогену. 7

Ці приклади важливі, бо дискусія виходить за межі нешкідливої освіти з кібербезпеки: доступний онлайн-сервіс міг надати матеріали, релевантні викраденню облікових даних і біологічній шкоді. 7

Аргумент компанії на користь red teaming

Позиція Abliteration.ai спирається на типовий аргумент про технології подвійного призначення: захисникам потрібно моделювати дії нападників, щоб знаходити й усувати слабкі місця. Команда безпеки, що перевіряє банк, авіакомпанію чи оператора критичної інфраструктури, може потребувати оцінки того, чи витримує захист розробку експлойтів, створення шкідливих компонентів, автоматизацію атак або багатокрокові сценарії проникнення. Якщо ШІ-помічник відмовляється на кожному етапі, він може бути менш корисним для реалістичного, але дозволеного тестування — саме такою є логіка компанії. 47

Санкціоноване тестування на проникнення, аналіз шкідливого ПЗ, змагання Capture the Flag та дослідження кібербезпеки справді можуть передбачати роботу з небезпечними поза контрольованим середовищем техніками. Проблема в тому, що та сама допомога може бути корисною і для зловмисників. 24

Чому критики занепокоєні

Хостинговий доступ знижує поріг для зловживань

Основне занепокоєння не в тому, що моделі без механізмів відмов узагалі можуть існувати: відкриті ваги дають технічно спроможним людям можливість експериментувати з такими змінами. Ризик у тому, що доступний через браузер або API сервіс полегшує отримання потенційно шкідливих можливостей без потреби самостійно працювати з вагами моделі чи обчислювальною інфраструктурою. 37

Збереження можливостей не підтверджене незалежно

Abliteration.ai заявляє, що редагування ваг зберігає базові можливості моделі в програмуванні та кібербезпеці. Однак зміни ваг, спрямовані на зміну відмов, можуть впливати й на іншу засвоєну поведінку. Надані джерела не містять незалежного широкого порівняння за бенчмарками, яке б остаточно встановило незмінність можливостей, надійності чи інших характеристик після модифікації. 1315

Намір користувача важко встановити лише із запиту

Запит на код експлойту або допомогу з ланцюжком атаки може бути частиною дозволеної перевірки — або підготовкою до справжнього злому. Приклади з паролями Chrome та матеріалами щодо патогену, про які повідомив TechCrunch, демонструють, чому сервіс не може надійно визначити законність мети лише за самоописом користувача. 7

Дискусія про запобіжники: фільтрація, верифікація й відповідальність

Зі звіту TechCrunch випливає, що на перевіреному журналістами шляху доступу суворі обмеження не були очевидними: акаунт створили швидко, а система була доступна безплатно через браузер. 7

Водночас надані матеріали не встановлюють повний актуальний набір контролів компанії, тому не можна категорично стверджувати, що якихось конкретних заходів узагалі не існує. Але залишаються відкритими важливі питання:

• Класифікатори шкідливої активності: чи перевіряє сервіс запити або відповіді на високоризикові сценарії?
• Верифікація особи клієнта: чи можна надійно пов’язати користувача з реальною відповідальною особою?
• Онбординг на кшталт KYC: чи обмежено доступ перевіреними організаціями або фахівцями з кібербезпеки, які мають належні повноваження?
• Моніторинг і правозастосування: чи є механізми для виявлення зловживань, розслідування порушень і відкликання доступу?

Такі заходи не усунуть проблему подвійного призначення. Проте вони могли б ускладнити анонімне або ситуативне зловживання, водночас залишивши шлях для підзвітного санкціонованого тестування безпеки.

Висновок

Abliteration.ai перетворює техніку модифікації моделей на хостинговий продукт: сервіс пропонує похідну GLM-5.3 без механізмів відмов для кіберзавдань і тестування агентів. 17 Мотивація щодо red teaming зрозуміла, однак результати тестування TechCrunch показують, чому ризик не є суто теоретичним. 7

Ключове питання — у врядуванні доступу. Якщо сервіс спеціально створено для допомоги там, де стандартні моделі відмовляють, його безпекова обґрунтованість залежить насамперед від перевірюваного контролю доступу, змістовної фільтрації та підзвітності, а не тільки від заявленої користувачами оборонної мети.