Як лабораторії передового ШІ знижують ризик створення біозброї

Ризик вимірюють не одним «небезпечним запитом», а реальним підсиленням можливостей

Науковий ШІ здатен прискорити корисну роботу в біології, медицині та розробці ліків. Водночас із посиленням моделей він потенційно може зменшити потребу в часі, вузькій експертизі, налагодженні експериментів чи координації, необхідних для хімічних і біологічних зловживань.

Тому ключове питання — не те, чи може публічний чатбот видати готовий рецепт біологічної зброї. Йдеться про те, чи робить модель небезпечний проєкт відчутно легшим для реалізації на кількох його етапах.

Шкода в біологічній сфері не виникає лише з текстової відповіді моделі: потрібні матеріали, обладнання, фахові навички та практичне виконання. Робоча стаття про сучасні базові моделі описує ризик саме як можливість провести користувача через технічно складні процеси розробки, а не як наслідок одного запиту в чаті.

Який підхід формують лабораторії ШІ

Практика безпеки моделей передового рівня поступово зводиться до кількох взаємодоповнювальних елементів:

• Оцінювання можливостей. Моделі перевіряють разом із профільними експертами та в сценаріях, що імітують спроби обійти захист, аби з’ясувати, чи їхня допомога в біології або хімії суттєво перевищує звичайний доступ до інформації.
• Пропорційні запобіжники. Небезпечні запити подвійного призначення — тобто такі, що можуть мати як мирне, так і шкідливе застосування, — відхиляють, перенаправляють або обмежують, водночас намагаючись залишити доступними низькоризикові освітні, медичні й наукові запити.
• Рівні доступу. Найчутливіші можливості надають не всім одразу, а перевіреним користувачам чи організаціям на визначених умовах.
• Постійне коригування. Правила класифікації та доступу переглядають, якщо вони надто часто блокують легітимні запити або коли моделі стають потужнішими.
• Зовнішні бар’єри. Захист посилюють на наступних фізичних етапах, передусім під час придбання біологічних матеріалів, де цифрова ідея має перетворитися на дію в реальному світі.

Це практичніше, ніж вважати поведінку моделі єдиною лінією оборони.

Приклад Anthropic: менше хибних блокувань без відкриття ризикованих напрямів

Оновлення біологічних запобіжників Anthropic для Fable 5 показує складність цього балансу. Компанія заявила, що скоротила кількість перенаправлень біологічних запитів приблизно на 85% у своїх продуктах, тож модель може допомагати з ширшим колом біологічних завдань.

Водночас Anthropic повідомляє, що запити, які система класифікує як такі, що мають подвійне призначення, зокрема у вірусології, токсикології та молекулярному дизайні, Fable 5 і далі передає моделі Opus 5, менш потужній для цих цілей. За твердженням компанії, через це система поки не доступна для професійних біологічних досліджень і розробки ліків у таких чутливих категоріях.

Важливий тут не конкретний механізм перенаправлення, а принцип. Запобіжник, який блокує кожне питання з біології, заважатиме навчанню, клінічному тлумаченню даних і звичайній науковій роботі. Але система, що автоматично вважає всі біологічні запити безпечними, може пропустити справді чутливу допомогу. Вища точність обмежень є складовою безпеки, а не відмовою від неї.

Контрольований доступ до потужніших моделей

Anthropic також застосовує обмежений доступ до моделей класу Mythos. На сторінці Mythos компанія вказує, що Mythos 5.1 покращено в біології та кібербезпеці, а доступ до неї досі мають лише небагато перевірених організацій. 1

Під час анонсу Mythos 5 Anthropic зазначала, що система використовує ту саму базову модель, що й Fable 5, однак у деяких сферах з неї знято запобіжники. Початкове розгортання обмежили невеликою групою фахівців із кіберзахисту та постачальників інфраструктури в межах Project Glasswing. 7

Такий формат не усуває ризику: важливими залишаються перевірка користувачів, журналювання дій, контроль подальшого використання та реагування на інциденти. Проте він відходить від хибного вибору між повним публічним випуском і повною відмовою від використання. Ризикованіші можливості можна спершу застосовувати у вузькому колі, де чіткіше визначені користувачі, мета й нагляд.

Чому одних обмежень у моделі недостатньо

Модельні запобіжники можуть послаблюватися або обходитися через альтернативні моделі, донавчання, викрадені облікові дані, інтеграції з інструментами чи розподілений процес, у якому різні люди або системи виконують окремі частини роботи. Отже, контроль доступу сам по собі не є повною стратегією біобезпеки.

У звіті RAND за 2026 рік прямо сказано: жоден окремий запобіжник не здатен зупинити зловживання ШІ для створення біологічної зброї. Організація визначила дев’ять втручань, що мають знижувати ризик на різних етапах потенційного сценарію атаки та для різних типів учасників.

Практичний висновок — поєднувати:

1. оцінювання моделей і пороги для їхнього розгортання;
2. пропорційні обмеження та програми доступу для перевірених користувачів;
3. верифікацію клієнтів, аудитованість і звітування там, де це доречно;
4. перевірку та нагляд за придбанням матеріалів;
5. сильніше виявлення спалахів, епіднагляд і спроможність системи охорони здоров’я реагувати.

Якщо один рівень захисту дає збій, інші можуть не дозволити ризику перетворитися на реальну шкоду.

Скринінг синтезу ДНК і РНК — важливий фізичний бар’єр

Ідеї, створені ШІ, ще потрібно втілити в матеріалах і лабораторній роботі. Саме тому синтез нуклеїнових кислот — ДНК і РНК — є важливою точкою втручання.

У поданні до запиту інформації Інституту безпеки ШІ США рекомендовано, зокрема, створювати бази даних послідовностей ДНК, РНК і білків, що можуть становити небезпеку. Такі бази можуть допомогти інструментам позначати потенційно шкідливі замовлення. 17 RAND також звертала увагу на американську рамку скринінгу синтезу нуклеїнових кислот і на галузеві практики перевірки комерційних замовлень біологічних матеріалів.

Дієва перевірка — це не лише список послідовностей. Вона може передбачати підтвердження особи та статусу замовника, ручний розгляд сумнівних замовлень, процедури ескалації та обмін інформацією відповідно до застосовного законодавства. Ці заходи не закриють усі ризики, але можуть ускладнити перетворення небезпечної цифрової допомоги на фізичну спроможність.

Біозахист: обмеження мають існувати поряд із корисними застосуваннями

Політичне завдання — не просто придушити використання ШІ в біології. Ті самі можливості, що створюють ризики подвійного призначення, можуть допомогти з епіднаглядом, діагностикою, розробкою медичних контрзаходів і мікробіологічною криміналістикою.

У 2026 році Двопартійна комісія з біозахисту при Atlantic Council визначила ШІ шістнадцятим технологічним пріоритетом у своїй програмі Apollo Program for Biodefense. Серед рекомендацій — інвестиції в епіднагляд і діагностику із застосуванням ШІ, медичні контрзаходи, атрибуцію походження біологічних загроз, оцінювання моделей і запобіжники, а також адаптивну реакцію системи громадського здоров’я.

Саме так варто розглядати ширшу дискусію: зменшувати можливості для зловживань, не втрачаючи потенціалу технології для медичних досліджень і кращої готовності до загроз.

Висновок

Публічних доказів того, що звичайні чатботи вже є готовим інструментом для створення біологічної зброї «під ключ», немає. Але лабораторії та політики орієнтуються не на цей вузький критерій. Вони готуються до ситуації, коли сильніші наукові моделі зможуть дати деяким користувачам вимірюване біологічне «підсилення».

Найсильніша відповідь — не суцільна заборона біології і не віра лише у відмови чатбота. Це пропорційний доступ, суворе тестування, точні запобіжники для запитів подвійного призначення та захист на фізичному й медико-санітарному рівнях, де небезпечні плани зрештою можуть бути реалізовані.