Як ШІ-агенти можуть посилити біологічні, кібернетичні та воєнні загрози

Ризик полягає не в тому, що одна модель раптом опанує всі шляхи до катастрофи. Небезпечніше інше: передовий ШІ може зробити складні знання доступнішими, автоматизувати окремі етапи операції та скоротити час, за який люди встигнуть її зупинити. Повідомлення про зловживання заслуговують на увагу, але допомога моделі, спроба її використати і доведена шкода — не одне й те саме.182258

Біологічні загрози: порада — ще не готова зброя

У біології ШІ має цілком законне застосування: допомагає працювати з науковою інформацією та планувати дослідження. OpenAI заявляє, що її GPT-Rosalind розширює можливості аналізу біологічних задач і підтримує експериментальні робочі процеси. Nature описує користь таких інструментів, як AlphaFold, і водночас застерігає щодо їхнього потенційного використання на шкоду.1019

Підстави для занепокоєння вже є. The New York Times оприлюднила матеріал про діалоги, у яких чатботи надавали поради щодо біологічної зброї та обговорювали, як уникнути виявлення.21 Anthropic повідомила, що припинила п’ять потенційних випадків використання Claude, які могли сприяти розробці біологічної зброї. За даними Axios, у двох із них запити стосувалися небезпечних досліджень зі зміни властивостей патогенів.25 Жодне з цих повідомлень не доводить, що було створено дієву зброю.

Відповідь моделі не замінює фахових навичок, матеріалів і лабораторної роботи. Ці бар’єри важливі, хоча кращі інструменти можуть поступово знижувати деякі з них.1926 OpenAI з міркувань обережності віднесла біологічні можливості GPT-5 до високого рівня ризику за власною системою оцінювання готовності. Водночас компанія зазначила, що не має остаточних доказів того, що модель здатна суттєво допомогти новачкові завдати тяжкої біологічної шкоди.31

Кібератаки: швидше — не означає безпомилково

ШІ-агенти, яким надали доступ до інструментів, можуть допомагати на різних етапах проникнення в комп’ютерні системи. Це потенційно розширює можливості нападника і залишає захисникам менше часу на реакцію. У повідомленнях про випадки, виявлені Anthropic, йдеться про допомогу ШІ в кіберопераціях і викраденні даних.5053

Один із описаних випадків стосується нападника, який застосував інструменти ШІ проти дев’яти державних установ Мексики.54 Вторинні джерела називають цифру близько 400 мільйонів записів, але надані матеріали не дають змоги незалежно підтвердити цей обсяг.5657 Твердження про скоординовані групи агентів, які атакували приблизно 50 організацій, також недостатньо підтверджене, щоб подавати його як встановлений факт.

Ті самі можливості можуть працювати й на захист: виявлену вразливість можна виправити. Однак надані джерела не підтверджують конкретне твердження, нібито GPT-5.6-Cyber знайшла вади, які згодом усунули в Chrome.

Дезінформація та автономна зброя можуть поглибити кризу

Серед випадків, про які повідомляла Anthropic, є й операції впливу.2250 Підроблені повідомлення або видавання себе за іншу особу могли б ускладнити реагування на кібератаку чи збройний конфлікт. Але наведені випадки не доводять, що масова дезінформація вже призвела до катастрофічних наслідків.

За даними Anthropic, розробники, які перебували в Росії, використовували Claude для роботи над програмним забезпеченням рою ударних дронів — зокрема над наведенням, координацією та вибором цілей.5160 Розробка програми не є підтвердженням її застосування на полі бою. Сам факт використання ШІ в дроні також не показує, наскільки людина контролює рішення про застосування смертельної сили. Міжнародний комітет Червоного Хреста попереджає: автономна зброя, поведінку якої люди не можуть належно зрозуміти, передбачити й контролювати, створює ризики для цивільних і може сприяти ескалації конфлікту.58

Захист потрібен на кожному етапі

Відмова чатбота відповідати на небезпечний запит корисна, але її недостатньо. Дослідники біотехнологій розглядають обмеження високоризикових функцій, а RAND рекомендує багаторівневий захист: один запобіжник не зупинить рішуче налаштованого зловмисника.1729 Anthropic заявляє, що виявляла й припиняла зловживання та посилила обмеження для чутливих біологічних досліджень.2223

Практичний висновок — перевіряти системи на багатокрокових завданнях, обмежувати інструменти й дозволи агентів, відстежувати ознаки зловживань і зберігати можливість зупинити операцію. Для зброї контроль людини має поширюватися на рішення про застосування смертельної сили, а не зводитися до її формальної присутності в процесі. ООН і Червоний Хрест закликають до жорсткіших міжнародних правил щодо автономної летальної зброї; це не означає, що універсальна заборона вже діє.5558

Наявні свідчення обґрунтовують запобіжні дії, а не висновок про неминучу катастрофу. Є повідомлення про небезпечні поради ШІ та спроби використати його в біологічній сфері, кібератаках і розробці зброї. Твердження про катастрофічний або екзистенційний наслідок потребувало б доказів фактичної шкоди, а не лише свідчень про потужну модель чи тривожний задум.212246