ОтветыОпубликовано13 источники
Как лаборатории ИИ снижают риск биологических угроз
Лаборатории передовых ИИ переходят от простых отказов чат бота к многоуровневой защите: оценивают, даёт ли модель существенное «усиление» опасных возможностей, ограничивают доступ и добавляют барьеры на физических эта... Anthropic сообщила, что сократила число избыточных ограничений на биологические запросы в Fable...
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Лаборатории передовых ИИ переходят от простых отказов чат бота к многоуровневой защите: оценивают, даёт ли модель существенное «усиление» опасных возможностей, ограничивают доступ и добавляют барьеры на физических эта...
- Anthropic сообщила, что сократила число избыточных ограничений на биологические запросы в Fable 5 примерно на 85%, но сохранила перенаправление запросов по вирусологии, токсикологии и молекулярному дизайну в менее спо...
- RAND в августе 2026 года указала, что одного контроля недостаточно, и предложила девять взаимодополняющих мер на разных этапах потенциальной ИИ поддерживаемой биологической атаки.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: How are OpenAI, Anthropic, Google DeepMind, and other frontier AI labs responding to the risk that increasingly capable scientific AI models. Article summary: Frontier labs are moving from simple chatbot refusals toward “defense in depth”: testing whether models materially help with harmful biological work, restricting or tiering access when they do, monitoring use, and suppor. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Вопрос не в «рецепте», а в измеримом усилении возможностей
Научные ИИ-модели могут ускорять исследования в биологии, медицине и разработке лекарств. Но по мере роста их способностей они теоретически способны снижать часть барьеров — по времени, специальным знаниям, отладке экспериментов и координации — для опасного химического или биологического злоупотребления.
Поэтому разработчики и регуляторы оценивают не только сценарий, в котором публичный чат-бот выдаёт готовую инструкцию по созданию биологического оружия. Ключевой вопрос — может ли модель существенно облегчить опасный проект на нескольких его этапах. В рабочей научной статье риск описывается именно как способность моделей проводить пользователя через технически сложные процессы, а не как результат одного запроса в чате.
Как выглядит формирующаяся система защиты
Единого универсального запрета не существует. Практика ведущих лабораторий всё больше напоминает «оборону в глубину» — несколько независимых барьеров, которые дополняют друг друга:
- Оценка возможностей моделей. Эксперты и команды, моделирующие злоупотребления, проверяют, превосходит ли помощь ИИ обычный доступ к учебникам, научным публикациям и поиску в интернете в действительно значимом отношении.
- Точные, а не сплошные ограничения. Высокорисковые запросы могут блокироваться, перенаправляться или обрабатываться с дополнительными условиями; при этом низкорисковые вопросы об образовании, здоровье и фундаментальной науке по возможности не должны попадать под запрет.
- Многоуровневый доступ. Наиболее чувствительные функции предоставляются не всем пользователям, а проверенным организациям в рамках определённых правил.
- Постоянная настройка защитных механизмов. Классификаторы и правила доступа пересматриваются, если они чрезмерно блокируют легитимные задачи или если сами модели становятся сильнее.
- Защита физических узких мест. Цифровая идея ещё должна превратиться в материалы и действия в лаборатории. Поэтому важны проверки заказов биологических материалов, эпиднадзор и готовность систем здравоохранения к реагированию.
Такой подход реалистичнее, чем попытка сделать поведение модели единственной линией обороны.
Пример Anthropic: меньше ложных срабатываний без снятия ограничений
Обновление биологических защит в модели Anthropic Fable 5 показывает, насколько непросто найти баланс. Компания заявила, что после настройки системы число перенаправлений биологических запросов на другую модель снизилось примерно на 85% во всех её продуктах. Это позволило Fable 5 помогать с более широким кругом биологических задач.
При этом запросы, которые компания относит к задачам двойного назначения, включая вирусологию, токсикологию и молекулярный дизайн, по-прежнему направляются в Opus 5 — менее способную для этих целей модель. По данным Anthropic, Fable 5 пока не предназначена для профессиональных биологических исследований и разработки лекарств в этих чувствительных категориях.
Суть здесь не в самом механизме перенаправления. Полный запрет на любые вопросы о биологии мешал бы обучению, интерпретации медицинской информации и рутинной научной работе. Но и предположение, будто любой биологический вопрос безопасен, оставляет опасные сценарии без внимания. Повышение точности фильтров — часть безопасности, а не отказ от неё.
Ограниченный доступ к более мощным системам
Anthropic также применяет режим ограниченного доступа к моделям класса Mythos. На странице Mythos сказано, что Mythos 5.1 улучшена в биологии и кибербезопасности, а доступ к ней остаётся у небольшой группы проверенных организаций. 1
При запуске Mythos 5 компания сообщала, что это та же базовая модель, что и Fable 5, но с частично снятыми ограничениями. На первом этапе она была доступна лишь небольшой группе специалистов по киберзащите и поставщиков инфраструктуры через Project Glasswing. 7
Такой режим сам по себе не отменяет риски: необходимы проверка пользователей, журналирование, контроль последующего применения и готовность реагировать на инциденты. Однако он предлагает альтернативу ложному выбору между полной публичной публикацией и полным отказом от использования: наиболее чувствительные возможности можно сначала применять в узкой, контролируемой среде.
Почему одних ограничений внутри модели недостаточно
Модельные фильтры могут быть обойдены или ослаблены через альтернативные модели, дообучение, украденные учётные данные, подключённые инструменты или распределённые процессы, где разные участники отвечают за разные задачи. Поэтому контроль доступа к ИИ не может быть исчерпывающей стратегией биобезопасности.
RAND прямо отмечает: ни одна отдельная мера не способна предотвратить использование ИИ для создания биологического оружия. В докладе организации выделены девять мер вмешательства, рассчитанных на разные этапы потенциальной атаки и разных участников.
На практике это означает сочетание следующих элементов:
- проверок возможностей моделей и порогов для их развёртывания;
- соразмерных ограничений и программ доверенного доступа;
- верификации клиентов, аудита и механизмов сообщения об инцидентах там, где это уместно;
- проверки и надзора при приобретении биологических материалов;
- усиления выявления вспышек, эпидемиологического надзора и потенциала общественного здравоохранения.
Если один барьер окажется слабым, другие могут не дать опасной цепочке завершиться.
Проверка заказов ДНК и РНК — важный физический барьер
Даже сгенерированные ИИ идеи должны быть воплощены в реальных материалах и лабораторной работе. Поэтому синтез нуклеиновых кислот — ДНК и РНК — рассматривается как один из ключевых этапов для вмешательства.
В материалах, представленных в ответ на запрос информации Национального института стандартов и технологий США, предлагается, в частности, использовать базы данных вызывающих обеспокоенность последовательностей ДНК, РНК и белков, чтобы инструменты могли отмечать потенциально опасные заказы. 17 RAND также указывает на американскую рамочную систему проверки заказов на синтез нуклеиновых кислот и отраслевые практики контроля коммерческих заказов биологических материалов.
Эффективная проверка — это не просто сверка со списком последовательностей. Она может включать подтверждение личности заказчика, ручной анализ сомнительных заявок, порядок эскалации и обмен информацией в пределах применимого законодательства. Такие меры не устраняют все риски, но осложняют превращение опасной вычислительной помощи в физическую возможность.
Биозащита: ограничения сочетают с полезным применением ИИ
Задача политики — не просто подавить биологический ИИ. Те же возможности, которые вызывают опасения из-за двойного назначения, могут быть полезны для мониторинга заболеваний, диагностики, разработки медицинских контрмер и микробиологической криминалистики.
В 2026 году двухпартийная Комиссия по биозащите при Atlantic Council включила ИИ как шестнадцатый технологический приоритет в программу Apollo Program for Biodefense. Среди рекомендаций — инвестиции в ИИ-системы эпиднадзора и диагностики, медицинские контрмеры, атрибуцию, оценку и защиту моделей, а также адаптивное реагирование общественного здравоохранения.
Именно так и стоит рассматривать проблему: сокращать возможности для злоупотребления, не теряя потенциал технологий для медицинских исследований и повышения готовности к угрозам.
Вывод
Нет публичных данных, которые позволяли бы считать обычные чат-боты готовым инструментом для создания биологического оружия «под ключ». Но лаборатории и регуляторы ориентируются не на этот крайний сценарий. Они готовятся к тому, что более сильные научные модели могут заметно снизить барьеры для некоторых пользователей.
Поэтому наиболее устойчивый ответ — не тотальный запрет биологии в ИИ и не надежда только на отказы чат-бота. Нужны соразмерный доступ, строгие испытания, точные ограничения для задач двойного назначения и барьеры на физическом уровне и уровне здравоохранения, где опасные планы должны превращаться в реальные действия.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Как лаборатории ИИ снижают риск биологических угроз»?
Лаборатории передовых ИИ переходят от простых отказов чат бота к многоуровневой защите: оценивают, даёт ли модель существенное «усиление» опасных возможностей, ограничивают доступ и добавляют барьеры на физических эта...
Какие ключевые моменты необходимо проверить в первую очередь?
Лаборатории передовых ИИ переходят от простых отказов чат бота к многоуровневой защите: оценивают, даёт ли модель существенное «усиление» опасных возможностей, ограничивают доступ и добавляют барьеры на физических эта... Anthropic сообщила, что сократила число избыточных ограничений на биологические запросы в Fable 5 примерно на 85%, но сохранила перенаправление запросов по вирусологии, токсикологии и молекулярному дизайну в менее спо...
Что мне делать дальше на практике?
RAND в августе 2026 года указала, что одного контроля недостаточно, и предложила девять взаимодополняющих мер на разных этапах потенциальной ИИ поддерживаемой биологической атаки.