Отчёт Anthropic о злоупотреблениях Claude: что он показал

Anthropic в сентябрьском отчёте по анализу угроз описала злоупотребления Claude, которые, по словам компании, её команда выявила и пресекла за восемь месяцев. Главный вывод отчёта не в том, что ИИ создал принципиально новые виды угроз. Скорее, модели способны всё заметнее помогать организовывать отдельные этапы вредоносных операций, на которые прежде требовалось больше специализированных навыков, времени и людей. 13

Семь направлений злоупотреблений

Отчёт охватывает активность, пресечённую в период с декабря 2025 года по август 2026 года, в семи категориях: кибероперации, операции влияния, слежка, мошенничество и аферы, биологические злоупотребления, разработка обычных вооружений и незаконная дистилляция моделей — то есть попытки воспроизвести их возможности. 15

По данным Anthropic, компания пресекла 39 отдельных случаев. В них использовались Claude Haiku, Sonnet и Opus. Модели класса Fable и Mythos в этих эпизодах не фигурировали, кроме одного случая незаконной дистилляции. 35

Среди участников, которых компания связывает с этими случаями, названы предполагаемые спонсируемые государствами группы, финансово мотивированные преступники, поставщики шпионского ПО, структуры, занимающиеся пропагандой, и политически мотивированные активисты. Это важно потому, что проблема выходит далеко за пределы привычной киберпреступности. 1

Кибероперации: от помощи к координации

Наиболее тревожная часть отчёта касается роста самостоятельности ИИ в кибероперациях. Anthropic описывает использование моделей не только для объяснения кода или подготовки текстов, но и для планирования рабочих процессов, разведки, обработки похищенной информации, а также поддержки взломов и вымогательства. 1

В качестве иллюстрации компания приводит активность, которую она атрибутировала Midnight Blizzard, и эпизоды, связанные с предполагаемыми аффилированными с ShinyHunters лицами. Anthropic связала использование Claude с вторжениями, затронувшими украинские, европейские и связанные с цепочками поставок дронов цели, а также с предполагаемой массовой кражей данных платёжных карт и пассажиров. Однако эти наименования групп и выводы об операциях являются оценками самой Anthropic, а не независимым доказательством личности всех участников или итогов каждого эпизода. 1

Практический смысл здесь прост: ИИ может сократить время и организационные издержки атаки. Он не отменяет потребность в доступе к системам, инфраструктуре, человеческом решении и намерении причинить вред, но способен облегчить сборку и ведение сложных рабочих процессов.

Биологические риски: опасные запросы — ещё не созданное оружие

Anthropic также сообщила о попытках получить помощь по темам, связанным с исследованиями усиления функций вируса чикунгунья, адаптацией высокопатогенного птичьего гриппа к млекопитающим и исследованиями живых ортопоксвирусов. Это чувствительные области исследований двойного назначения: законные научные вопросы в них могут пересекаться со знаниями, которые возможно применить во вред. 1

Здесь принципиально важно не путать запрос на содействие с реализованной биологической программой. Отчёт говорит о попытках злоупотребления, которые Anthropic, по её утверждению, остановила; он не подтверждает создание биологического оружия или проведение описанных исследований. 1

Как, по словам компании, она реагировала

Anthropic заявила, что усилила защитные механизмы, заблокировала аккаунты, нарушила работу связанной инфраструктуры и передала индикаторы угроз и извлечённые уроки профильным технологическим компаниям и государственным органам. Кроме того, компания сообщила о публикации индикаторов компрометации, чтобы защитники могли выявлять связанную активность. 1

Это отражает меняющуюся роль разработчиков ИИ: они не только создают модели, но и отслеживают возможные злоупотребления, решают вопрос об отключении доступа и координируют действия с внешними участниками защиты.

Что этот отчёт показывает — и чего не показывает

Отчёт ценен как сборник конкретных инцидентов, которые Anthropic заявляет, что обнаружила. Но это не исследование распространённости злоупотреблений ИИ в интернете или у других поставщиков моделей. Набор выявленных и пресечённых случаев не позволяет установить, насколько часто встречается каждый тип злоупотреблений, сколько эпизодов осталось незамеченными и изменил ли ИИ конечный результат каждой операции. 13

Это ограничение важно для дискуссии о регулировании. Компаниям нужна возможность быстро пресекать достоверные угрозы, особенно в кибербезопасности и биологии. Но решения о мониторинге, ограничении доступа, блокировке аккаунтов и раскрытии информации затрагивают также приватность, надлежащую процедуру и общественную подотчётность. Поэтому отчёт усиливает аргумент в пользу ясных правил, содержательного внешнего контроля и координации, при которой решения с высокими ставками не остаются исключительно в руках одной компании.

Главное

Отчёт Anthropic фиксирует широкий спектр попыток злоупотребления Claude: от кибервторжений, мошенничества и слежки до работ, связанных с оружием, и чувствительных биологических запросов. Его центральное предупреждение состоит в том, что ИИ может помочь злоумышленникам организовывать больше этапов операции при меньших ресурсах. Но выводы отчёта ограничены его рамками: речь идёт о выявленных и пресечённых эпизодах, а не о полной картине всех ИИ-угроз. 13