Claudeの悪用は何を示したのか――Anthropicの2026年脅威報告を読む

Anthropicは2026年9月10日、脅威インテリジェンス報告を公表した。同社によれば、2025年12月から2026年8月までの8カ月間に、Claudeを悪用しようとする活動を検知し、阻止したという。対象になったのはClaude Haiku、Sonnet、Opusで、サイバー作戦、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、不正なモデル蒸留の7分野にまたがる。16

ここで押さえるべきなのは、報告が記録しているのはAI支援を得ようとした試みであって、関係者が兵器・監視・生物関連の計画を現実世界で完成・運用したことの独立した裏付けではない点だ。Anthropic自身も、事例は典型的な利用状況の統計ではなく、注目すべきケースの紹介として位置付けている。16

何が問題視されたのか

報告の中心的な警告は、高度なAIモデルが悪意ある活動に必要な専門性、作業時間、人員を減らし得ることにある。公開された事例では、調査、ソフトウェア開発、標的に関する資料作成、作戦分析などへの支援が求められたとされる。116

兵器開発と監視への利用の試み

報道によると、開示事例には、自律型の一方向攻撃ドローン用ソフトウェア、ミサイル誘導航法、軍事用途に関する取り組みが含まれ、ロシア、イラン、中国、イエメンと結び付けられた主体が関与したとされる。1

また、WhatsAppやTelegram上でウイグル人を特定・標的化しようとする試みや、マリでの大規模な通信監視システムも例示された。こうした内容が示すのは、モデルの悪用がコード生成だけに限られず、調査、分類、分析、運用文書の作成にも及び得るという点だ。116

生物学的悪用の試み

Anthropicは、生物学的悪用に関する事例を5件特定した。このうち1件は、蚊が媒介するウイルスの感染拡大性を高めることに関係した試みだったと報じられている。1

同社は、Claudeが機微な依頼を拒否した後に、利用者の一部が競合するAIシステムを探したとも説明した。別のサービスで成功したことを示すものではないが、個々の提供事業者による拒否だけでは、行為者が代替手段を探す可能性まで消せないことを浮き彫りにしている。1

不正なモデル蒸留

別の重要な論点が、不正なモデル蒸留だ。これは、より高性能なモデルの出力を利用して別のモデルの学習に役立てる行為を指す。Anthropicは、Alibaba、Moonshot、DeepSeekを含む中国拠点の7研究所にキャンペーンを帰属させ、多数のアカウントや中継したプロンプトを使って、有用な出力や推論を得ようとしたと説明した。1

兵器や監視とは性質が異なるが、AI開発企業にとっては重大な問題だ。モデルへのアクセスが、独自開発に必要なコストを回避しつつ能力を再現するために利用されかねないためである。

どのClaudeモデルが対象だったのか

Anthropicによると、報告された悪用事例に関与したのはClaude Haiku、Sonnet、Opusだった。新しいFableおよびMythos系モデルは、モデル蒸留の1件を除き、開示された悪用事例には使われていなかったという。1216

したがって、「FableとMythosは報告内にまったく登場しない」とする理解は正確ではない。根拠が支持するのは、不正蒸留の例外を除けば、開示事例には使われなかったという限定的な結論だ。12

Anthropicの対応と、報告の限界

Anthropicは、該当する活動を妨害し、関連アカウントを停止したほか、防御策を強化し、必要に応じて当局や業界パートナーと情報を共有したとしている。16

ただし、これは自社プラットフォーム上で観測した活動についての企業報告でもある。何を検知し、どのように対応したかを知るうえで重要な資料ではあるが、各主体が意図した計画を完遂したことまで独立に確認するものではない。報告自体も、全ての悪用を代表する調査ではなく、注目すべき事例集という枠組みだ。16

「フロンティアのペーシング」につながった理由

報告公表の2日後、Anthropicのダリオ・アモデイCEOは論考「We Must Pace the Frontier」を発表した。主張は、AI企業が最先端モデルの能力を高める速度を意図的に抑え、アラインメント、安全策、検証の整備が追いつく時間を確保すべきだ、というものだ。25

これはモデル訓練や技術進歩の停止を求めるものではない。最初の具体策としてAnthropicは、第三者評価者に従業員相当の恒常的なシステムアクセスを提供し、安全対策の順守、インシデント、訓練中のアラインメントを評価できるようにする方針を示した。1825

さらにアモデイ氏は、企業内の外部監督、民主主義国の企業間協調、そして最終的にはより広い国際協調へと進む3段階の提案を打ち出した。2325

確認できること、確認できないこと

この報告から確認できるのは、Anthropicが、対象期間中に旧世代のClaudeモデルを悪用しようとする活動を7分野で検知・阻止したと述べていること、そして能力の向上と並行して安全対策を進化させる必要性を同社が具体例とともに示したことだ。16

一方で、報告が特定の米議会の動き、下院休会の終了、あるいは「超知能」を対象とする特定の立法禁止を直接引き起こしたことは、ここで利用できる資料からは確認できない。AI安全性をめぐる政治的圧力は存在し、アモデイ氏も能力と安全性の均衡を保つため政府が役割を果たすべきだと論じている。しかし、そうした個別の因果関係には別途の根拠が必要になる。2527

実務上の示唆は明確だ。AI悪用の防止は、モデルが危険なプロンプトを拒否するだけでは足りない。組織的な不正利用の監視、アカウント単位の回避行為や蒸留への対処、脅威情報の共有、能力が伸びる局面で信頼できる安全性評価を実施する仕組みが必要になる。1625