AIはハッキングをどう変えたのか――「自律型」への移行を3社の脅威報告から読む

AIがサイバー攻撃を一変させた、というより正確なのは、既存の攻撃手口を、反復可能な複数段階の工程としてつなげたということです。モデルは攻撃者の偵察、文面・コードの生成、試験、修正、拡大を支援でき、専門人材や手作業にかかる時間を減らします。ただし、現時点で強く裏付けられているのは、従来型の攻撃をAIが高速化・連携させる実態であり、人の有意な指示なしに完結する完全自律型侵入が広く定着した、という結論ではありません。107

「補助ツール」から、つながった実行工程へ

Googleの脅威追跡では、単発のプロンプト利用から、複数の作業を統合したエージェント型ワークフローへの移行が示されました。脆弱性のスキャン、認証情報の収集、トラブルシューティング、インフラの切り替えといった工程を連結すれば、従来は複数のツールや担当者を要した攻撃を、短いサイクルで繰り返せます。11

ただし、これを「AIが独力で攻撃を完遂する時代」と読み替えるのは早計です。Microsoftは、確認された悪用の多くが、テキスト・コード・メディアの生成に集中していると評価しています。具体的には、フィッシング誘導文の作成、翻訳、盗出データの要約、マルウェアの生成・デバッグ、スクリプトやインフラの下準備などです。10

国家関連グループと犯罪者の事例が示すもの

Anthropicは、ロシア、中国、イランに関連するとされる活動のほか、金銭目的のグループによるClaudeの悪用を検知・阻止したと報告しました。対象領域はサイバー作戦だけでなく、影響工作、監視、詐欺、生物学的悪用、通常兵器関連、モデル蒸留に及びます。Reutersは、ウクライナ当局者を標的としたロシア関連とされる作戦や、中国のAI企業によるClaudeの不正利用に関するAnthropicの主張を報じています。もっとも、これらは企業による帰属判断と個別事例であり、脅威活動全体の規模を示す統計ではありません。724

エージェント型利用の実務的な危険性は、単発の悪意ある質問ではなく、生成→検証→修正→展開というフィードバックループにあります。Anthropicが報告した事例は、セキュリティ製品に検知されたコードを改変・再構築させることや、盗んだ認証情報・APIキーを低コストの計算資源として利用することが、攻撃の試行回数と速度を押し上げ得ることを示します。87

ShinyHuntersの関連事例も、AI時代の攻撃が必ずしも新種の侵入手法ではないことを示しています。Microsoftは、ShinyHunters、Helix、関連する恐喝グループに結び付く攻撃者が、企業のMicrosoft 365アカウントを狙い、パスキーやシングルサインオン（SSO）を題材にしたソーシャルエンジニアリングを行ったとしました。報告された流れは、事前偵察の後にITサポート担当者を装ってアクセスを得て、クラウド上のデータを盗むものです。標的に合わせた誘導と大量の偽装素材で効率化され得る一方、AIが侵入全体を独力で実行した証拠ではありません。3

フィッシングと偽装は、安く速く、見分けにくくなる

AIによるブランドなりすましも同じ構図です。もっともらしいサポートページ、フィッシングメール、チャットでの応対、多言語版、音声・画像の模倣素材を、低い追加コストで作成・更新できます。防御側は、既知の文面テンプレートや不自然な文法を手掛かりにする検知だけでは対処しにくくなります。Microsoftも、フィッシング誘導文の作成と翻訳でのAI利用を観測しています。10

このためAIは、文章作成、ローカライズ、調査、コード支援、欺瞞の反復にかかる限界費用を下げます。資金や人員の少ない犯罪者・ハクティビストでも、従来なら大規模な組織が持っていた能力の一部を利用しやすくなります。これは「AI利用攻撃は必ず成功する」という意味ではなく、攻撃側の速度と量に対して防御側が不利になりやすい、という非対称性を意味します。610

GeminiやClaudeを狙う「モデル蒸留」も攻撃面になる

脅威の対象は、企業ネットワークや利用者だけではありません。Googleは、Geminiを体系的に照会して独自能力を抽出しようとする行為を、モデル抽出、または「蒸留」攻撃として位置付けています。これは通常のサイバー犯罪というより、知的財産とAI能力の保護に関わる問題です。11

公開報道では、非常に大量のプロンプトを使うキャンペーンも伝えられています。防御上妥当な理解は、攻撃者がAPI経由の反復照会によって最先端モデルの有用な振る舞いを再現しようとする一方、提供者側は不正な照会パターンを特定し、モデルの能力や安全策を守ろうとしている、というものです。118

Anthropicも、DeepSeek、Moonshot、MiniMaxの3つのAI研究所による、Claudeの能力を不正に抽出しようとする産業規模のキャンペーンを確認したとしています。7

問われるのはフィッシング対策だけではない

Anthropicの報告は、サイバー作戦に加え、生物兵器の開発を支援し得る用途や通常兵器開発に関する悪用の試みも扱っています。そのため、責任あるAIをめぐる論点は、メール対策だけにとどまりません。不正利用の監視、アカウント・APIの管理、レート制限、モデル抽出の検知、インシデント情報の共有、高リスク領域における安全策が、同じ問題の一部として問われています。162

重要な留保もあります。これらの報告書は、各社が検知し、阻止した事例を記録したものです。AI悪用の能力と新たな運用パターンを示す有力な証拠ではあるものの、自律型攻撃がすでにサイバー犯罪の主流になったことまでを、それだけで証明するものではありません。7