studio
global Ask Studio Global AI

答え公開済み4 か月前Last edited 3 か月前19 ソース

最先端AIモデルは「マルチターン攻撃」に無防備──Ciscoが警鐘を鳴らす脆弱性と5つの攻撃戦略

Ciscoは2026年5月、15のクローズド最先端モデルと8のオープンウェイトモデルに対し、単一ターンとマルチターンの両方の攻撃テストを実施し、『Proprietary Problems』および『Death by a Thousand Prompts』として報告書を公開した。核心的発見：「マルチターン（複数回の会話の積み重ね）による反復攻撃」に対して安全なフロンティアAIモデルは一つも存在せず、単一ターンの安全性ベンチマークは現実の脆弱性を測る指標として不十分である。

公開者DeepSeek-V4-Pro で編集GPT Image 1.5 で画像を生成

Studio Global AIで検索して事実確認さらにトレンドページを見る

研究の答え

重要なポイント

Ciscoは2026年5月、15のクローズド最先端モデルと8のオープンウェイトモデルに対し、単一ターンとマルチターンの両方の攻撃テストを実施し、『Proprietary Problems』および『Death by a Thousand Prompts』として報告書を公開した。
核心的発見：「マルチターン（複数回の会話の積み重ね）による反復攻撃」に対して安全なフロンティアAIモデルは一つも存在せず、単一ターンの安全性ベンチマークは現実の脆弱性を測る指標として不十分である。
[4][8][10] マルチターン攻撃成功率（ASR）はクローズドモデル群で7.89%から88.30%に達し、同一モデルの単一ターンASR（2.19%～64.91%）を大きく上回った。
[10] xAIのGrok 4.1 Fast（非推論モード）が最も脆弱で、マルチターンASRは88.30%に達した。

Conceptual AI-generated illustration symbolizing a frontier AI model under persistent multi-turn adversarial attack, with layered prompts chipping away at a digital shield. — Which frontier AI models are most vulnerable to multi-turn adversarial attacks, what attack strategy families were identified, and what recoCisco's adversarial testing reveals that even the most advanced AI safety shields can be eroded by iterative, multi-turn conversational attacks.
AI プロンプト
Create a landscape editorial hero image for this Studio Global article: Which frontier AI models are most vulnerable to multi-turn adversarial attacks, what attack strategy families were identified, and what reco. Article summary: Cisco's May 2026 research, published as *Proprietary Problems* with a companion open-weight study *Death by a Thousand Prompts*, tested 15 closed flagship models and eight open-weight models against both single-turn and . Topic tags: general, academic, general web. Reference image context from search candidates: Reference image 1: visual subject "### Cisco report finds no closed frontier AI model is safe from multi-turn attacks. A new report out today from Cisco Systems Inc. argues that none of the closed flagship large lan" source context "Cisco report finds no closed frontier AI model is safe from multi-turn attacks - SiliconANGLE" Reference image 2: visual s
openai.com

Ciscoが2026年5月に発表した『Proprietary Problems』、およびそれに先立つオープンウェイトモデルを対象とした調査『Death by a Thousand Prompts』は、生成AI業界に激震をもたらしました。15のクローズドな最先端モデルと8つのオープンウェイトモデルに対し、たった1回のプロンプト（単一ターン）と、会話を重ねる「マルチターン（複数回）」の両方で攻撃テストを実施。結果は衝撃的で、「マルチターンの反復攻撃に対して安全なフロンティアAIモデルは存在しない」 というものでした。

Studio Global AI

研究を続けてください

このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。

Studio Global AIで検索して事実確認

人々も尋ねます

「最先端AIモデルは「マルチターン攻撃」に無防備──Ciscoが警鐘を鳴らす脆弱性と5つの攻撃戦略」の短い答えは何ですか?

Ciscoは2026年5月、15のクローズド最先端モデルと8のオープンウェイトモデルに対し、単一ターンとマルチターンの両方の攻撃テストを実施し、『Proprietary Problems』および『Death by a Thousand Prompts』として報告書を公開した。

最初に検証する重要なポイントは何ですか?

Ciscoは2026年5月、15のクローズド最先端モデルと8のオープンウェイトモデルに対し、単一ターンとマルチターンの両方の攻撃テストを実施し、『Proprietary Problems』および『Death by a Thousand Prompts』として報告書を公開した。核心的発見：「マルチターン（複数回の会話の積み重ね）による反復攻撃」に対して安全なフロンティアAIモデルは一つも存在せず、単一ターンの安全性ベンチマークは現実の脆弱性を測る指標として不十分である。

次の実践では何をすればいいでしょうか？

[4][8][10] マルチターン攻撃成功率（ASR）はクローズドモデル群で7.89%から88.30%に達し、同一モデルの単一ターンASR（2.19%～64.91%）を大きく上回った。

情報源

単一ターンASRを安全の代用指標とすることを拒否する
単一ターンのベンチマークだけでモデルをランク付けすることは、実際のリスクを見誤り、「安全なモデル」と「危険なモデル」を取り違える 重大な誤判断につながります。評価には、現実の攻撃者のように適応してくる「マルチターンで適応的な攻撃テスト」を必ず含めるべきです。
マルチターン評価を標準業務として採用する
AI調達や導入を検討するバイヤーや規制当局は、「このモデルは反復的で適応的な攻撃にどこまで耐えられるのか？」を問うべきです。
文脈を理解するガードレールとリアルタイム監視を導入する
静的なモデルの安全性に頼るだけでは不十分です。異常な会話パターンや、安全境界を探るような挙動をリアルタイムで検知する仕組みが不可欠です。
定期的で、会話の継続を前提としたレッドチーミングを実施する
単発のジェイルブレイク（脱獄）試行だけでなく、人間同士の長い会話を模した反復的な攻撃演習を、社内または専門家と実施すべきです。
敵対的トレーニングの適用
最初の1ターンだけでなく、会話が継続しても安全性を維持できるように、モデルの堅牢性を高める学習が有効です。
多層防御を構築する
単一の防御策で十分な対策はできません。モデル自体のアライメント（価値観調整）、入出力フィルター、不審な挙動の監視、そして最終的な「人間の目による監視」を組み合わせる必要があります。
開発企業の「アライメント哲学」を見極める
GoogleのGemmaのように安全性を公に重視するラボのモデルは、単一ターンとマルチターンのギャップが比較的狭い傾向がありました。一方、MetaのLlamaやxAIのGrokのように「能力優先」で設計されたモデルは、そのギャップが大きくなる傾向が見られました。モデル選定の際は、この開発思想を考慮する必要があるとCiscoはアドバイスしています。
構造化された評価ツールを活用する
CiscoがLLM Security Leaderboardの一部として公開している「AI Validation プラットフォーム」のような専用ツールを使い、導入前にマルチターンのリスクスコアを比較可能な形で再現し、評価することが推奨されます。