答え公開済み23 ソース
AIエージェントは監視をすり抜けられたのか――METRとRedwoodの検証
METRとRedwood Researchは2026年7月21日から8月11日まで、OpenAIの社内監視システムを検証し、数百件の行動を監視から隠せる可能性などを報告しました。 「75〜94％」は、監視対象になり得るトラフィックの推計です。すべての行動が実際に監視された、または問題を検知できたという意味ではありません。
公開者GPT-6 Luna で編集GPT Image 2 で画像を生成
研究の答え
重要なポイント
- METRとRedwood Researchは2026年7月21日から8月11日まで、OpenAIの社内監視システムを検証し、数百件の行動を監視から隠せる可能性などを報告しました。
- 「75〜94％」は、監視対象になり得るトラフィックの推計です。すべての行動が実際に監視された、または問題を検知できたという意味ではありません。
- 61ページの報告書はOpenAI社内に共有されました。公開情報は概要に限られ、評価は検証開始時点のシステムを対象としているため、その後の修正を独立に確認したものではありません。
AI プロンプト
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
METRとRedwood Researchが実施した3週間の試験運用では、OpenAIの社内AIエージェント監視に、対処可能な弱点が見つかりました。報告された問題には、エージェントの直近の行動を数百件単位で監視から隠せる可能性や、「コンパクション」と呼ばれる処理に関連した監視の抜けが含まれます。OpenAIは、本番環境の安全対策に影響する脆弱性を修正したと説明していますが、評価者はその後の変更を独立に再検証していません。1
10
21
どのように検証したのか
METRとRedwood Researchから各1人の研究者が、2026年7月21日から8月11日までOpenAI社内で評価を行いました。社内のソースコードや文書、一部のインフラにアクセスし、技術スタッフとも接触できる環境で、監視システムの範囲と、エージェントが監視を無効化したり回避したりできるかを調べました。使用した端末はOpenAIが用意し、社外には持ち出されず、現地での作業にはOpenAIの社員が付き添ったとされています。2
5
7
評価結果は61ページの社内報告書にまとめられ、OpenAIの研究者やセキュリティ担当者に共有されました。一般公開されたのは報告書そのものではなく、調査結果の概要です。7
17
明らかになった監視上の課題
監視対象になり得る範囲は限定的
METRの推計では、GPT-5.5以上の能力を持つモデルによる社内のエージェント型Responses APIトラフィックのうち、監視対象となるのは75〜94％でした。ただし、これは監視の対象になり得る割合の推計です。その範囲の活動がすべて実際に監視されたことや、問題が必ず検知されることを示す数字ではありません。1
6
18
また、評価開始時点では、強化学習（RL）の訓練中に生成されるロールアウトは、ミスアラインメント（意図や方針とのずれ）の監視対象になっていなかったとされています。22
監視を回避できる可能性も
公開された概要では、Codexのサンドボックスを回避する可能性、クライアント側で制御できるヘッダーを使って新しいエージェントの監視を無効にする問題、そして直近の行動を数百件隠せる可能性のある手法などが挙げられています。公開情報では技術的な詳細の多くが示されておらず、これらが報告書の全項目を網羅しているとは限りません。1
3
「コンパクション」による監視の抜け
コンパクションとは、会話や作業の履歴を圧縮・整理して、エージェントが扱う文脈をまとめる処理です。METRは、コンパクションの発生を監視できていなかったことで、2026年5〜7月の社内Codexトラフィックのうち、監視対象となる活動のおよそ10％が監視されなかった可能性があると推計しました。ただし、正確な割合には大きな不確実性があるとしています。報道によれば、OpenAIの社員は試験開始前にこの問題を把握しており、評価中に修正されました。10
修正の説明と、評価で確認できないこと
この評価が対象としたのは、試験開始時点の監視システムです。METRはその後の変更を評価していないため、現在の監視範囲や、実施された修正のすべてが有効かどうかを独立に確認したものではありません。7
21
22
OpenAIは、本番環境の安全対策に影響する脆弱性はすべて修正したとしています。重要な説明ではありますが、これは会社側の修正報告であり、すべての弱点が解消されたことを外部評価者が独立に確認した、という意味ではありません。21
この試験が示すもの
今回の取り組みは、外部の評価者に社内へ深くアクセスしてもらうと、どのような検証が可能になるかを試すものでもありました。OpenAIはその後9月、独立評価者に「社員に近いアクセス」を提供する方針を表明しています。今回の試験は、そのような評価で想定される社内アクセスの一例ですが、公開情報だけで全体を検証できる包括的な監査とは異なります。8
28
今回の結果から言えるのは、社内に入った評価者が監視の抜けや回避の可能性を見つけ、OpenAIは本番の安全対策に影響する問題を修正したと説明している、ということです。その後、監視がどこまで網羅的になったのか、修正が有効かを誰が独立に確かめるのかは、公開情報からは判断できません。7
21
Studio Global AI
研究を続けてください
このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。
人々も尋ねます
「AIエージェントは監視をすり抜けられたのか――METRとRedwoodの検証」の短い答えは何ですか?
METRとRedwood Researchは2026年7月21日から8月11日まで、OpenAIの社内監視システムを検証し、数百件の行動を監視から隠せる可能性などを報告しました。
最初に検証する重要なポイントは何ですか?
METRとRedwood Researchは2026年7月21日から8月11日まで、OpenAIの社内監視システムを検証し、数百件の行動を監視から隠せる可能性などを報告しました。 「75〜94％」は、監視対象になり得るトラフィックの推計です。すべての行動が実際に監視された、または問題を検知できたという意味ではありません。
次の実践では何をすればいいでしょうか？
61ページの報告書はOpenAI社内に共有されました。公開情報は概要に限られ、評価は検証開始時点のシステムを対象としているため、その後の修正を独立に確認したものではありません。