OpenAI、GPT-5.6の脆弱性を自己対戦AIで発見——「GPT-Red」というシステムは存在しない

GPT-5.6に対する70万GPU時間のブラックボックステスト

GPT-5.6が一般提供される前、OpenAIはこれまでで最も大規模な評価期間を実施しました。GPT-5.6プレビューシステムカードには、次のように記されています。「我々はまた、70万時間以上のA100e GPU時間を、汎用的な脱獄方法やその他の脆弱性を自動的に発見するために費やしました」。この自動テストは、数週間にわたる人間によるレッドチーミングや外部ドメイン専門家による評価を補完するものです。

同社はこの大規模な計算リソースを、限定的な障害ではなく、システム全体にわたる汎用的な脱獄手法を探すことに投入しました。自動レッドチーミングは、デプロイ後も継続的に実行されるように設計されており、新たな脱獄方法が報告されるたびに、再現、緩和、再テストが行われます。

GPT-5.6のリスク評価：「High」だが「Critical」は未達

OpenAIのPreparedness Framework（準備フレームワーク）のもと、GPT-5.6の3つのバリアント—Sol（旗艦モデル）、Terra（低コストモデル）、Luna（最速モデル）—はすべて、サイバーセキュリティと生物・化学リスクの両方において「High」能力と分類されています。これは、より小型で低価格のモデルでさえ、これらのカテゴリーで初めてHighの閾値を超えたことを意味します。

しかし、いずれのモデルも「Critical」の閾値には達しませんでした。内部のサイバーセキュリティテストでは、GPT-5.6 SolとTerraは脆弱性を特定し、その悪用手法の断片を見つけることはできましたが、完全なエンドツーエンドの攻撃を自律的に実行することはできませんでした。AIの自己改善に関しては、いずれのモデルもHighの閾値に達しませんでした。

多層防御の安全性スタック

GPT-5.6には、OpenAIが「これまでで最も堅牢な安全対策」と説明するシステムが搭載されています。その安全アーキテクチャには以下が含まれます。

• 組み込みのモデルレベル拒否機能 — 高リスクリクエストに対するもの。
• リアルタイム活性化分類器 — 推論中に内部の神経信号を監視し、高リスクパターンが検出された場合に生成を一時停止する。
• サイバーおよび生物学悪用のためのリアルタイム分類器。
• アカウントレベルのレビューと差別化アクセス制御。

この多層アプローチは、単一の安全対策では十分ではないというOpenAIの結論を反映しています。

自動レッドチーミング（ART）研究員の役割

OpenAIは、自動レッドチーミングの内部能力を積極的に構築しています。同社は現在、自動レッドチーミングの研究員（推定基本給与29万5,000〜44万5,000ドル）を募集しており、その役割は「自動レッドチーミング（ART）の取り組みを主導し、AIモデルと安全対策の障害モードを発見するためのスケーラブルなシステム構築に注力する」ことです。また、バイオセーフティレッドチーミングスペシャリスト（15万8,000〜32万ドル）も募集しており、バイオセーフティおよびCBRN（化学・生物・放射性・核）のレッドチーミングを主導する役割を担います。

50万ドルのKaggleチャレンジ

OpenAIは、オープンウェイトモデルgpt-oss-120bとgpt-oss-20bを対象に、賞金総額50万ドルのKaggle上でのレッドチーミングチャレンジを主催しました。このコンペティションは、これまで特定されていなかった新たな脆弱性を発見するよう参加者にインセンティブを与えるものです。本分析において、50万ドルという具体的な金額とチャレンジの詳細はOpenAI公式ソースからは独立して検証できませんでしたが、TechPolicy.Pressなどのサードパーティ報道がコンペティションの存在を確認しています。GPT-5.6のシステムカードは、Kaggleコンペティションでモデルを評価する「MLE-Bench Revised」に言及していますが、50万ドルの賞金については直接言及していません。

規制の文脈と不確実性

利用可能なエビデンスは、GPT-5.6が多層の安全性スタックとともにリリースされ、OpenAI独自の準備フレームワークがモデルを分類したことを確認しています。サードパーティの報道は、米国政府が「ゲートキーピング」の文脈で関与しており、最も高性能なモデルへのアクセスに影響を与える可能性があると指摘しています。しかし、クロールされた一次情報源には、英国AI安全研究所（UK AI Safety Institute）や特定の米国政府の規制措置についての直接的な言及は見られませんでした。OpenAI自身のシステムカード文書は安全性の分類を扱っていますが、自社のPreparedness Frameworkを超えた外部の規制監視の詳細については述べていません。