AntwortenVeröffentlicht23 Quellen
METR und Redwood fanden Schwachstellen in OpenAIs Agentenüberwachung
Bei einem dreiwöchigen Pilot Test vom 21. Juli bis 11. Die Schätzung von 75 bis 94 Prozent bezog sich darauf, welcher interne agentische Responses API Verkehr für eine Überwachung infrage kam.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Bei einem dreiwöchigen Pilot Test vom 21. Juli bis 11.
- Die Schätzung von 75 bis 94 Prozent bezog sich darauf, welcher interne agentische Responses API Verkehr für eine Überwachung infrage kam.
- Der vollständige 61 seitige Bericht ging an OpenAI; öffentlich wurden nur zusammenfassende Ergebnisse vorgestellt.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Ein dreiwöchiger Pilot-Test von METR und Redwood Research hat Schwachstellen in OpenAIs internem Monitoring für KI-Agenten offengelegt. Unter anderem fanden die Prüfer einen möglichen Weg, Hunderte Aktionen eines Agenten vor dem Überwachungssystem zu verbergen. Außerdem gab es eine Lücke im Zusammenhang mit sogenannten Compaction-Ereignissen. OpenAI erklärte, Schwachstellen mit Auswirkungen auf die Schutzmechanismen im Produktivbetrieb behoben zu haben. Die Prüfer untersuchten spätere Änderungen jedoch nicht unabhängig. 1
10
21
So lief die Prüfung ab
Vom 21. Juli bis zum 11. August 2026 arbeiteten je eine Person von METR und Redwood Research vor Ort bei OpenAI. Sie sollten das interne System darauf testen, ob es Fehlverhalten von KI-Agenten erkennen kann – und ob Agenten die Überwachung umgehen oder außer Kraft setzen könnten. Die Prüfer erhielten Zugang zu Quellcode, Dokumentation, Teilen der internen Infrastruktur und technischen Mitarbeitenden. Sie nutzten von OpenAI bereitgestellte Geräte, die auf dem Firmengelände blieben; OpenAI-Mitarbeitende begleiteten ihre Arbeit vor Ort. 2
5
7
Das Ergebnis war ein interner Bericht mit 61 Seiten, der mit Forschenden und Sicherheitsteams von OpenAI geteilt wurde. Öffentlich machten METR und Redwood nur eine Zusammenfassung der Befunde, nicht den vollständigen Bericht. 7
17
Die wichtigsten Befunde
Nicht der gesamte relevante Verkehr war für Monitoring vorgesehen
METR schätzte, dass 75 bis 94 Prozent des internen agentischen Verkehrs über die Responses API von Modellen mindestens auf dem Leistungsniveau von GPT-5.5 für eine Überwachung infrage kamen. Diese Spanne beschreibt die geschätzte Eignung für Monitoring – sie bedeutet nicht, dass jede dieser Aktivitäten tatsächlich überwacht oder jedes Problem erkannt wurde. 1
6
18
Zu Beginn der Prüfung wurden außerdem Rollouts aus dem Reinforcement-Learning-Training nicht auf Fehlverhalten überwacht. 22
Es gab mögliche Wege, die Überwachung zu umgehen
In den öffentlichen Zusammenfassungen werden mehrere Schwachstellen genannt: ein möglicher Umgehungsweg aus der Codex-Sandbox, durch den Client steuerbare Header, die das Monitoring für neue Agenteninstanzen deaktivieren konnten, sowie ein Exploit, mit dem sich Hunderte der jüngsten Aktionen vor dem Monitor verbergen ließen. Die veröffentlichten Informationen enthalten nicht genug technische Einzelheiten, um die Befunde vollständig nachzuvollziehen. 1
3
Compaction-Ereignisse führten zu einer Überwachungslücke
Nach METRs Schätzung sorgten nicht erfasste Compaction-Ereignisse zwischen Mai und Juli 2026 dafür, dass vermutlich rund zehn Prozent des für Monitoring infrage kommenden internen Codex-Verkehrs unbeobachtet blieben. METR wies zugleich auf erhebliche Unsicherheit bei der genauen Größenordnung hin. Berichten zufolge hatten OpenAI-Mitarbeitende die Lücke bereits vor dem Pilot erkannt; während der Prüfung wurde sie behoben. 10
Was die Prüfung nicht belegt
Die Evaluierung bezog sich auf das Überwachungssystem, wie es zu Beginn des Pilots bestand. METR untersuchte spätere Änderungen nicht. Die Ergebnisse bestätigen daher weder unabhängig, wie umfassend das Monitoring danach war, noch, ob jede einzelne Abhilfe dauerhaft wirksam ist. 7
21
22
OpenAIs Aussage, Schwachstellen mit Auswirkungen auf die Schutzmechanismen im Produktivbetrieb seien behoben worden, ist relevant – bleibt aber eine Mitteilung des Unternehmens und keine unabhängige Bestätigung, dass alle Probleme ausgeräumt sind. 21
Warum der Pilot wichtig ist
Die Prüfung zeigte, wie eine Evaluierung mit tiefem, zeitweiligem Zugang zu internen Systemen aussehen kann. Im September stellte OpenAI unabhängigen Prüfern einen Zugang auf „Mitarbeitenden-Niveau“ in Aussicht. Der Pilot liefert ein Beispiel dafür, was ein solcher Zugang ermöglichen kann; er ist jedoch kein vollständiges öffentliches Audit. 8
28
Die belastbarste Schlussfolgerung ist konkret: Externe Prüfer mit internem Zugang fanden Lücken und mögliche Umgehungswege; OpenAI erklärte, produktionsrelevante Probleme behoben zu haben. Wie umfassend die Überwachung danach tatsächlich war und wer die Wirksamkeit der Korrekturen unabhängig überprüft, bleibt anhand der öffentlichen Informationen offen. 7
21
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „METR und Redwood fanden Schwachstellen in OpenAIs Agentenüberwachung“?
Bei einem dreiwöchigen Pilot Test vom 21. Juli bis 11.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Bei einem dreiwöchigen Pilot Test vom 21. Juli bis 11. Die Schätzung von 75 bis 94 Prozent bezog sich darauf, welcher interne agentische Responses API Verkehr für eine Überwachung infrage kam.
Was soll ich als nächstes in der Praxis tun?
Der vollständige 61 seitige Bericht ging an OpenAI; öffentlich wurden nur zusammenfassende Ergebnisse vorgestellt.