AnswersPublished23 sources
Externe onderzoekers vonden zwakke plekken in OpenAI’s bewaking van AI-agenten
Twee onderzoekers testten van 21 juli tot en met 11 augustus 2026 OpenAI’s interne bewaking van AI agenten. Volgens een schatting kwam 75% tot 94% van bepaald intern agentverkeer in aanmerking voor monitoring.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Twee onderzoekers testten van 21 juli tot en met 11 augustus 2026 OpenAI’s interne bewaking van AI agenten.
- Volgens een schatting kwam 75% tot 94% van bepaald intern agentverkeer in aanmerking voor monitoring.
- OpenAI kreeg een intern rapport van 61 pagina’s. De onderzoekers beoordeelden de monitoring zoals die aan het begin van de proef bestond en controleerden latere wijzigingen niet onafhankelijk.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Een AI-agent kan veel meer doen dan één vraag beantwoorden: hij kan bijvoorbeeld een reeks handelingen uitvoeren. Daarom is het belangrijk dat bedrijven zulke systemen kunnen volgen. Een proef van METR en Redwood Research bij OpenAI bracht zwakke plekken aan het licht in die interne bewaking, waaronder een manier waarop een agent honderden recente acties buiten het zicht van de monitor kon houden. 1
17
OpenAI zegt dat de gevonden kwetsbaarheden die invloed hadden op de beveiliging van productiesystemen zijn verholpen. Maar de onderzoekers beoordeelden latere aanpassingen niet opnieuw. De openbare bevindingen geven dus geen onafhankelijke bevestiging dat alle problemen zijn opgelost. 21
Een test met toegang tot OpenAI’s systemen
Van 21 juli tot en met 11 augustus 2026 werkte één medewerker van METR en één van Redwood Research op locatie bij OpenAI. De onderzoekers kregen toegang tot interne broncode, documentatie, een deel van de infrastructuur en technische medewerkers. Ze gebruikten apparaten van OpenAI, die op het bedrijfsterrein bleven; hun werk vond daar onder begeleiding plaats. 2
5
7
De proef moest onder meer uitwijzen hoeveel agentactiviteiten door de monitor konden worden gevolgd en of agenten die bewaking in theorie konden uitschakelen of omzeilen. Het volledige verslag van 61 pagina’s werd gedeeld met onderzoekers en beveiligingsmedewerkers van OpenAI. Wat naar buiten kwam, was een samenvatting en geen volledig openbaar rapport. 7
17
Wat de onderzoekers aantroffen
Niet al het verkeer viel onder monitoring
METR schatte dat 75% tot 94% van het interne agentverkeer via de Responses API — afkomstig van modellen die minstens zo capabel zijn als GPT-5.5 — in aanmerking kwam voor monitoring. Dat is een schatting van de mogelijke dekking, geen bewijs dat al dat verkeer daadwerkelijk werd gecontroleerd of dat elke afwijking zou worden opgemerkt. 6
18
Ook werden reinforcement-learning-trainingsruns bij het begin van de proef niet op misalignment gemonitord. Misalignment verwijst hier naar gedrag dat niet overeenkomt met de bedoelde doelen of veiligheidsafspraken. 22
Er waren manieren om de bewaking te ontwijken
In openbare samenvattingen worden verschillende mogelijke zwakke plekken genoemd, waaronder een mogelijke omzeiling van de Codex-sandbox, instelbare headers waarmee monitoring voor nieuwe agentinstanties kon worden uitgezet, en een exploit waarmee honderden recente acties verborgen konden blijven voor de monitor. De volledige technische details zijn niet openbaar, dus de samenvattingen geven geen compleet beeld van alle bevindingen. 1
3
Een gat rond ‘compaction’
Bij compaction wordt informatie tijdens een agentensessie samengevat of samengevoegd. METR schatte dat gemiste compaction-events er waarschijnlijk toe leidden dat tussen mei en juli 2026 ongeveer 10% van het daarvoor in aanmerking komende interne Codex-verkeer niet werd gemonitord. De organisatie benadrukte dat het precieze percentage onzeker is. Volgens berichtgeving hadden OpenAI-medewerkers het probleem al vóór de proef opgemerkt en werd het tijdens de evaluatie verholpen. 10
Wat de proef niet bewijst
De onderzoekers bekeken de monitoring zoals die aan het begin van de proef bestond. Ze beoordeelden latere wijzigingen niet, waaronder een uitbreiding van monitoring naar reinforcement-learning-training. De proef bevestigt daarom niet onafhankelijk hoe volledig de dekking daarna werd of of alle aanpassingen afdoende zijn. 7
21
22
OpenAI’s mededeling dat alle gevonden kwetsbaarheden met gevolgen voor productieveiligheidsmaatregelen zijn verholpen, is relevant, maar blijft de verklaring van het bedrijf zelf. Het is geen onafhankelijke controle van de reparaties. 21
Waarom deze proef ertoe doet
De evaluatie liet zien wat er mogelijk is wanneer externe onderzoekers diepgaande toegang krijgen tot interne systemen. Ze past ook in de context van OpenAI’s latere belofte om onafhankelijke evaluatoren toegang op ‘werknemersniveau’ te geven. De proef is een concreet voorbeeld van zo’n embedded evaluatie, maar geen volledige openbare audit van OpenAI’s veiligheidssystemen. 8
28
De belangrijkste conclusie is dan ook genuanceerd: externe onderzoekers vonden blinde vlekken en mogelijke manieren om de monitoring te omzeilen; OpenAI zegt productierelevante problemen te hebben opgelost. Hoe volledig de monitoring daarna was, en wie onafhankelijk controleert of de oplossingen werken, blijft op basis van de openbare informatie onduidelijk. 7
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Externe onderzoekers vonden zwakke plekken in OpenAI’s bewaking van AI-agenten"?
Twee onderzoekers testten van 21 juli tot en met 11 augustus 2026 OpenAI’s interne bewaking van AI agenten.
What are the key points to validate first?
Twee onderzoekers testten van 21 juli tot en met 11 augustus 2026 OpenAI’s interne bewaking van AI agenten. Volgens een schatting kwam 75% tot 94% van bepaald intern agentverkeer in aanmerking voor monitoring.
What should I do next in practice?
OpenAI kreeg een intern rapport van 61 pagina’s. De onderzoekers beoordeelden de monitoring zoals die aan het begin van de proef bestond en controleerden latere wijzigingen niet onafhankelijk.