AnswersPublished23 sources
Utenforstående fant hull i OpenAIs agentovervåking
I en pilot fra 21. juli til 11. Anslaget på 75–94 prosent gjelder trafikk som ble vurdert som mulig å overvåke – ikke bevis for at all denne trafikken faktisk ble overvåket eller at alle problemer ble oppdaget.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- I en pilot fra 21. juli til 11.
- Anslaget på 75–94 prosent gjelder trafikk som ble vurdert som mulig å overvåke – ikke bevis for at all denne trafikken faktisk ble overvåket eller at alle problemer ble oppdaget.
- Den fullstendige rapporten på 61 sider ble delt med OpenAI. Den offentlige omtalen er begrenset, og evalueringen undersøkte systemet slik det var ved starten av piloten.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
En tre uker lang pilot gjennomført av METR og Redwood Research avdekket konkrete svakheter i OpenAIs interne overvåking av KI-agenter. Blant funnene var en mulig metode for å skjule hundrevis av handlinger fra overvåkingssystemet, og et hull knyttet til hendelser der agentens samtalehistorikk komprimeres. OpenAI sier at sårbarheter som påvirket sikkerhetstiltak i produksjon, er rettet. Evaluatorene undersøkte imidlertid ikke endringene som ble gjort senere. 1
10
21
Slik foregikk piloten
Fra 21. juli til 11. august 2026 jobbet én forsker fra hver av de to ideelle organisasjonene på stedet hos OpenAI. De stresstestet selskapets interne system for å oppdage uønsket atferd hos KI-agenter. Forskerne fikk tilgang til kildekode, dokumentasjon, deler av den interne infrastrukturen og teknisk personale. De brukte utstyr fra OpenAI som ble værende på selskapets område, og OpenAI-ansatte fulgte arbeidet på stedet. 2
5
7
Målet var både å undersøke hvor mye av agentenes aktivitet som ble overvåket, og om agentene kunne slå av eller omgå systemet. METR opplyste at arbeidet resulterte i en intern rapport på 61 sider, delt med OpenAIs forskere og sikkerhetspersonell. Det som ble offentliggjort, var en bredere oppsummering – ikke hele rapporten. 7
17
Dette fant evaluatorene
Ikke all relevant aktivitet var dekket
METR anslo at mellom 75 og 94 prosent av den interne agenttrafikken gjennom Responses API fra modeller minst like kapable som GPT-5.5 var kvalifisert for overvåking. Dette er et anslag på hvor mye trafikk systemet kunne overvåke. Det betyr ikke at all denne aktiviteten faktisk ble fulgt med på, eller at overvåkingen ville oppdage ethvert problem. 1
6
18
Ved starten av piloten ble heller ikke kjøringer i trening med forsterkende læring overvåket med tanke på uønsket atferd. 22
Mulige metoder for å omgå overvåkingen
Offentlige omtaler beskriver flere typer svakheter. Blant dem er en mulig omgåelse av Codex-sandkassen, klientstyrte headere som kunne slå av overvåking for nye agentinstanser, og en utnyttelse som kunne skjule hundrevis av nylige handlinger for monitoren. De offentlige opplysningene beskriver ikke de tekniske detaljene godt nok til å gi en fullstendig oversikt over funnene. 1
3
Komprimering skapte et hull i dekningen
METR anslo at manglende overvåking av komprimeringshendelser trolig førte til at rundt 10 prosent av den interne Codex-trafikken som kunne overvåkes, ikke ble fulgt med på fra mai til juli 2026. Organisasjonen understreket at det er betydelig usikkerhet rundt den nøyaktige andelen. Ifølge omtale av funnene hadde OpenAI-ansatte oppdaget dette hullet før piloten, og det ble rettet mens evalueringen pågikk. 10
Hva evalueringen ikke fastslår
Gjennomgangen tok for seg overvåkingssystemet slik det var ved starten av piloten. METR sier at organisasjonene ikke vurderte senere endringer. Evalueringen kan derfor ikke på egen hånd bekrefte hvor omfattende overvåkingen ble etterpå, eller at alle utbedringer fungerer som tiltenkt. 7
21
22
OpenAI har opplyst at sårbarhetene som påvirket sikkerhetstiltak i produksjon, er rettet. Det er en viktig opplysning, men den gjengir selskapets egen statusrapport – ikke en uavhengig bekreftelse på at alle svakhetene er løst. 21
Hvorfor piloten er viktig
Piloten viste hvordan en grundig evaluering kan foregå når eksterne forskere får tilgang til interne systemer. I september lovet OpenAI å gi uavhengige evaluatorer «tilgang på nivå med ansatte». Pilotprosjektet er et eksempel på hva slik tilgang kan innebære, men bør ikke forveksles med en fullstendig, offentlig revisjon. 8
28
Hovedbildet er konkret: Forskere som jobbet tett på OpenAIs interne systemer, fant hull i overvåkingen og mulige veier rundt den. OpenAI sier at problemer som påvirket produksjonssikkerheten, er rettet. Men den offentlige dokumentasjonen avklarer ikke hvor dekkende overvåkingen ble etterpå, eller hvem som uavhengig kontrollerer at rettingene virker. 7
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Utenforstående fant hull i OpenAIs agentovervåking"?
I en pilot fra 21. juli til 11.
What are the key points to validate first?
I en pilot fra 21. juli til 11. Anslaget på 75–94 prosent gjelder trafikk som ble vurdert som mulig å overvåke – ikke bevis for at all denne trafikken faktisk ble overvåket eller at alle problemer ble oppdaget.
What should I do next in practice?
Den fullstendige rapporten på 61 sider ble delt med OpenAI. Den offentlige omtalen er begrenset, og evalueringen undersøkte systemet slik det var ved starten av piloten.