AnswersPublished23 sources
I punti deboli nel monitoraggio degli agenti IA di OpenAI
Nel test, svolto dal 21 luglio all’11 agosto 2026, METR e Redwood Research hanno rilevato lacune nel monitoraggio di OpenAI, tra cui un exploit che avrebbe potuto nascondere centinaia di azioni. La stima del 75–94% riguarda il traffico ritenuto idoneo al monitoraggio: non dimostra che ogni azione fosse effettivament...
Pubblicato daModificato con GPT-6 LunaImmagini generate con GPT Image 2
Research answer
Key takeaways
- Nel test, svolto dal 21 luglio all’11 agosto 2026, METR e Redwood Research hanno rilevato lacune nel monitoraggio di OpenAI, tra cui un exploit che avrebbe potuto nascondere centinaia di azioni.
- La stima del 75–94% riguarda il traffico ritenuto idoneo al monitoraggio: non dimostra che ogni azione fosse effettivamente controllata o che ogni problema venisse rilevato.
- Il rapporto completo di 61 pagine è stato condiviso con OpenAI. La valutazione riguardava il sistema all’inizio della prova e non ha verificato in modo indipendente le modifiche successive.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Per tre settimane, due valutatori esterni hanno messo alla prova il sistema con cui OpenAI monitora i propri agenti IA per individuare possibili comportamenti disallineati. METR e Redwood Research hanno trovato lacune nella copertura e potenziali modi per aggirare i controlli, compreso un exploit che avrebbe potuto sottrarre al monitoraggio centinaia di azioni recenti. OpenAI ha dichiarato di aver corretto le vulnerabilità che incidevano sulle protezioni in produzione; i valutatori, però, non hanno verificato in modo indipendente le modifiche successive. 1
10
21
Come si è svolta la prova
Dal 21 luglio all’11 agosto 2026, un ricercatore di ciascuna organizzazione ha lavorato negli uffici di OpenAI per stress-testare il sistema interno di monitoraggio. I valutatori hanno avuto accesso al codice sorgente, alla documentazione, a parte dell’infrastruttura interna e a personale tecnico. Hanno usato dispositivi forniti dall’azienda, rimasti nei suoi locali, e il lavoro in sede si è svolto sotto la supervisione di dipendenti OpenAI. 2
5
7
L’esercizio mirava a valutare sia quanta attività fosse coperta dal monitoraggio, sia se gli agenti potessero disattivare o compromettere i controlli. METR ha descritto il risultato come un rapporto interno di 61 pagine, condiviso con ricercatori e addetti alla sicurezza di OpenAI. Quanto reso pubblico è una sintesi generale, non il rapporto integrale. 7
17
Che cosa hanno trovato
La copertura non era completa
Secondo la stima riportata da METR, era idoneo al monitoraggio il 75–94% del traffico interno di agenti tramite Responses API proveniente da modelli con capacità almeno pari a GPT-5.5. La percentuale indica l’idoneità al monitoraggio: non prova che tutto il traffico idoneo venisse effettivamente controllato, né che ogni problema potesse essere rilevato. 1
6
18
All’inizio della prova, inoltre, le esecuzioni di addestramento con apprendimento per rinforzo non erano sottoposte a monitoraggio per rilevare eventuali disallineamenti. 22
Alcuni percorsi potevano eludere i controlli
Le sintesi pubbliche descrivono diverse vulnerabilità potenziali: un possibile aggiramento dell’ambiente sandbox di Codex, intestazioni controllabili dal client che potevano disattivare il monitoraggio per nuove istanze di agenti e un exploit in grado di nascondere al monitor centinaia di azioni recenti. Le informazioni pubblicate non bastano a ricostruire nel dettaglio tutte le falle descritte nel rapporto. 1
3
Gli eventi di compattazione lasciavano una lacuna
METR ha stimato che gli eventi di compattazione non rilevati abbiano probabilmente lasciato senza monitoraggio, tra maggio e luglio 2026, circa il 10% del traffico interno di Codex idoneo ai controlli. L’organizzazione ha precisato che la stima è incerta. Secondo le ricostruzioni dei risultati, il personale di OpenAI aveva individuato la lacuna prima della prova e il problema è stato corretto durante la revisione. 10
Che cosa il test non dimostra
La valutazione riguardava il sistema di monitoraggio nella sua configurazione all’inizio della prova. METR non ha esaminato le modifiche successive: il test, quindi, non può confermare in modo indipendente quale sia stata la copertura ottenuta in seguito né verificare tutte le correzioni. 7
21
22
La dichiarazione di OpenAI secondo cui sono state corrette le vulnerabilità che interessavano le protezioni in produzione è rilevante, ma resta la posizione dell’azienda, non una conferma indipendente che ogni problema sia stato risolto. 21
Perché la prova è significativa
L’esercizio ha mostrato che cosa può comportare un accesso interno approfondito per valutatori esterni. A settembre OpenAI si è impegnata a concedere a valutatori indipendenti un accesso «simile a quello dei dipendenti»; il test offre un esempio concreto del tipo di accesso possibile, ma non equivale a una verifica pubblica completa. 8
28
La conclusione più solida è circoscritta: i valutatori integrati hanno individuato lacune e possibili vie di elusione, e OpenAI ha riferito di aver corretto i problemi che incidevano sulle protezioni in produzione. Le informazioni pubbliche non chiariscono però quanto sia diventato completo il monitoraggio in seguito né chi abbia verificato in modo indipendente l’efficacia degli interventi. 7
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "I punti deboli nel monitoraggio degli agenti IA di OpenAI"?
Nel test, svolto dal 21 luglio all’11 agosto 2026, METR e Redwood Research hanno rilevato lacune nel monitoraggio di OpenAI, tra cui un exploit che avrebbe potuto nascondere centinaia di azioni.
What are the key points to validate first?
Nel test, svolto dal 21 luglio all’11 agosto 2026, METR e Redwood Research hanno rilevato lacune nel monitoraggio di OpenAI, tra cui un exploit che avrebbe potuto nascondere centinaia di azioni. La stima del 75–94% riguarda il traffico ritenuto idoneo al monitoraggio: non dimostra che ogni azione fosse effettivamente controllata o che ogni problema venisse rilevato.
What should I do next in practice?
Il rapporto completo di 61 pagine è stato condiviso con OpenAI. La valutazione riguardava il sistema all’inizio della prova e non ha verificato in modo indipendente le modifiche successive.