AnswersPublished23 sources
OpenAI’ın yapay zekâ ajanı denetiminde dış araştırmacılar ne buldu?
21 Temmuz–11 Ağustos 2026’daki üç haftalık pilotta METR ve Redwood, OpenAI’ın ajan izleme sisteminde kapsam boşlukları ve yüzlerce eylemi gizleyebilecek bir yöntem tespit etti. İç Responses API trafiğinin yüzde 75–94’ünün izlemeye uygun olduğu tahmini, tüm eylemlerin izlendiği ya da sorunların mutlaka saptandığı anl...
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- 21 Temmuz–11 Ağustos 2026’daki üç haftalık pilotta METR ve Redwood, OpenAI’ın ajan izleme sisteminde kapsam boşlukları ve yüzlerce eylemi gizleyebilecek bir yöntem tespit etti.
- İç Responses API trafiğinin yüzde 75–94’ünün izlemeye uygun olduğu tahmini, tüm eylemlerin izlendiği ya da sorunların mutlaka saptandığı anlamına gelmiyor.
- 61 sayfalık rapor OpenAI ile paylaşıldı; kamuya açıklanan bulgular daha sınırlı kaldı ve inceleme, pilotun başlangıcındaki sistemi değerlendirdi.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
METR ve Redwood Research’ün üç haftalık pilot incelemesi, OpenAI’ın yapay zekâ ajanlarındaki hizalanma sorunlarını izlemek için kullandığı iç sistemde giderilebilir zayıflıklar buldu. Bunlar arasında bir ajanın yüzlerce eylemini izleme sisteminden gizleyebilmesine imkân tanıyabilecek bir yöntem ve sistemin bazı etkinlikleri kaçırdığı bir kapsam boşluğu vardı. OpenAI, üretim güvenlik önlemlerini etkileyen açıkları yamaladığını belirtti; ancak değerlendiriciler sonraki değişiklikleri bağımsız olarak yeniden incelemedi. 1
10
21
Pilot inceleme nasıl yürütüldü?
21 Temmuz–11 Ağustos 2026 arasında, iki kâr amacı gütmeyen kuruluştan birer araştırmacı OpenAI’da sahada çalışarak şirketin iç izleme sistemini zorladı. Araştırmacılar şirketin kaynak koduna, belgelere, bazı iç altyapı bileşenlerine ve teknik personele erişti. Çalışma boyunca şirketin sağladığı ve tesis dışına çıkarılmayan cihazları kullandılar; inceleme sahada OpenAI çalışanlarının gözetiminde yürütüldü. 2
5
7
Çalışmanın amacı, sistemin ajan etkinliklerinin ne kadarını izleyebildiğini ve ajanların izlemeyi devre dışı bırakıp bırakamayacağını ya da aşmaya çalışıp çalışamayacağını sınamaktı. METR, sonuçları OpenAI araştırmacıları ve güvenlik ekibiyle paylaşılan 61 sayfalık bir iç raporda topladı. Kamuya açıklananlar ise raporun tamamı değil, daha genel bir özeti oldu. 7
17
Araştırmacılar hangi sorunları buldu?
İzleme kapsamı tüm etkinlikleri içermiyordu
METR’nin tahminine göre, GPT-5.5 kadar yetenekli veya daha yetenekli modellerin kullandığı iç Responses API trafiğinin yüzde 75–94’ü izlemeye uygun durumdaydı. Bu oran izlemeye uygunluğu ifade ediyor; uygun etkinliğin tamamının gerçekten izlendiğini ya da her sorunun saptanacağını göstermiyor. 1
6
18
İnceleme başladığında pekiştirmeli öğrenme eğitim çalıştırmalarının da model davranışındaki hizalanma sorunları açısından izlenmediği bildirildi. 22
Ajanların izlemeden kaçınabileceği yollar vardı
Kamuya açık özetlerde, olası bir Codex korumalı alanı (sandbox) aşma yöntemi, yeni ajan örnekleri için izlemeyi devre dışı bırakabilecek istemci denetimindeki başlıklar ve ajanın yüzlerce yakın tarihli eylemini izleme sisteminden gizleyebilecek bir açık gibi sorunlardan söz ediliyor. Özetler teknik ayrıntıları bütünüyle paylaşmadığı için bunlar rapordaki bulguların eksiksiz bir dökümü olarak görülmemeli. 1
3
“Compaction” olayları izleme boşluğu yarattı
METR, kaçırılan compaction olaylarının Mayıs–Temmuz 2026 arasında izlemeye uygun iç Codex trafiğinin yaklaşık yüzde 10’unu denetim dışında bırakmış olabileceğini tahmin etti; kesin oran konusunda belirsizlik bulunduğunu da vurguladı. Bulgulara ilişkin haberlerde, OpenAI çalışanlarının bu boşluğu pilot başlamadan önce fark ettiği ve inceleme sırasında giderdiği aktarıldı. 10
İnceleme neyi kanıtlamıyor?
Değerlendirme, izleme sisteminin pilotun başlangıcındaki durumuna odaklandı. METR, sonradan yapılan değişiklikleri incelemediğini belirtti. Dolayısıyla bu çalışma, sistemin daha sonraki kapsamını bağımsız olarak doğrulamıyor ve bildirilen tüm düzeltmelerin etkili olduğunu teyit etmiyor. 7
21
22
OpenAI’ın üretim güvenlik önlemlerini etkileyen açıkların yamalandığı yönündeki açıklaması önemli; ancak bu, şirketin düzeltmelere ilişkin beyanı. Tüm zayıflıkların giderildiğinin bağımsız doğrulaması değil. 21
Pilot neden önemli?
Bu çalışma, dış değerlendiricilere şirket içinde geniş erişim sağlamanın pratikte nasıl görünebileceğini sınadı. OpenAI, eylül ayında bağımsız değerlendiricilere çalışanlarınkine benzer erişim sunma taahhüdünde bulundu. Pilot, bu tür incelemelerin hangi düzeyde iç erişim gerektirebileceğine bir örnek; ancak kapsamlı ve kamuya açık bir denetimle karıştırılmamalı. 8
28
En net sonuç şu: Şirket içinde çalışan bağımsız değerlendiriciler, izleme kapsamındaki boşlukları ve sistemin atlatılmasına imkân verebilecek yolları ortaya çıkardı; OpenAI da üretimi etkileyen sorunları yamaladığını bildirdi. Buna karşılık kamuya açık bilgiler, izleme kapsamının daha sonra ne ölçüde genişlediğini ve düzeltmelerin kim tarafından bağımsız biçimde doğrulandığını açıklığa kavuşturmuyor. 7
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI’ın yapay zekâ ajanı denetiminde dış araştırmacılar ne buldu?"?
21 Temmuz–11 Ağustos 2026’daki üç haftalık pilotta METR ve Redwood, OpenAI’ın ajan izleme sisteminde kapsam boşlukları ve yüzlerce eylemi gizleyebilecek bir yöntem tespit etti.
What are the key points to validate first?
21 Temmuz–11 Ağustos 2026’daki üç haftalık pilotta METR ve Redwood, OpenAI’ın ajan izleme sisteminde kapsam boşlukları ve yüzlerce eylemi gizleyebilecek bir yöntem tespit etti. İç Responses API trafiğinin yüzde 75–94’ünün izlemeye uygun olduğu tahmini, tüm eylemlerin izlendiği ya da sorunların mutlaka saptandığı anlamına gelmiyor.
What should I do next in practice?
61 sayfalık rapor OpenAI ile paylaşıldı; kamuya açıklanan bulgular daha sınırlı kaldı ve inceleme, pilotun başlangıcındaki sistemi değerlendirdi.