JawabanDipublikasikan23 sumber
Celah Pemantauan Agen AI OpenAI Terungkap dalam Uji METR dan Redwood
Dalam uji coba 21 Juli–11 Agustus 2026, METR dan Redwood menemukan celah pemantauan agen AI OpenAI, termasuk cara yang berpotensi menyembunyikan ratusan tindakan. Perkiraan 75%–94% merujuk pada lalu lintas yang memenuhi syarat untuk dipantau—bukan bukti bahwa semua aktivitas benar benar dipantau atau masalah selalu...
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Dalam uji coba 21 Juli–11 Agustus 2026, METR dan Redwood menemukan celah pemantauan agen AI OpenAI, termasuk cara yang berpotensi menyembunyikan ratusan tindakan.
- Perkiraan 75%–94% merujuk pada lalu lintas yang memenuhi syarat untuk dipantau—bukan bukti bahwa semua aktivitas benar benar dipantau atau masalah selalu terdeteksi.
- Laporan lengkap sepanjang 61 halaman dibagikan kepada OpenAI, sementara informasi publik hanya berupa ringkasan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Uji coba selama tiga minggu oleh METR dan Redwood Research menemukan kelemahan yang bisa ditindaklanjuti pada sistem internal OpenAI untuk memantau potensi perilaku menyimpang agen AI. Salah satu temuan menunjukkan agen dapat menyembunyikan ratusan tindakannya dari pemantau. Peninjau juga menemukan celah terkait peristiwa compaction atau pemadatan konteks. OpenAI menyatakan kerentanan yang berdampak pada pengamanan produksi telah ditambal, tetapi para evaluator tidak memeriksa ulang perubahan setelah uji coba. 1
10
21
Bagaimana uji coba dilakukan
Pada 21 Juli hingga 11 Agustus 2026, masing-masing satu peneliti dari dua organisasi nirlaba tersebut bekerja di lokasi OpenAI untuk menguji ketahanan sistem pemantauan internalnya. Mereka mendapat akses ke kode sumber, dokumentasi, sebagian infrastruktur internal, dan staf teknis. Peneliti menggunakan perangkat yang disediakan OpenAI dan tetap berada di lingkungan perusahaan; pekerjaan mereka di lokasi juga didampingi karyawan OpenAI. 2
5
7
Uji coba ini dirancang untuk menilai sejauh mana aktivitas agen terpantau dan apakah agen dapat menonaktifkan atau mengakali pemantauan. METR menyebut hasilnya sebagai laporan internal sepanjang 61 halaman yang dibagikan kepada peneliti dan staf keamanan OpenAI. Informasi yang tersedia untuk publik merupakan rangkuman, bukan laporan lengkap. 7
17
Temuan utama
Tidak semua aktivitas masuk cakupan pemantauan
Menurut perkiraan METR, sekitar 75%–94% lalu lintas internal agen melalui Responses API dari model yang setidaknya sekuat GPT-5.5 memenuhi syarat untuk dipantau. Angka ini menunjukkan perkiraan kelayakan pemantauan—bukan bukti bahwa semua aktivitas yang memenuhi syarat benar-benar diperiksa, apalagi bahwa setiap masalah pasti terdeteksi. 1
6
18
Pada awal uji coba, proses pelatihan reinforcement learning (RL) juga belum dipantau untuk mendeteksi kemungkinan perilaku menyimpang. 22
Ada potensi cara untuk menghindari pemantauan
Ringkasan publik menyebut beberapa jenis kelemahan, di antaranya potensi jalan keluar dari pembatasan (sandbox) Codex, header yang dapat dikendalikan klien untuk menonaktifkan pemantauan pada instans agen baru, serta celah yang bisa menyembunyikan ratusan tindakan terbaru dari pemantau. Ringkasan yang tersedia tidak memuat cukup rincian teknis untuk menggambarkan seluruh temuan laporan. 1
3
Peristiwa compaction menimbulkan celah cakupan
METR memperkirakan bahwa peristiwa compaction yang tidak terpantau kemungkinan membuat sekitar 10% lalu lintas internal Codex yang memenuhi syarat tidak terpantau pada periode Mei hingga Juli 2026. METR juga mencatat ketidakpastian yang cukup besar mengenai angka pastinya. Pemberitaan tentang temuan itu menyebut staf OpenAI telah mengidentifikasi celah tersebut sebelum uji coba dan memperbaikinya selama peninjauan berlangsung. 10
Apa yang belum dibuktikan oleh peninjauan ini
Evaluasi tersebut berfokus pada sistem pemantauan sebagaimana adanya saat uji coba dimulai. METR mengatakan pihaknya tidak mengevaluasi perubahan setelahnya. Karena itu, peninjauan ini tidak dapat mengonfirmasi secara independen seberapa luas cakupan pemantauan saat ini atau memastikan bahwa seluruh perbaikan berhasil. 7
21
22
Pernyataan OpenAI bahwa kerentanan yang berdampak pada pengamanan produksi telah ditambal tetap penting, tetapi itu merupakan keterangan perusahaan mengenai tindak lanjutnya—bukan verifikasi independen bahwa semua kelemahan sudah teratasi. 21
Arti penting uji coba ini
Uji coba tersebut memberi contoh seperti apa evaluasi independen dengan akses mendalam ke dalam perusahaan bisa dilakukan. Pada September, OpenAI kemudian berjanji memberi evaluator independen akses yang “setara dengan karyawan”. Pilot ini menunjukkan bentuk akses internal yang dapat dilibatkan dalam evaluasi, tetapi tidak bisa dianggap sebagai audit publik yang menyeluruh. 8
28
Kesimpulan paling jelas tetap terbatas pada temuan yang dilaporkan: evaluator yang bekerja langsung di dalam OpenAI menemukan celah pemantauan dan potensi jalur pengelakan, lalu OpenAI menyatakan telah menambal masalah yang berdampak pada sistem pengamanan produksi. Namun, bukti publik belum menjawab seberapa menyeluruh pemantauan setelahnya atau siapa yang secara independen memastikan perbaikan itu benar-benar berfungsi. 7
21
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Celah Pemantauan Agen AI OpenAI Terungkap dalam Uji METR dan Redwood"?
Dalam uji coba 21 Juli–11 Agustus 2026, METR dan Redwood menemukan celah pemantauan agen AI OpenAI, termasuk cara yang berpotensi menyembunyikan ratusan tindakan.
Apa poin penting yang harus divalidasi terlebih dahulu?
Dalam uji coba 21 Juli–11 Agustus 2026, METR dan Redwood menemukan celah pemantauan agen AI OpenAI, termasuk cara yang berpotensi menyembunyikan ratusan tindakan. Perkiraan 75%–94% merujuk pada lalu lintas yang memenuhi syarat untuk dipantau—bukan bukti bahwa semua aktivitas benar benar dipantau atau masalah selalu terdeteksi.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Laporan lengkap sepanjang 61 halaman dibagikan kepada OpenAI, sementara informasi publik hanya berupa ringkasan.