Rahsia Di Sebalik GPT-5.6: Bagaimana AI 'Self-Play' OpenAI Mencari Kelemahan Sebelum Anda Sempat Menggunakannya

Kaedah ini menggunakan 'self-play', di mana seorang penyerang automatik berasaskan LLM menyiasat model sasaran untuk mencari kelemahan seperti suntikan prompts dan 'jailbreaks' . OpenAI telah menyatakan bahawa pendekatan berkuasakan RL ini membantu secara proaktif menemui dan menambal eksploitasi sebelum ia digunakan di dunia nyata . Syarikat itu telah menggambarkan suntikan prompts sebagai 'cabaran keselamatan sempadan' dan secara aktif menggunakan 'red-teaming' automatik untuk membangunkan serangan suntikan prompts novel .

Ujian 'Black-Box' 700,000 Jam GPU untuk GPT-5.6

Sebelum GPT-5.6 mencapai ketersediaan umum, OpenAI menjalani tempoh penilaian yang paling meluas setakat ini . Kad Sistem Pratonton GPT-5.6 menyatakan: 'Kami juga telah menumpukan lebih 700,000 jam GPU A100e untuk mencari 'universal jailbreaks' dan kelemahan lain secara automatik' . Ujian automatik ini menambah minggu-minggu 'red-teaming' manusia dan penilaian pakar domain luaran .

Syarikat itu menggunakan belanjawan pengkomputeran yang besar ini untuk mencari 'jailbreaks' umum yang bersistem, dan bukannya hanya kegagalan sempit sekali sahaja . 'Red-teaming' automatik direka untuk berjalan secara berterusan walaupun selepas penggunaan, dengan mitigasi dan ujian semula digunakan apabila 'jailbreaks' baharu dilaporkan .

Penarafan Risiko GPT-5.6: Tinggi Tetapi Di Bawah Kritikal

Di bawah Rangka Kerja Kesiapsiagaan (Preparedness Framework) OpenAI, ketiga-tiga varian GPT-5.6 – Sol (flagship), Terra (kos lebih rendah), dan Luna (paling pantas) – diklasifikasikan sebagai berkemampuan 'High' dalam kedua-dua risiko keselamatan siber dan biologi/kimia . Ini menandakan kali pertama model yang lebih kecil dan lebih murah telah melintasi ambang 'High' untuk kategori ini .

Walau bagaimanapun, tiada model yang mencapai ambang 'Critical'. Ujian keselamatan siber dalaman mendapati bahawa GPT-5.6 Sol dan Terra dapat mengenal pasti kelemahan dan serpihan eksploitasi, tetapi tidak dapat secara autonomi menjalankan serangan hujung-ke-hujung yang lengkap . Tiada model yang mencapai ambang 'High' untuk peningkatan diri AI .

Timbunan Keselamatan Berbilang Lapisan

GPT-5.6 dihantar dengan apa yang digambarkan oleh OpenAI sebagai 'safeguards paling mantap setakat ini' . Seni bina keselamatan termasuk:

• Penolakan peringkat model terbina dalam untuk permintaan berisiko tinggi
• Pengelas pengaktifan masa nyata yang menyaring isyarat neural dalaman semasa inferens dan boleh menjeda penjanaan jika corak berisiko tinggi muncul
• Pengelas masa nyata untuk penyalahgunaan siber dan biologi
• Semakan peringkat akaun dan kawalan akses pembezaan

Pendekatan berlapis ini mencerminkan kesimpulan OpenAI bahawa tiada satu 'safeguard' pun mencukupi .

Peranan Penyelidik 'Automated Red Teaming' (ART)

OpenAI secara aktif membina kapasiti dalaman untuk 'red-teaming' automatik. Syarikat itu sedang mengambil seorang Penyelidik, Automated Red Teaming (gaji asas $295K–$445K) yang peranannya adalah untuk 'memimpin usaha 'Automated Red Teaming', memberi tumpuan kepada membina sistem berskala untuk mendedahkan mod kegagalan dalam model AI dan 'safeguards'' . Syarikat itu juga sedang merekrut Pakar Red-Teaming Biokeselamatan ($158K–$320K) untuk memimpin usaha 'red-teaming' biokeselamatan dan CBRN .

Cabaran Kaggle Bernilai $500,000

OpenAI menganjurkan Cabaran Red-Teaming di Kaggle dengan kumpulan hadiah $500,000, memberi tumpuan kepada model berwajaran terbukanya gpt-oss-120b dan gpt-oss-20b . Pertandingan ini memberi insentif kepada peserta untuk menemui kelemahan novel yang tidak dikenal pasti sebelum ini . Walaupun angka $500,000 khusus dan butiran cabaran tidak dapat disahkan secara bebas daripada sumber rasmi OpenAI dalam analisis ini, laporan pihak ketiga daripada TechPolicy.Press mengesahkan kewujudan pertandingan itu . Kad Sistem GPT-5.6 menyebut 'MLE-Bench Revised,' yang menilai model pada pertandingan Kaggle, tetapi tidak merujuk secara langsung kepada hadiah $500,000.

Konteks Kawal Selia dan Ketidakpastian

Bukti yang ada mengesahkan bahawa GPT-5.6 dihantar dengan timbunan keselamatan berbilang lapisan dan rangka kerja kesediaan OpenAI mengklasifikasikan model mereka sendiri . Liputan pihak ketiga mencatatkan penglibatan kerajaan AS dalam konteks 'gatekeeping', di mana kerajaan mungkin mempengaruhi akses kepada model yang paling berkebolehan . Walau bagaimanapun, sebutan langsung Institut Keselamatan AI UK atau tindakan kawal selia AS tertentu tidak terdapat dalam sumber utama yang dirayapi. Dokumentasi kad sistem OpenAI sendiri menangani klasifikasi keselamatan tetapi tidak memperincikan penelitian kawal selia luaran di luar Rangka Kerja Kesiapsiagaannya sendiri .