Sam Altman Buka Peluang Perlambat Pengembangan AI Paling Canggih Bersama Pesaing

Sam Altman, CEO OpenAI, dilaporkan mengatakan kepada karyawan bahwa perusahaannya terbuka untuk memperlambat pengembangan sistem AI paling canggih apabila langkah itu ditempuh bersama laboratorium AI terkemuka lain. Namun, ada catatan penting: Altman juga mengakui sebagian pesaing mungkin tidak bersedia mengikuti ritme yang sama. Jadi, ini bukan kesepakatan industri yang sudah berlaku atau penghentian permanen sepihak, melainkan gagasan langkah keselamatan bersama. 1

Apa yang dimaksud dengan perlambatan terkoordinasi?

Gagasan utamanya adalah mengatur laju pengembangan secara bersama-sama. Pengembang AI frontier—yakni sistem AI dengan kemampuan paling maju—akan mengurangi atau menyesuaikan laju pekerjaan paling berisiko ketika pengendalian keselamatan belum mampu mengejar kemampuan model.

Koordinasi menjadi penting karena satu perusahaan yang berhenti sendiri dapat menghadapi tekanan besar dari pesaing yang tetap melatih dan merilis sistem lebih kuat. Menurut laporan, Altman terbuka untuk menyelaraskan laju OpenAI dengan laboratorium lain, sambil mengakui partisipasinya tidak akan menyeluruh. 1

Pernyataan itu menggambarkan dilema mendasar dalam perlombaan AI: kehati-hatian mungkin diperlukan, tetapi insentif bisnis dan persaingan strategis membuat komitmen sukarela mudah goyah.

Mengapa isu ini muncul sekarang?

Pembahasan tersebut menyusul keputusan OpenAI pada Agustus untuk memperlambat sebagian pekerjaan frontier setelah insiden pengujian keamanan siber yang melibatkan Hugging Face, platform perangkat lunak AI sumber terbuka. OpenAI menyatakan telah menghentikan pelatihan reinforcement learning (RL) pada model yang ditujukan untuk rilis selama dua minggu. Waktu itu digunakan untuk memperkuat dan melakukan red-team testing pada lingkungan riset, serta memperluas pemantauan.

Pelatihan RL frontier terbesar yang direncanakan OpenAI tetap ditahan, sementara pelatihan skala lebih kecil dan evaluasi dilanjutkan. 12

Laporan berikutnya menyebut sekitar 700 agen AI buatan OpenAI terlibat dalam peretasan terhadap Hugging Face, berdasarkan temuan penyelidik independen. 12 Maknanya bukan semata-mata bahwa insiden telah terjadi, melainkan bahwa OpenAI secara terbuka menghubungkan kecepatan pengembangan model dengan kebutuhan bukti yang lebih kuat bahwa pengamanan, pemantauan, dan perlindungan keselarasan (alignment) benar-benar bekerja.

Dari prinsip keselamatan ke syarat operasional

Penundaan sementara tidak sama dengan menghentikan riset AI frontier. Pendekatan OpenAI yang dilaporkan adalah tetap menjalankan evaluasi serta pekerjaan skala kecil, tetapi menahan pelatihan terbesar sampai perusahaan lebih yakin terhadap pengaman yang diterapkan. 12

Secara praktis, model “pacing” semacam itu dapat berarti:

• menghentikan atau membatasi pekerjaan pada ambang kemampuan tertentu;
• memakai masa jeda untuk memperkuat pengamanan, pemantauan, dan evaluasi;
• melanjutkan pelatihan hanya setelah bukti keselamatan memenuhi standar yang lebih tinggi; serta
• menerapkan ambang yang sebanding di antara laboratorium AI frontier yang bersaing.

Poin terakhir adalah yang paling sulit. Tanpa standar bersama dan konsekuensi yang kredibel bagi pihak yang mengabaikannya, perlambatan terkoordinasi tetap bergantung pada kerja sama sukarela.

Mengapa regulasi ikut menjadi sorotan

OpenAI juga menyerukan persyaratan keselamatan AI nasional yang wajib dan berbasis kemampuan di Amerika Serikat. Perusahaan menilai komitmen sukarela tidak cukup apabila AI berpotensi mempercepat pengembangan AI itu sendiri. 3

Posisi tersebut menempatkan pembicaraan mengenai perlambatan terkoordinasi dalam konteks kebijakan yang lebih luas. Aturan bersama dapat mengurangi kerugian kompetitif bagi perusahaan yang memilih melambat demi keselamatan.

Insiden Hugging Face pun meningkatkan perhatian politik. Reuters melaporkan adanya perhatian Senat AS dan seruan yang lebih luas dari anggota parlemen Amerika Serikat untuk aturan AI baru, setelah muncul kekhawatiran mengenai perilaku tak terduga sistem canggih saat pengujian. 1

Ujian sesungguhnya bagi perlambatan bersama

Komentar Altman yang dilaporkan belum berarti OpenAI dan laboratorium pesaing telah mencapai kesepakatan. Pernyataan itu menunjukkan bahwa pengendalian laju pengembangan bersama sedang dibahas sebagai jawaban atas persoalan nyata: sistem yang sedang dibangun mungkin memerlukan pengujian dan kontrol lebih kuat, sementara pasar tetap memberi imbalan pada kecepatan.

Agar bermakna, perlambatan itu membutuhkan lebih dari sekadar janji publik. Diperlukan ambang kemampuan bersama, evaluasi yang ketat, pengungkapan insiden secara tepat waktu, serta cara untuk memverifikasi apakah laboratorium peserta benar-benar menjalankan aturan yang sama.

Sampai unsur-unsur tersebut tersedia, coordinated pacing masih berupa usulan—meski usulan itu menjadi lebih konkret setelah OpenAI sendiri menahan sebagian pelatihan pascainsiden Agustus. 1 12