Saat AI Membantu Membuat AI, Para Peneliti Minta Regulator Mengawasi

Yang menjadi perhatian para peneliti bukan semata-mata apakah model AI berikutnya akan lebih canggih. Mereka juga menyoroti kemungkinan AI membantu merancang, menguji, atau mengembangkan AI generasi berikutnya—dan sistem yang lebih cakap itu kemudian mengambil alih lebih banyak pekerjaan riset. Jika siklus tersebut terus berulang, laju pengembangan bisa meningkat. 123

Karena itu, peneliti dan pemimpin dari OpenAI, Anthropic, Meta, serta Microsoft meminta pembuat kebijakan menelaah sejauh mana AI sudah digunakan untuk mengotomatisasi riset dan pengembangan AI. Lebih dari 20 tokoh industri dan peneliti menyampaikan kekhawatiran ini dalam sebuah makalah baru. 2

Penting untuk membedakan peringatan dari kepastian: “ledakan kecerdasan” adalah skenario risiko, bukan bukti bahwa AI saat ini telah meningkatkan kemampuannya secara mandiri tanpa arahan manusia. Pertanyaan kebijakannya adalah bagaimana mengukur dan mengawasi peran AI yang terus berkembang dalam proses pembuatan AI. 114

Bagaimana AI bisa mempercepat riset AI?

AI dapat membantu berbagai bagian dari pekerjaan pengembangan model. Jika bantuan itu menghasilkan sistem yang lebih mampu, lalu sistem tersebut ikut mempercepat riset berikutnya, setiap putaran berpotensi membuat putaran selanjutnya berlangsung lebih cepat. Pola ini disebut perbaikan diri rekursif: AI membantu meningkatkan proses yang digunakan untuk membangun AI. 15

Kekhawatiran utamanya menyangkut tempo perubahan. Dalam salah satu skenario yang dilaporkan, kemajuan yang biasanya membutuhkan waktu setahun bisa terjadi hanya dalam hitungan minggu. Itu adalah perkiraan dalam sebuah skenario, bukan hasil yang sudah terukur; sumber yang tersedia tidak menunjukkan bahwa laju tersebut telah tercapai. 314

Sebuah penelitian terdahulu mewawancarai 25 peneliti dari laboratorium AI terdepan dan kalangan akademik. Banyak di antara mereka memperkirakan AI dapat mengotomatisasi riset AI dan menciptakan lingkaran umpan balik yang mempercepat kemajuan. Temuan itu membantu menjelaskan mengapa kemungkinan ini dianggap serius oleh sebagian peneliti, tetapi tidak membuktikan bahwa “ledakan kecerdasan” pasti terjadi. 1

Yang diminta dari pembuat kebijakan

Permintaan terdekat para peneliti adalah agar pembuat kebijakan mendapatkan gambaran yang lebih jelas tentang seberapa luas perusahaan menggunakan AI dalam riset dan pengembangan. Mereka meminta kemajuan tersebut dicermati dan langkah pengamanan teknologi dipertimbangkan. 2

Seruan itu bukan berarti laboratorium AI sudah menyerahkan kendali riset kepada mesin. Namun, informasi yang lebih baik tentang bagian pekerjaan yang dibantu AI dapat membantu pembuat kebijakan menilai apakah pengawasan yang ada masih memadai saat sistem mengambil peran lebih besar dalam proses pengembangan. 23

Perlukah pengembangan AI diperlambat?

Sebagian peneliti berpendapat bahwa perlambatan yang terkoordinasi dapat memberi waktu untuk menguji keamanan, melakukan evaluasi independen, dan memperkuat pengawasan sebelum kemampuan sistem berubah lagi. Peneliti dari OpenAI dan Anthropic secara terbuka menyerukan pengembangan yang lebih lambat. Namun, para pemimpin industri tidak sepakat soal seberapa jauh perlambatan diperlukan; sebagian lain lebih memilih pendekatan yang dipimpin pasar. 818

Jeda juga menimbulkan pertanyaan praktis: kegiatan atau sistem apa yang akan dibatasi, siapa yang memantau kepatuhan, dan bagaimana perusahaan yang bersaing dapat menyelaraskan langkah? Makna jeda dan cara menegakkannya pun belum jelas.

Tombol darurat bukan pengganti pengawasan

Presiden Microsoft Brad Smith berpendapat bahwa pembuat model, penyedia infrastruktur komputasi awan, dan pihak yang mengelola agen AI sebaiknya memiliki kemampuan untuk mematikan sistem. Gagasan ini menempatkan tombol penghentian sebagai rem darurat, bukan pengganti upaya pencegahan maupun pengawasan berkelanjutan.

Namun, menghentikan sistem AI tidak selalu sesederhana menekan satu tombol. Sistem dapat berjalan di infrastruktur yang tersebar, sehingga satu sakelar tidak menjamin seluruh komponennya berhenti. Para ahli juga menyoroti perlunya pemantauan terus-menerus dan campur tangan manusia.

Kepentingan bisnis membuat pengawasan perlu dirancang cermat

Usulan agar pengembang dan penyedia komputasi awan ikut bertanggung jawab atas pengawasan menimbulkan persoalan tata kelola: perusahaan bisa sekaligus membangun atau menjadi tempat berjalannya sistem yang diawasi. Microsoft, misalnya, terlibat dalam pengembangan model AI dan juga menyediakan layanan komputasi awan. Tumpang tindih peran ini membuat pemeriksaan independen dan aturan yang jelas penting—tetapi tidak dengan sendirinya membuktikan bahwa sikap keselamatan suatu perusahaan tidak tulus. 2

Ada pula tantangan koordinasi. Para pemimpin industri berbeda pendapat tentang laju pengembangan, sementara persaingan untuk membangun dan meluncurkan AI terus berlangsung. Menahan diri secara sukarela bisa sulit dipertahankan jika perusahaan lain tetap melaju. Sumber yang tersedia menunjukkan adanya perbedaan pandangan dan tekanan persaingan, tetapi tidak membuktikan bahwa kepentingan investasi menentukan pandangan setiap peneliti. 1218

Bagi pembuat kebijakan, ada dua pertanyaan yang saling terkait: bagaimana melacak peran AI dalam mengembangkan AI, dan bagaimana memastikan pengamanan dapat diverifikasi—bukan hanya bergantung pada jaminan perusahaan. Peringatan para peneliti menjadi alasan untuk mengkaji persoalan itu sekarang, tetapi belum menjawab seberapa mungkin skenario “ledakan kecerdasan” terjadi atau kebijakan mana yang paling efektif. 123