AI membantu membina AI seterusnya — bolehkah pengawasan mengikut rentaknya?

Kebimbangan di sebalik gesaan terbaharu supaya AI diawasi bukan sekadar kemungkinan model menjadi semakin berkemampuan. Persoalannya ialah AI boleh membantu membangunkan AI generasi seterusnya, lalu mewujudkan kitaran yang berpotensi mempercepat penyelidikan dan pembangunan. Penyelidik dari OpenAI, Anthropic, Meta dan Microsoft mahu pembuat dasar menilai sejauh mana automasi ini sudah berlaku—sebelum perubahan yang lebih pantas menyukarkan pengawasan berkesan. 23

Kemungkinan ini kadangkala disebut sebagai “ledakan kecerdasan” (intelligence explosion). Ia ialah senario risiko, bukannya bukti bahawa AI kini sudah menambah baik dirinya sendiri tanpa arahan manusia. Persoalan dasarnya ialah bagaimana mengukur dan mengawal peranan AI yang semakin besar dalam penyelidikan AI. 114

Bagaimana AI boleh mempercepat penyelidikan

AI boleh membantu dalam kerja membangunkan model masa depan. Jika bantuan itu membolehkan penyelidik menghasilkan sistem yang lebih berkemampuan, dan sistem tersebut kemudian mengambil alih lebih banyak tugas penyelidikan, setiap pusingan berpotensi mempercepat pusingan seterusnya. Idea ini dikenali sebagai penambahbaikan kendiri berulang: sistem AI membantu menambah baik proses yang digunakan untuk membina sistem AI. 15

Amaran penyelidik tertumpu pada kelajuan perubahan. Dalam satu senario yang dilaporkan berkaitan kertas mereka, kemajuan yang biasanya mengambil masa setahun mungkin berlaku dalam beberapa minggu. Itu ramalan, bukannya hasil yang sudah diukur; sumber yang ada tidak membuktikan bahawa kadar sedemikian telah dicapai. 314

Kajian terdahulu yang menemu bual 25 penyelidik daripada makmal AI terkemuka dan institusi akademik mendapati ramai menjangkakan AI akan mengautomasikan penyelidikan AI, lalu mewujudkan gelung maklum balas yang mempercepat kemajuan. Dapatan itu membantu menjelaskan mengapa kemungkinan ini dipandang serius dalam bidang tersebut, tetapi tidak menunjukkan bahawa ledakan kecerdasan pasti berlaku. 1

Apa yang mahu diteliti oleh pembuat dasar

Permintaan segera mereka ialah supaya penggunaan AI dalam penyelidikan dan pembangunan oleh syarikat diteliti dengan lebih jelas. Lebih 20 pemimpin dan penyelidik AI menggesa pembuat dasar menilai perkembangan itu serta mempertimbangkan langkah perlindungan. 2

Perbezaan ini penting: gesaan tersebut bukan bukti bahawa makmal AI sudah menyerahkan kawalan penyelidikan kepada AI. Maklumat yang lebih terperinci tentang tempat dan cara AI digunakan boleh membantu pembuat dasar menilai sama ada pengawasan sedia ada masih memadai apabila sistem AI mengambil bahagian yang lebih besar dalam proses pembangunan. 23

Mengapa ada pemimpin mahu pembangunan diperlahankan

Perlahankan pembangunan secara terselaras mungkin memberi masa untuk menguji keselamatan, membuat penilaian bebas dan memperkukuh pengawasan sebelum keupayaan sistem berubah lagi. Penyelidik di OpenAI dan Anthropic secara terbuka menyeru supaya pembangunan diperlahankan, manakala pemimpin industri lain lebih menyokong pendekatan yang dipacu pasaran. Perbezaan ini menunjukkan industri belum mencapai persetujuan tentang sejauh mana pembangunan patut diperlahankan—atau bagaimana jeda yang boleh dilaksanakan sepatutnya dibuat. 818

Langkah memperlahankan pembangunan juga menimbulkan persoalan praktikal: sistem atau aktiviti mana yang akan terlibat, siapa akan memantau pematuhan, dan bagaimana langkah itu boleh diselaraskan antara syarikat yang bersaing? Laporan yang tersedia menyatakan bahawa maksud jeda itu sendiri dan cara menguatkuasakannya masih belum jelas.

Cadangan keupayaan mematikan sistem

Presiden Microsoft, Brad Smith, berhujah bahawa pencipta model AI, penyedia infrastruktur awan dan pihak yang mengurus ejen AI sepatutnya boleh mematikan sistem. Cadangan itu membayangkan keupayaan mematikan sistem sebagai brek kecemasan yang mungkin berguna—bukan pengganti kepada pencegahan atau pemantauan berterusan.

Namun, mekanisme mematikan sistem ada batasnya. Sistem AI mungkin berjalan merentasi infrastruktur yang teragih, jadi satu suis tidak dapat menjamin setiap komponennya berhenti. Pakar turut menekankan perlunya pemantauan dan campur tangan manusia.

Kepentingan komersial dan cabaran penyelarasan

Cadangan supaya pembangun dan penyedia awan turut memainkan peranan dalam pengawasan menimbulkan persoalan tadbir urus: syarikat mungkin membantu mengawal sistem yang pada masa sama mereka bangunkan atau hoskan. Microsoft terlibat dalam pembangunan model AI dan, seperti yang jelas daripada kenyataan Smith, turut menyediakan perkhidmatan awan. Pertindihan peranan ini menjadikan semakan bebas dan peraturan yang jelas penting; namun, dengan sendirinya, ia bukan bukti bahawa pendirian keselamatan mana-mana syarikat tidak ikhlas. 2

Penyelarasan yang lebih luas juga sukar. Pemimpin industri berbeza pandangan tentang kelajuan pembangunan, sementara perbincangan untuk memperlahankannya berlangsung dalam keadaan syarikat bersaing untuk membina dan melancarkan AI. Sukar bagi sebuah syarikat mengekalkan sekatan sukarela jika syarikat lain terus bergerak pantas. Sumber menunjukkan wujudnya perbezaan pendapat dan tekanan persaingan, tetapi tidak membuktikan bahawa kepentingan pelaburan menentukan pandangan setiap penyelidik. 1218

Kesimpulan praktikalnya, pembuat dasar berdepan dua persoalan yang saling berkait: bagaimana menjejak peranan AI dalam pembangunan AI, dan bagaimana memastikan langkah perlindungan boleh disahkan—bukan bergantung semata-mata pada jaminan syarikat. Amaran ini menjadi alasan untuk meneliti persoalan tersebut sekarang, tetapi belum menjawab sejauh mana kemungkinan ledakan kecerdasan berlaku atau dasar mana yang paling berkesan. 123