Penyelidik Keselamatan AI Semakin Letih: Mengapa Ada Yang Menuntut Perlumbaan Diperlahankan

Bagi penyelidik keselamatan AI peringkat hadapan (frontier AI), tekanan kerjanya mempunyai bentuk yang luar biasa: mereka menilai sistem yang dipercayai boleh membawa mudarat besar, tetapi mungkin tidak mempunyai kuasa untuk menangguhkan pelancaran atau mewajibkan pembaikan.

Laporan menyatakan beberapa kakitangan di UK AI Safety Institute—badan yang menilai model AI paling maju—telah mengambil cuti perubatan atau mendapatkan kaunseling. Antara faktor yang disebut ialah jadual ujian yang ketat, semangat kerja yang rendah dan kebimbangan bahawa penggunaan komersial bergerak lebih pantas daripada perlindungan keselamatan. 2

Namun, laporan ini bukan bukti bahawa semua kakitangan di institut itu, atau di Anthropic, OpenAI dan Google DeepMind, mengalami tekanan yang sama. Ia sebaliknya memberi amaran tentang beban manusia dalam perlumbaan teknologi yang taruhannya dirasakan sangat tinggi.

Mengapa kerja ini boleh menjadi sangat berat secara psikologi

Penyelidik keselamatan tidak menilai teknologi yang masih jauh daripada penggunaan. Mereka menguji model yang mungkin akan digunakan tidak lama lagi. Di sinilah timbul konflik antara tanggungjawab profesional dan momentum organisasi: menemui kelemahan tidak semestinya bermakna seseorang mempunyai kuasa untuk menghentikan pelancaran.

Tekanan yang dilaporkan di institut UK itu berkait dengan tempoh penilaian yang semakin singkat bagi sistem yang belum dilancarkan, di samping kebimbangan tentang pelancaran komersial dan peningkatan keupayaan AI yang pesat. 2 Dalam keadaan sedemikian, keletihan boleh diperburuk oleh rasa memikul tanggungjawab terhadap risiko yang tidak dapat diselesaikan oleh seorang penilai secara bersendirian.

Ini lebih tepat dilihat sebagai masalah institusi, bukannya bukti bahawa mana-mana pekerja bertindak tidak rasional atau bencana pasti berlaku. Tekanan muncul apabila akibat kesilapan dianggap besar, kadar kerja amat pantas, dan mekanisme campur tangan bebas tidak jelas.

Risiko yang menjadi kebimbangan

Kebimbangan meliputi kedua-dua salah guna yang lebih dekat dan senario jangka panjang yang lebih spekulatif, termasuk kehilangan kawalan terhadap sistem AI.

Salah guna dalam keselamatan siber dan biologi

Model yang sangat berkeupayaan boleh mengurangkan kemahiran, masa atau kos yang diperlukan untuk melakukan aktiviti berbahaya. Bekas penyelidik Anthropic, Jacob Coxon—yang sebelum ini bekerja di OpenAI—menyebut ancaman biologi yang dibantu AI dan senjata siber sebagai antara laluan munasabah kepada mudarat serius. 15

Ini bukan dakwaan bahawa model tertentu sudah pun menyebabkan insiden sedemikian. Sebaliknya, inilah sebab pasukan keselamatan menekankan penilaian, kawalan akses dan pemantauan sebelum sistem dengan penaakulan atau tingkah laku ejen yang lebih berkeupayaan digunakan secara meluas.

Sistem yang berkembang lebih laju daripada pengawasan

Kebimbangan kedua ialah AI mungkin mengautomasi semakin banyak bahagian penyelidikan dan kejuruteraan, lalu mempercepatkan kitaran pembangunan itu sendiri. Laporan CSET Georgetown menyatakan penyelidikan dan pembangunan AI yang sangat automatik boleh mempercepatkan kemajuan keupayaan sambil menjadikan sistem lebih sukar difahami dan dikawal manusia; laporan itu mengemukakannya sebagai satu senario risiko yang mungkin, bukan hasil yang sudah terbukti. 48

Bukti semasa juga menetapkan had penting. Satu kajian mendapati ejen AI dapat melaksanakan kerja kejuruteraan penyelidikan yang besar tanpa bantuan manusia, tetapi gagal mencapai kemajuan bermakna pada soalan penyelidikan terbuka yang diuji. 49 Maka, penambahbaikan kendiri berulang tanpa had belum terbukti. Kebimbangannya ialah arah dan kelajuan: automasi separa pun boleh memendekkan masa untuk penilaian, tadbir urus dan pembetulan.

Mengapa peletakan jawatan Jacob Coxon mendapat perhatian

Peletakan jawatan terbuka Coxon memberi wajah manusia kepada kebimbangan yang lazimnya dibincangkan secara dalaman. Beliau berkata bahawa selepas bekerja dalam penyelidikan pralatihan di OpenAI dan Anthropic, beliau percaya syarikat-syarikat itu sedang berlumba ke arah kecerdasan super yang boleh memperbaik dirinya sendiri tanpa bertindak secara bertanggungjawab. Beliau turut memberitahu BBC bahawa mereka yang bekerja dengan teknologi itu “benar-benar takut” akan kadar kemajuannya dan kesan yang mungkin timbul. 1

Peletakan jawatan tidak membuktikan setiap ramalan orang yang keluar daripada organisasi. Namun, ia mendedahkan dilema di tempat kerja: sama ada kekal dalam makmal memberi peluang terbaik untuk memperkukuh perlindungan, atau keluar dan bersuara secara terbuka diperlukan apabila saluran dalaman dirasakan tidak mencukupi.

Mengapa sebuah makmal tidak mudah memperlahankan perlumbaan

Masalah terasnya ialah tindakan kolektif. Sebuah makmal yang memperlahankan pembangunan keupayaan secara bersendirian mungkin bimbang ketinggalan daripada pesaing, sedangkan pekerja di dalamnya mempunyai lebih sedikit pengaruh terhadap perlumbaan seluruh industri.

Perbincangan Stanford HAI tentang sama ada AI patut diperlahankan menyimpulkan bahawa memperlahankan pembangunan keupayaan AI secara meluas sukar dicapai. Namun, ahli panel menekankan penilaian bebas oleh kerajaan atau pihak ketiga yang layak, serta pelaburan lebih kukuh dalam keselamatan, sekuriti dan pemantauan. 18

Kerangka ini lebih nyata daripada meletakkan seluruh beban pada penyelidik individu. Fokusnya beralih daripada hati nurani peribadi kepada peraturan bersama: siapa menjalankan ujian, apa yang berlaku apabila ambang risiko dilanggar, dan siapa boleh mengesahkan pematuhan.

Adakah seruan industri untuk memperlahankan AI benar-benar ikhlas?

Dario Amodei dari Anthropic, Sam Altman dari OpenAI dan Demis Hassabis dari Google DeepMind telah menyokong, pada tahap yang berbeza, usaha memperlahankan atau “mengatur rentak” pembangunan AI peringkat hadapan. 32 Cadangan yang dibincangkan secara terbuka termasuk memberi penilai luar akses berterusan kepada makmal AI peringkat hadapan. 36

Namun, komitmen awam tidak sama dengan sekatan yang boleh dikuatkuasakan. Pengkritik menyatakan pembekuan AI yang direka oleh syarikat dominan boleh mengukuhkan kuasa mereka dan merugikan pesaing lebih kecil. 34 Kedua-dua perkara boleh benar serentak: sesetengah pemimpin mungkin benar-benar melihat risiko keselamatan, tetapi syarikat sedia ada masih boleh mendapat manfaat daripada peraturan yang sukar dipatuhi pencabar.

Oleh itu, ukuran yang lebih berguna bukan meneka motif, sebaliknya menilai sama ada komitmen itu boleh disahkan. Komitmen keselamatan yang serius lebih mudah dinilai melalui:

• penilaian bebas yang tidak dikawal sepenuhnya oleh pembangun;
• ambang risiko yang jelas serta akibat apabila ambang itu dilanggar;
• pelaporan insiden dan amalan keselamatan yang telus;
• pengawasan luar yang benar-benar bermakna; dan
• perlindungan untuk pekerja yang melaporkan kebimbangan keselamatan.

Apa yang laporan ini tunjukkan—dan apa yang tidak

Laporan ini tidak membuktikan kepupusan manusia sudah dekat, semua pekerja makmal AI mengalami tekanan, atau sistem AI sedia ada boleh memperbaik diri sendiri secara autonomi tanpa had.

Namun, ia menunjukkan mengapa sesetengah individu yang paling dekat dengan teknologi ini melihat keadaan semasa sebagai sukar dari segi etika: sistem berkuasa sedang diuji di bawah tekanan masa, mudarat yang dibimbangi meliputi salah guna siber dan biologi serta kehilangan kawalan, sementara institusi yang sepatutnya mengawal pelancaran mungkin belum cukup bebas atau berkuasa. 2 15 18

Bagi penyelidik keselamatan AI, gabungan itu boleh menjadikan kerja teknikal suatu persoalan tentang tanggungjawab peribadi. Penyelesaian yang berkekalan bukanlah meletakkan tanggungjawab tersebut pada pekerja seorang demi seorang, tetapi membina sistem penilaian dan akauntabiliti yang diyakini, bebas serta boleh disahkan—dan mampu bergerak seiring dengan teknologi yang dikawalnya.