Tekanan di makmal AI: apabila tugas mengawal risiko sendiri menjadi beban moral

Laporan mengenai cuti sakit, kaunseling dan peletakan jawatan dalam kalangan penyelidik keselamatan AI mencerminkan pertembungan antara tekanan moral dan desakan institusi. Mereka yang ditugaskan menguji model AI tercanggih bimbang sistem ini — serta perlumbaan untuk melancarkannya — boleh membuka ruang kepada bahaya biologi atau siber sebelum perlindungan, pengawasan dan kapasiti penilaian sempat mengejar. Beberapa kakitangan UK AI Safety Institute (AISI), badan yang menilai model AI termaju secara bebas, dilaporkan mengambil cuti perubatan atau mendapatkan kaunseling ketika berdepan jadual ujian yang ketat. Kebimbangan seumpama itu turut dilaporkan dalam kalangan penyelidik di makmal AI besar, walaupun bukti awam belum menunjukkan sejauh mana ia tersebar dalam setiap organisasi. 8 15

Risiko yang dibimbangkan bukan sekadar teori jauh

Kebimbangan penyelidik meliputi risiko segera dan juga senario yang lebih ekstrem. Model AI mungkin merendahkan halangan untuk melakukan serangan siber atau penyalahgunaan dalam bidang biologi. Dalam jangka lebih panjang, mereka turut bimbang tentang sistem yang semakin autonomi sehingga kawalan manusia tidak lagi benar-benar bermakna. Jacob Coxon secara khusus menyifatkan ancaman biologi yang dibantu AI dan senjata siber sebagai laluan yang munasabah ke arah bencana. 15

Menguji AI boleh menimbulkan rasa terlibat dalam risiko itu sendiri

Bagi kakitangan keselamatan, isu ini bukan bahan perbahasan abstrak. Mereka menilai, melatih atau membantu menyediakan sistem yang berpotensi menimbulkan risiko tersebut. Jika jadual ujian padat tetapi persaingan komersial terus memacu pelancaran, jurang antara mengesan bahaya dan mempunyai kuasa untuk menghentikan pelepasan model boleh mencetuskan keletihan, rasa tidak berdaya dan kecederaan moral. 8

Peletakan jawatan Jacob Coxon menjadikan kebimbangan dalaman lebih terbuka

Coxon, yang pernah menjalankan kerja pralatihan model di OpenAI dan Anthropic, berhenti daripada Anthropic dan menuduh syarikat-syarikat tersebut berlumba ke arah kecerdasan super yang boleh memperbaik dirinya sendiri tanpa bertindak secara bertanggungjawab. Amaran terbukanya menjadikan ketakutan yang sebelum ini mungkin dibincangkan secara tertutup lebih jelas kepada umum — dan meningkatkan tekanan peribadi terhadap pekerja lain yang mempertimbangkan sama ada mahu kekal, membantah atau meninggalkan organisasi. 14

Dalam wawancara dengan BBC, Coxon berkata individu di dalam makmal AI terkemuka “benar-benar takut” terhadap kelajuan kemajuan teknologi itu dan implikasinya. 9

Mengapa tindakan bersama dan pengawasan luar sering disebut

Perdebatan ini bukan sesuatu yang boleh diselesaikan oleh seorang pekerja atau sebuah makmal sahaja. Jika sebuah syarikat memperlahankan pembangunan sedangkan pesaingnya terus memecut, syarikat itu mungkin berdepan tekanan untuk kembali berlumba. Sebab itu, cadangan yang dikaitkan dengan perbahasan di Stanford menekankan penyelarasan antara pihak, penilaian bebas yang diyakini, serta peraturan awam.

Panel Stanford menyimpulkan bahawa memperlahankan pembangunan keupayaan AI secara menyeluruh akan sukar dilaksanakan. Namun, mereka menegaskan penilaian bebas oleh kerajaan atau pihak ketiga yang layak patut menjadi amalan biasa dalam ekosistem AI. 3

Sumber yang tersedia tidak mencukupi untuk mengaitkan cadangan tindakan pekerja secara terperinci kepada Rob Reich, melangkaui kerangka lebih luas tentang keperluan tadbir urus bersama dan bukan keputusan yang diserahkan sepenuhnya kepada makmal AI.

Retorik “memperlahankan AI” belum menyelesaikan isu kepercayaan

Dario Amodei, Sam Altman, Demis Hassabis dan tokoh lain telah menyokong, pada tahap yang berbeza, idea untuk memperlahankan kemajuan AI tercanggih. 2 Namun, pengkritik berhujah bahawa “pembekuan AI” yang direka atau dikuatkuasakan oleh syarikat sedia ada boleh mengukuhkan kedudukan syarikat gergasi itu sambil menyukarkan pesaing lebih kecil untuk bersaing. 11

Jadi persoalan utamanya bukan sekadar sama ada syarikat bercakap tentang keselamatan. Ujian kredibiliti sebenar ialah tindakan yang boleh diperiksa: penangguhan pelancaran, audit bebas, ambang risiko yang boleh dikuatkuasakan, perlindungan pemberi maklumat, dan kesediaan menerima sekatan daripada pihak luar.

Automasi penyelidikan AI menjadikan garis masa terasa semakin sukar dikawal

Kebimbangan ini bukan bermaksud AI sudah mencapai keupayaan memperbaik dirinya sendiri secara berulang tanpa campur tangan manusia. Ia belum berlaku. 6 Sebaliknya, AI semakin mampu mengautomasi sebahagian kerja penyelidikan dan kejuruteraan. Ini berpotensi memendekkan kitaran pembangunan, lalu menjadikan keupayaan AI meningkat lebih cepat daripada kemampuan manusia untuk memahami, menguji dan mentadbirnya.

Pusat Keselamatan dan Teknologi Muncul (CSET) menyatakan automasi penyelidikan dan pembangunan AI boleh mempercepat kemajuan AI serta menjejaskan kefahaman dan kawalan manusia. 4 Pada masa yang sama, satu kajian mendapati ejen AI boleh menyiapkan bahagian kejuruteraan yang besar dalam kerja penyelidikan, tetapi belum mampu membuat kemajuan bermakna dalam penyelidikan saintifik terbuka tanpa hala tuju tetap. 5

Kesimpulannya, keadaan ini bukan bukti bahawa kepupusan manusia sudah pasti atau hampir berlaku. Tetapi ia menunjukkan sebahagian individu yang paling dekat dengan pembangunan AI tercanggih menilai gabungan keupayaan yang semakin pantas, risiko dwi-guna, insentif persaingan dan kawalan luar yang lemah sebagai sesuatu yang sukar ditanggung dari segi psikologi dan etika.