Mengapa Peneliti Keamanan AI Mengambil Cuti Sakit atau Mengundurkan Diri?

Tekanan yang dialami sebagian peneliti keamanan AI tampaknya berawal dari pertemuan antara beban moral dan tekanan institusional. Mereka bertugas menguji model AI terdepan—yakni model dengan kemampuan paling maju—tetapi khawatir sistem tersebut, atau perlombaan untuk segera merilisnya, dapat membuka jalan bagi bahaya biologis maupun siber sebelum pengamanan, pengawasan, dan kapasitas evaluasi benar-benar memadai.

Laporan mengenai UK AI Safety Institute (AISI), lembaga Inggris yang mengevaluasi model AI terdepan secara independen, menyebut sejumlah staf mengambil cuti medis atau mencari konseling. Sumber yang dikutip laporan itu juga menggambarkan moral kerja yang rendah dan kelelahan akibat tenggat pengujian yang ketat. Kekhawatiran serupa dilaporkan ada di laboratorium AI besar, tetapi bukti publik yang tersedia belum menunjukkan seberapa luas hal itu terjadi di masing-masing organisasi.15

Risiko yang dikhawatirkan bukan hanya skenario jauh di masa depan

Peneliti mengkhawatirkan AI dapat menurunkan hambatan bagi pelaku untuk melakukan serangan siber atau penyalahgunaan biologis. Ada pula kekhawatiran jangka lebih panjang bahwa sistem yang makin otonom akan menjadi sulit diawasi dan dikendalikan manusia secara bermakna. Jacob Coxon secara khusus menyoroti ancaman biologis berbantuan AI dan senjata siber sebagai jalur yang masuk akal menuju bencana.15

Bagi staf keselamatan, persoalannya terasa sangat personal. Mereka bukan sekadar mengamati risiko dari luar: mereka menilai, melatih, atau membantu proses penerapan sistem yang sedang mereka periksa. Ketika jadwal pengujian sempit sementara persaingan bisnis tetap berjalan, menemukan bahaya belum tentu berarti seseorang punya kewenangan untuk menghentikan peluncuran. Kesenjangan itu dapat memicu kelelahan, rasa tidak berdaya, dan cedera moral.15

Pengunduran diri Jacob Coxon membuat kecemasan internal menjadi terbuka

Coxon pernah mengerjakan riset pretraining di OpenAI dan Anthropic. Setelah mengundurkan diri dari Anthropic, ia menuduh kedua perusahaan berlomba menuju superinteligensi yang mampu memperbaiki dirinya sendiri tanpa bertindak cukup bertanggung jawab.14 Dalam wawancara dengan BBC, ia mengatakan orang-orang di laboratorium AI terkemuka “benar-benar takut” terhadap kecepatan kemajuan AI dan dampaknya bagi umat manusia.9

Pernyataan itu tidak membuktikan bahwa semua pekerja di perusahaan AI memiliki pandangan yang sama. Namun, peringatan Coxon membuat kekhawatiran yang sebelumnya mungkin dibicarakan secara internal menjadi lebih terlihat di ruang publik—dan memperbesar pertaruhan pribadi bagi pekerja yang sedang mempertimbangkan untuk bertahan, menyampaikan keberatan, atau pergi.

Mengapa masalah ini juga menyangkut tata kelola dan persaingan

Perdebatan yang melibatkan Rob Reich dari Stanford berangkat dari persoalan mendasar: satu pekerja atau satu laboratorium tidak dapat mengendalikan perlombaan kompetitif sendirian. Diskusi Stanford menyimpulkan bahwa perlambatan luas atas pengembangan kemampuan AI akan sulit dicapai. Namun, para panelis menekankan pentingnya evaluasi independen oleh pemerintah atau pihak ketiga yang memenuhi syarat, serta investasi lebih besar pada keselamatan, keamanan, pemantauan, audit risiko, dan kehati-hatian dalam penerapan.3

Sumber yang tersedia tidak cukup untuk mengaitkan usulan aksi pekerja terkoordinasi yang spesifik dan terperinci kepada Reich, melampaui kerangka tata kelola yang lebih luas tersebut.

Sementara itu, Dario Amodei dari Anthropic, Sam Altman dari OpenAI, Demis Hassabis dari Google DeepMind, dan tokoh industri lain telah menyatakan dukungan—dengan tingkat kekhususan berbeda—untuk memperlambat laju pengembangan AI terdepan.2 Namun, kritiknya jelas: jika “pembekuan AI” dirancang atau diawasi oleh perusahaan besar yang sudah dominan, kebijakan itu justru dapat mengukuhkan posisi mereka dan menyulitkan pesaing yang lebih kecil.11

Karena itu, ujian kredibilitasnya bukan semata-mata pernyataan tentang keselamatan. Yang dinilai adalah tindakan yang dapat diverifikasi: penundaan rilis bila ambang risiko terlampaui, audit independen, batas kemampuan yang dapat ditegakkan, perlindungan pelapor pelanggaran, serta kesediaan menerima pengawasan dari luar perusahaan.

Otomatisasi riset AI memperkuat rasa bahwa laju kemajuan sulit dikendalikan

Kekhawatirannya bukan bahwa AI sudah mencapai kemampuan memperbaiki dirinya sendiri secara rekursif; riset yang dikutip menyatakan hal itu belum terjadi.6 Yang menjadi perhatian adalah AI semakin mampu mengotomatiskan sebagian pekerjaan riset dan rekayasa. Jika siklus eksperimen, pemrograman, dan pengembangan model menjadi lebih cepat, peningkatan kemampuan AI berpotensi melaju melampaui kemampuan manusia untuk memahami, menguji, dan mengaturnya.

CSET mencatat otomatisasi riset dan pengembangan AI dapat mempercepat kemajuan AI sekaligus mengurangi kemampuan manusia untuk memahami dan mengendalikannya.4 Namun, kemampuan saat ini tetap memiliki batas. Sebuah studi menemukan agen AI dapat menyelesaikan pekerjaan rekayasa riset dalam jumlah besar tanpa bantuan manusia, tetapi belum mampu membuat kemajuan ilmiah yang berarti dalam pertanyaan riset terbuka.5

Jadi, situasi ini bukan bukti bahwa kepunahan manusia sudah dekat. Ini adalah bukti bahwa sebagian orang yang paling dekat dengan pengembangan AI terdepan menilai gabungan kemampuan yang makin cepat, risiko penggunaan ganda, insentif persaingan, dan lemahnya kendali eksternal sebagai sesuatu yang secara psikologis dan etis sulit mereka tanggung.