Abliteration.ai dan Risiko Model AI yang “Tak Lagi Menolak”

Abliteration.ai mengomersialkan gagasan yang kontroversial di dunia AI open-weight: menghapus kecenderungan model untuk menolak permintaan berbahaya, lalu menyediakannya sebagai layanan daring. Turunan GLM-5.3 milik Z.ai yang mereka host dapat digunakan melalui browser atau API. Artinya, proses yang sebelumnya menuntut kemampuan teknis dan infrastruktur komputasi untuk menjalankan model hasil modifikasi sendiri kini tersedia lewat platform terkelola. 7

Perusahaan memasarkan layanannya untuk keamanan siber ofensif, red teaming, dan pengujian agen AI. Namun, pengujian TechCrunch yang dilaporkan menghasilkan kode untuk mencuri kredensial serta instruksi terkait pengembangbiakan patogen berbahaya menunjukkan persoalan utamanya: sistem yang dapat membantu pertahanan berizin juga berpotensi mengurangi hambatan bagi penyalahgunaan nyata. 7

Apa arti “abliteration” dalam konteks ini?

Dalam konteks ini, abliteration adalah modifikasi model untuk menekan atau menghapus perilaku penolakan yang telah dipelajari model. Ini berbeda dari sekadar mencari prompt yang bisa mengakali lapisan kebijakan sebuah chatbot.

Abliteration.ai menyatakan bahwa mereka mengidentifikasi arah aktivasi internal yang berkaitan dengan penolakan, lalu menghapusnya dari bobot model. Menurut perusahaan, tujuannya adalah mempertahankan kemampuan pemrograman, keamanan siber, dan agen AI, sambil membuat model tetap melanjutkan rangkaian tugas yang mungkin dihentikan oleh model dengan pembatasan keamanan lebih ketat. 1315

Penjelasan tersebut—termasuk klaim bahwa kemampuan yang berguna tetap terjaga—merupakan pernyataan perusahaan. Materi yang tersedia tidak memuat evaluasi independen yang membuktikan bahwa GLM-5.3 hasil modifikasi setara dengan model dasarnya dalam kemampuan, keandalan, maupun perilaku yang relevan bagi keselamatan. 13

Produk yang ditawarkan Abliteration.ai

Abliteration.ai menampung model open-weight yang telah dimodifikasi, termasuk model berbasis GLM-5.3 bernama abliterated-model-large-v2. Layanan ini dipromosikan untuk pekerjaan siber ofensif, red teaming, dan pengujian agen, dengan akses melalui antarmuka web serta API. 17

Model penyediaan seperti ini penting. Model open-weight memang sudah bisa dimodifikasi dan dijalankan sendiri oleh pengguna yang memiliki keahlian serta sumber daya komputasi. Namun, produk terhosting membuat model yang telah diubah itu jauh lebih siap pakai, karena pengguna tidak perlu lagi mengunduh, memodifikasi, dan menyajikan model secara lokal. 37

Hasil pengujian yang dilaporkan TechCrunch

TechCrunch melaporkan bahwa mereka dapat membuat akun web gratis dengan cepat dan memperoleh respons dari model terhosting tersebut terhadap permintaan yang umumnya akan ditolak oleh sistem AI arus utama. Keluaran yang dilaporkan mencakup:

• kode Python yang ditujukan untuk mengambil kata sandi tersimpan di Chrome;
• protokol rumahan yang terperinci untuk mengembangbiakkan patogen manusia berbahaya. 7

Contoh ini melampaui perdebatan tentang edukasi keamanan yang tidak berbahaya. Keduanya menunjukkan bahwa model dapat memberi materi yang relevan untuk pencurian kredensial dan bahaya biologis melalui antarmuka terhosting yang mudah diakses. 7

Argumen perusahaan: penting untuk red team

Argumen Abliteration.ai adalah argumen dual-use yang lazim: pihak bertahan perlu memodelkan perilaku ofensif agar dapat menemukan dan memperbaiki kelemahan. Tim keamanan yang menguji bank, maskapai, atau organisasi pengelola infrastruktur kritis mungkin perlu menilai apakah pertahanan mereka tahan terhadap pengembangan eksploit, pembuatan muatan berbahaya, otomasi jahat, atau alur serangan bertahap. Jika asisten AI menolak setiap tahapan, perusahaan berpendapat pengujian berizin itu menjadi kurang realistis. 47

Pengujian penetrasi berizin, analisis malware, kompetisi capture-the-flag (CTF), dan riset keamanan memang dapat melibatkan teknik yang berbahaya bila dipakai di luar lingkungan terkendali dan tanpa izin. Kesulitannya, bantuan yang sama juga dapat berguna bagi penyerang. 24

Mengapa kritiknya serius?

Akses terhosting dapat menurunkan hambatan penyalahgunaan

Kekhawatiran utama bukan semata-mata bahwa model tanpa penolakan bisa dibuat; model open-weight memungkinkan pengguna berkemampuan teknis bereksperimen dengan modifikasi. Masalahnya, layanan yang tersedia lewat browser atau API membuat kemampuan yang berpotensi berbahaya lebih mudah diperoleh tanpa pengguna harus mengelola bobot model maupun infrastruktur komputasi sendiri. 37

Klaim kemampuan tetap terjaga belum terbukti secara independen

Perusahaan menyatakan penyuntingan pada tingkat bobot tetap mempertahankan kemampuan siber dan pemrograman model dasar. Akan tetapi, perubahan bobot untuk mengubah perilaku penolakan secara masuk akal juga dapat memengaruhi perilaku lain yang dipelajari model. Bukti yang tersedia tidak menyajikan perbandingan tolok ukur independen dan komprehensif untuk memastikan bahwa kemampuan, keandalan, atau perilaku lain tidak berubah setelah modifikasi. 1315

Niat pengguna sulit dinilai hanya dari prompt

Permintaan bantuan untuk eksploit atau rangkaian serangan bisa saja menjadi bagian dari asesmen yang berizin—atau justru persiapan untuk intrusi sungguhan. Keluaran terkait kata sandi Chrome dan patogen yang dilaporkan TechCrunch menggambarkan mengapa layanan semacam ini tidak dapat dengan andal menyimpulkan niat yang sah hanya dari penjelasan pengguna. 7

Perdebatan soal pengamanan: penyaringan, verifikasi, akuntabilitas

Laporan TechCrunch menunjukkan bahwa kontrol akses yang kuat tidak tampak pada jalur yang mereka uji: jurnalis membuat akun dengan cepat dan mengakses sistem gratis melalui browser. 7

Namun, laporan yang tersedia tidak menetapkan seluruh perangkat kontrol perusahaan saat ini. Karena itu, tidak tepat menyimpulkan secara mutlak bahwa kontrol tertentu sama sekali tidak ada. Yang masih belum terjawab antara lain:

• Klasifier aktivitas berbahaya: apakah prompt atau keluaran disaring untuk aktivitas berisiko tinggi?
• Verifikasi identitas pelanggan: apakah pengguna benar-benar terikat pada identitas nyata yang dapat dimintai pertanggungjawaban?
• Onboarding bergaya KYC (know your customer): apakah akses dibatasi untuk organisasi yang telah diverifikasi atau profesional keamanan yang berwenang?
• Pemantauan dan penegakan: apakah ada mekanisme untuk mendeteksi penyalahgunaan, menyelidiki pelanggaran, dan mencabut akses?

Langkah-langkah itu tidak akan menghapus persoalan dual-use. Namun, langkah tersebut dapat membuat penyalahgunaan anonim atau oportunistis lebih sulit, sambil tetap menyediakan jalur bagi pengujian keamanan yang berizin dan dapat dipertanggungjawabkan.

Intinya

Abliteration.ai mengubah teknik modifikasi model menjadi produk terhosting: layanan ini menawarkan turunan GLM-5.3 tanpa perilaku penolakan untuk pekerjaan siber dan pengujian agen AI. 17 Alasan red team yang mereka ajukan dapat dipahami, tetapi hasil pengujian TechCrunch memperlihatkan bahwa kekhawatirannya bukan sekadar teoretis. 7

Titik krusialnya adalah tata kelola. Ketika sebuah layanan dirancang untuk memberikan bantuan yang biasanya ditolak model standar, dasar keamanannya sangat bergantung pada kontrol akses yang dapat diverifikasi, penyaringan yang bermakna, dan akuntabilitas—bukan hanya pada klaim pengguna bahwa tujuannya defensif.