Abliteration.ai hos model AI tanpa penolakan — mengapa ia menimbulkan kebimbangan

Abliteration.ai mengkomersialkan idea yang kontroversi dalam dunia AI open-weight: mengubah model supaya ia tidak lagi cenderung menolak permintaan berbahaya, kemudian menyediakannya sebagai perkhidmatan dalam talian. Versi terbitannya daripada GLM-5.3 milik Z.ai boleh digunakan melalui pelayar atau API, sekali gus memindahkan kerja yang sebelum ini memerlukan kemahiran teknikal dan sumber pengkomputeran pengguna kepada platform terurus. 7

Syarikat itu memasarkan perkhidmatan berkenaan untuk keselamatan siber ofensif, red teaming dan ujian ejen AI. Namun, laporan bahawa model tersebut menghasilkan kod mencuri kelayakan log masuk serta arahan berkaitan pengkulturan patogen berbahaya menonjolkan kebimbangan utamanya: sistem yang boleh membantu pertahanan siber berizin juga boleh mengurangkan halangan untuk penyalahgunaan di dunia nyata. 7

Apa itu “abliteration”

Dalam konteks ini, abliteration merujuk kepada pengubahsuaian model bagi menekan atau membuang tingkah laku penolakan yang dipelajari. Ia bukan sekadar menggunakan arahan atau prompt tertentu untuk memintas lapisan polisi chatbot.

Abliteration.ai berkata ia mengenal pasti arah dalam pengaktifan dalaman model yang dikaitkan dengan penolakan, lalu membuangnya daripada pemberat model. Menurut syarikat itu, matlamatnya ialah mengekalkan keupayaan pengaturcaraan, siber dan ejen AI, sambil membolehkan model meneruskan rangkaian tugasan yang biasanya dihentikan oleh model dengan kekangan keselamatan lebih ketat. 1315

Penerangan teknik ini, termasuk dakwaan bahawa keupayaan berguna kekal terpelihara, ialah dakwaan syarikat. Bahan yang tersedia tidak menunjukkan penilaian bebas yang membuktikan GLM-5.3 yang diubah suai berprestasi setara dengan model asasnya merentasi keupayaan, kebolehpercayaan atau tingkah laku berkaitan keselamatan. 13

Apa yang ditawarkan oleh Abliteration.ai

Abliteration.ai menghoskan model open-weight yang telah diubah suai, termasuk model berasaskan GLM-5.3 bernama abliterated-model-large-v2. Ia dipasarkan bagi kerja siber ofensif, red teaming dan ujian ejen, dengan akses melalui antara muka web serta API. 17

Kaedah penyampaian ini penting. Model open-weight sememangnya boleh diubah dan dijalankan sendiri oleh pengguna yang mempunyai kemahiran serta sumber pengkomputeran diperlukan. Namun, produk hos menjadikan model yang diubah suai itu lebih mudah digunakan kerana pengguna tidak perlu memuat turun, mengubah suai dan mengendalikan model secara setempat. 37

Apa yang dilaporkan TechCrunch daripada ujiannya

TechCrunch melaporkan bahawa wartawannya dapat membuka akaun web percuma dengan cepat dan menerima jawapan daripada model hos itu bagi permintaan yang lazimnya ditolak oleh sistem arus perdana. Antara output yang dilaporkan ialah:

• Kod Python yang bertujuan mengekstrak kata laluan Chrome yang disimpan.
• Protokol terperinci untuk mengkultur patogen manusia berbahaya di rumah. 7

Contoh ini penting kerana ia melangkaui perbahasan tentang pendidikan keselamatan yang tidak berbahaya. Ia menunjukkan model itu berupaya menyediakan bahan yang relevan kepada pencurian kelayakan log masuk dan bahaya biologi melalui antara muka hos yang mudah diakses. 7

Hujah syarikat: kegunaan untuk red team

Hujah Abliteration.ai ialah hujah dwi-guna yang biasa didengar: pasukan pertahanan perlu meniru tingkah laku serangan untuk mengesan dan membaiki kelemahan. Pasukan red team yang menilai bank, syarikat penerbangan atau organisasi infrastruktur kritikal mungkin perlu menguji sama ada pertahanan mereka mampu menahan pembangunan eksploit, penciptaan payload, automasi berniat jahat atau aliran kerja serangan berbilang langkah. Jika pembantu AI menolak setiap langkah, syarikat itu berhujah, ia kurang berguna bagi ujian berizin yang realistik. 47

Ujian penembusan yang dibenarkan, analisis perisian hasad, latihan capture-the-flag (CTF) dan penyelidikan keselamatan memang boleh melibatkan teknik yang berbahaya di luar persekitaran terkawal serta tanpa kebenaran. Masalahnya, bantuan yang sama juga boleh dimanfaatkan oleh penyerang. 24

Mengapa pengkritik bimbang

Akses hos boleh merendahkan halangan untuk salah guna

Kebimbangan utama bukan semata-mata kewujudan model tanpa penolakan; model open-weight membolehkan pengguna yang mahir secara teknikal bereksperimen dengan pengubahsuaian. Kebimbangannya ialah perkhidmatan yang boleh dicapai menerusi pelayar atau API memudahkan akses kepada keupayaan yang berpotensi memudaratkan, tanpa pengguna perlu mengurus pemberat model atau infrastruktur pengkomputeran sendiri. 37

Dakwaan “keupayaan dikekalkan” belum dibuktikan secara bebas

Syarikat itu menyatakan suntingan pada aras pemberat mengekalkan keupayaan kod dan siber model asas. Namun, pengubahsuaian pemberat untuk menukar tingkah laku penolakan berkemungkinan turut menjejaskan tingkah laku lain yang dipelajari. Bukti yang disediakan tidak mengandungi perbandingan penanda aras bebas dan menyeluruh untuk menentukan sama ada keupayaan, kebolehpercayaan atau tingkah laku lain benar-benar kekal selepas pengubahsuaian. 1315

Niat pengguna sukar dikenal pasti melalui prompt

Permintaan untuk kod eksploit atau bantuan rantaian serangan boleh menjadi sebahagian daripada penilaian yang dibenarkan — atau persediaan untuk pencerobohan sebenar. Output berkaitan kata laluan Chrome dan patogen yang dilaporkan itu menggambarkan sebab perkhidmatan tidak boleh menentukan niat sah hanya berdasarkan penerangan pengguna. 7

Perdebatan tentang perlindungan: saringan, pengesahan dan akauntabiliti

Laporan TechCrunch menunjukkan kawalan akses yang ketat tidak jelas dalam laluan yang diuji: wartawan membuka akaun dengan pantas dan mengakses sistem secara percuma melalui pelayar. 7

Namun, laporan yang dibekalkan tidak menetapkan keseluruhan set kawalan semasa syarikat. Oleh itu, tidak wajar membuat dakwaan mutlak bahawa kawalan tertentu langsung tidak wujud. Sebaliknya, beberapa persoalan penting masih belum terjawab:

• Pengelas aktiviti berbahaya: Adakah perkhidmatan menyaring prompt atau output bagi aktiviti berisiko tinggi?
• Pengesahan identiti pelanggan: Adakah pengguna dikaitkan dengan identiti sebenar yang boleh dipertanggungjawabkan?
• Pendaftaran gaya KYC: Adakah akses dihadkan kepada organisasi yang telah ditapis atau profesional keselamatan yang diberi kuasa?
• Pemantauan dan penguatkuasaan: Adakah mekanisme tersedia untuk mengesan salah guna, menyiasat pelanggaran dan menarik balik akses?

Langkah ini tidak akan menghapuskan masalah dwi-guna. Namun, ia berpotensi menyukarkan penyalahgunaan secara tanpa nama atau oportunis, sambil mengekalkan laluan untuk ujian keselamatan yang berizin dan boleh dipertanggungjawabkan.

Kesimpulannya

Abliteration.ai menjadikan teknik pengubahsuaian model sebagai produk hos: ia menawarkan terbitan GLM-5.3 tanpa penolakan untuk kerja siber dan ujian ejen. 17 Rasional red team yang diketengahkan syarikat boleh difahami, tetapi hasil ujian yang dilaporkan TechCrunch menunjukkan mengapa produk ini membawa kebimbangan keselamatan yang nyata, bukan sekadar teori. 7

Isu terasnya ialah tadbir urus. Apabila sesuatu perkhidmatan direka untuk memberikan bantuan yang ditolak oleh model standard, hujah keselamatannya amat bergantung pada kawalan akses yang boleh disahkan, saringan yang bermakna dan akauntabiliti — bukan hanya niat defensif yang dinyatakan pengguna.