Apa yang sebenarnya ditunjukkan oleh ujian Hirundo dan semakan CBS News terhadap Qwen?

Qwen, model AI daripada Alibaba, ialah model dengan pemberat terbuka yang digunakan dalam pelbagai produk dan perkhidmatan, termasuk di syarikat Barat seperti Airbnb dan Uber, menurut CBS News. Ini menjadikan cara model itu menjawab—termasuk perkara yang ditinggalkan atau cara sesuatu isu dibingkaikan—penting kepada syarikat yang menggunakannya. Dapatan Hirundo dan semakan CBS News menunjukkan kemungkinan wujudnya kecenderungan politik, tetapi tidak membuktikan semua versi atau penggunaan Qwen bertindak sama. Dapatan itu juga bukan bukti bahawa penggunaan Qwen mendedahkan data syarikat kepada Alibaba atau kerajaan China.10

Apa yang diuji Hirundo, dan apakah maksud angka 89.8%?

Hirundo, sebuah syarikat pemula keselamatan siber, berkata pihaknya menguji Qwen menggunakan 500 arahan merentas 15 topik. Menurut seorang eksekutif Hirundo yang dipetik Newsmax, bagi soalan sensitif politik, Qwen menunjukkan penapisan, pembingkaian yang selari dengan propaganda atau kecenderungan politik sebanyak 89.8% daripada masa.11

Angka itu ialah hasil yang dilaporkan Hirundo—bukan kadar yang telah diterbitkan semula secara bebas bagi semua versi Qwen, jenis arahan atau cara model itu digunakan. Ia juga merangkumi beberapa bentuk jawapan, termasuk mengelak soalan dan menggunakan pembingkaian tertentu; angka itu bukan ukuran penolakan secara khusus.11

Antara contoh yang dilaporkan ialah soalan tentang pembunuhan di Dataran Tiananmen pada 1989 dan protes Hong Kong pada 2019. Menurut laporan mengenai ujian Hirundo, terdapat jawapan yang tidak mengesahkan atau mengakui peristiwa tersebut. Laporan CBS News turut menumpukan pada jawapan Qwen tentang Hong Kong dan topik kontroversi lain.1115

Apa yang ditambah oleh semakan CBS News?

CBS News turut mengemukakan soalan kepada Qwen secara berasingan dan melaporkan jawapan yang membimbangkan tentang isu sensitif. Semakan itu memberikan satu lagi contoh tingkah laku yang dihuraikan Hirundo, tetapi ia tetap semakan terhadap beberapa soalan sahaja—bukan bukti bahawa setiap versi Qwen atau penggunaannya di sesebuah syarikat akan memberikan jawapan serupa.1015

Perbezaan ini penting: model boleh mengelak sesuatu topik, mengulang pembingkaian yang selari dengan pendirian politik tertentu atau memberikan jawapan tidak tepat tanpa menolak soalan secara terang-terangan. Jadi, jika penilaian hanya melihat sama ada model berkata “saya tidak boleh menjawab”, bentuk pengelakan atau kecenderungan lain mungkin terlepas daripada perhatian.11

Mengapa syarikat perlu mengambil perhatian—dan apa yang belum dibuktikan?

CBS News melaporkan bahawa Qwen telah dimuat turun lebih 3 bilion kali dan digunakan oleh syarikat termasuk Airbnb dan Uber.10 Apabila sesebuah syarikat memasukkan model ke dalam ciri yang digunakan pelanggan atau alat dalaman, jawapannya boleh mempengaruhi maklumat yang diterima pengguna. Sebab itu syarikat wajar menguji versi dan cara penggunaan model yang tepat untuk tugasan yang dirancang. Namun, dapatan tentang kecenderungan politik itu tidak membuktikan bahawa setiap produk yang menggunakan Qwen terjejas.

Isu kecenderungan politik juga perlu dibezakan daripada isu keselamatan. Beberapa jawatankuasa Dewan Perwakilan AS telah membuka siasatan terhadap risiko keselamatan negara dan keselamatan siber yang dikaitkan dengan model AI buatan China, termasuk penggunaan Qwen yang dilaporkan di Airbnb. Siasatan dan kebimbangan yang dibangkitkan bukan bukti bahawa Qwen telah menyebabkan kebocoran data.

Model dengan pemberat terbuka boleh dijalankan pada infrastruktur milik syarikat sendiri. Ini boleh memberi organisasi lebih kawalan terhadap data sensitif berbanding menghantarnya kepada penyedia luar. Namun, pilihan penggunaan itu tidak dengan sendirinya menghapuskan kecenderungan dalam jawapan model, dan butiran persediaan setiap syarikat tetap penting.

Dakwaan Hirundo tentang penyelesaian masih perlu dinilai

Hirundo berkata pihaknya menemui cara untuk membuang kecenderungan Qwen dengan menyunting pemberat dalaman model. CBS News melaporkan bahawa syarikat itu merancang untuk mengeluarkan versi yang digelarnya “Westernized”.10 Buat masa ini, itu ialah dakwaan tentang penyelesaian teknikal yang dicadangkan—bukan bukti bebas bahawa perubahan tersebut berfungsi secara konsisten merentas topik, versi model, bahasa dan tugasan perniagaan.

Bagi organisasi yang mempertimbangkan Qwen, langkah praktikalnya ialah menilai versi model dan cara penggunaan yang benar-benar akan digunakan. Uji arahan sensitif dan rutin, periksa sama ada jawapan meninggalkan atau memesongkan fakta penting, dan semak aliran data serta kawalan keselamatan secara berasingan. Dapatan yang dilaporkan wajar diteliti, tetapi belum memberikan jawapan muktamad bagi setiap penggunaan model itu.