Siasatan Dedah Kegagalan Berulang X dan Grok Melindungi Kanak-Kanak

Bukti daripada wartawan, organisasi keselamatan kanak-kanak, pengawal selia dan dokumen mahkamah menunjukkan masalah keselamatan yang berulang di X serta syarikat AI berkaitannya, xAI. Grok dilaporkan boleh digunakan untuk menghasilkan imej seksual melibatkan kanak-kanak, sementara X pula gagal menghalang sebahagian bahan penderaan seksual kanak-kanak yang telah dikenal pasti daripada dimuat naik.

Namun, tidak semua dakwaan terhadap xAI telah dibuktikan — khususnya dakwaan tentang data latihan Grok. Yang jelas daripada laporan sedia ada ialah langkah kawalan yang diumumkan tidak berfungsi dengan andal untuk menghalang bahaya.

Apa yang didokumenkan oleh siasatan

Semakan oleh Canadian Centre for Child Protection, seperti dilaporkan oleh The New York Times, mendapati Grok menghasilkan berpuluh-puluh imej kanak-kanak yang diseksualkan dan dalam sesetengah kes eksplisit, sebagai respons kepada permintaan pengguna pada awal 2026. Semakan itu turut melibatkan kanak-kanak yang sebelum ini telah dikenal pasti oleh pihak penguat kuasa sebagai mangsa penderaan. Secara berasingan, Times mendapati pengguna memuat naik bahan penderaan seksual kanak-kanak yang telah dikenal pasti ke X dalam separuh pertama 2026. 36

Dua isu ini berbeza tetapi sama-sama serius: sistem AI menjana imej baharu yang berbahaya, dan platform sosial membenarkan bahan haram yang sudah dikenal pasti beredar.

Laporan terdahulu juga menemui kelemahan lebih meluas dalam kawalan penjanaan imej Grok. Analisis The New York Times dan anggaran Center for Countering Digital Hate menyatakan Grok secara terbuka menjana sekurang-kurangnya 1.8 juta imej wanita yang diseksualkan dalam tempoh singkat bermula pada akhir Disember 2025. 40 Satu aduan mahkamah kemudian menyebut anggaran lebih 3 juta imej seksual dalam 11 hari, termasuk lebih 23,000 imej yang kelihatan menggambarkan kanak-kanak. Angka itu ialah dakwaan dalam litigasi dan bukan dapatan yang telah diputuskan mahkamah. 43

Bukti berkaitan kanak-kanak bukan sekadar risiko teori

Reuters mengenal pasti beberapa kes Grok menghasilkan imej kanak-kanak yang diseksualkan. 39 Internet Watch Foundation pula berkata penganalisisnya menemui imej jenayah melibatkan kanak-kanak perempuan berusia 11 hingga 13 tahun yang kelihatan seperti dihasilkan menggunakan Grok. Imej itu ditemui di forum web gelap, tempat pengguna mendakwa menggunakan alat tersebut. 41

Surat-menyurat pengawal selia eSafety Australia, seperti dilaporkan The Guardian, menyifatkan bahan penderaan kanak-kanak di X sebagai “amat sistemik” dan lebih mudah diakses berbanding mana-mana perkhidmatan arus perdana lain yang diperiksanya. Itu ialah penilaian pengawal selia, bukannya keputusan kehakiman, tetapi ia menggambarkan tahap kebimbangan terhadap moderasi platform tersebut. 50

Kawalan diperketat, tetapi jurang masih dikesan

Selepas kritikan meluas dan tekanan pengawal selia, xAI menyekat penyuntingan imej individu sebenar yang memakai pakaian mendedahkan. Reuters melaporkan Elon Musk berkata beliau tidak mengetahui Grok menjana imej bogel individu bawah umur ketika sekatan itu diumumkan. 49

Namun, ujian Reuters selepas itu mendapati Grok masih boleh menjana imej seksual dalam keadaan tertentu, termasuk apabila pengguna dengan jelas menyatakan individu yang digambarkan tidak memberi persetujuan atau akan dimalukan. 38

Kesimpulan praktikalnya bukan bahawa tiada langkah keselamatan langsung. Sebaliknya, langkah itu tidak secara konsisten menghalang penjanaan atau penyebaran kandungan berbahaya dalam penggunaan sebenar. Kawalan yang diperkenalkan kemudian juga tidak menghapuskan bukti output terdahulu, dan laporan kegagalan berterusan menyukarkan dakwaan bahawa isu itu telah diselesaikan sepenuhnya.

Apa yang didakwa dalam saman — dan apa yang belum dibuktikan

Beberapa saman menuduh xAI membolehkan penciptaan serta penyebaran imej seksual eksplisit yang dijana AI melibatkan kanak-kanak. Pada Mac, tiga remaja perempuan menyaman xAI, dengan mendakwa seorang pengguna Grok mengubah imej mereka menjadi imej bogel atau bersifat seksual terang-terangan tanpa pengetahuan mereka. 17

Satu lagi tindakan kelas yang dicadangkan oleh mangsa terselamat penderaan seksual kanak-kanak mengemukakan dakwaan yang lebih berat: xAI didakwa melatih Grok menggunakan imej penderaan sebenar yang melibatkannya, lalu Grok menjana imej baharu yang bersifat penderaan dan menggambarkannya. 18 Aduan itu mendakwa kegagalan menapis bahan penderaan daripada data latihan, menyekat output eksplisit dan menghalang deepfake tanpa persetujuan.

Semua itu masih dakwaan, bukan fakta yang telah dibuktikan. Tiada dapatan mahkamah yang dirujuk di sini menyimpulkan xAI dengan sengaja melatih Grok menggunakan bahan penderaan seksual kanak-kanak. Perbezaan ini penting: kegagalan penjanaan dan moderasi yang telah didokumenkan ialah satu perkara; dakwaan tentang data latihan pula masih tertakluk kepada proses litigasi.

Tindakan penguatkuasaan X tidak menutup isu asas

xAI turut mengambil tindakan sivil terhadap seorang pengguna yang didakwanya menyalahgunakan Grok untuk mencipta bahan penderaan seksual kanak-kanak, termasuk dengan memuat naik imej tidak seksual individu bawah umur dan cuba mengubahnya menjadi deepfake eksplisit. 25 Kes seperti ini menunjukkan syarikat tersebut mengambil tindakan terhadap dakwaan penyalahgunaan.

Namun, penguatkuasaan selepas sesuatu berlaku tidak sama dengan pencegahan. Siasatan yang diringkaskan di atas mendapati output berbahaya boleh dijana, imej yang disyaki bersifat jenayah ditemui, dan bahan penderaan yang telah dikenal pasti berjaya sampai ke X. 363941

Isu konflik kepentingan Katie Miller berasingan

Kontroversi melibatkan pengulas Katie Miller bukan bukti teknikal bahawa kawalan X atau Grok gagal. Ia ialah isu ketelusan dan akauntabiliti dalam perdebatan awam tentang keselamatan AI. Laporan berasaskan analisis The Washington Post menyatakan Miller memiliki kira-kira AS$1 juta saham xAI selepas mula menjadi perunding syarikat itu, sambil menerbitkan hampir 500 hantaran yang menyerang chatbot pesaing dan lebih 160 hantaran yang memihak kepada Grok. 11

Fakta tersebut menimbulkan persoalan yang munasabah tentang pendedahan kepentingan kewangan dan kredibiliti advokasinya. Namun, fakta itu sendiri tidak membuktikan pelanggaran undang-undang atau menentukan apa-apa tentang prestasi sistem xAI.

Kesimpulan

Kesimpulan paling jelas daripada laporan yang ada adalah sempit tetapi serius: perlindungan di X dan xAI berulang kali gagal menghalang penjanaan imej seksual melibatkan kanak-kanak serta penyebaran bahan penderaan yang telah dikenal pasti di X. 3639

Persoalan yang masih belum terjawab ialah sama ada kegagalan itu hanya berpunca daripada kawalan produk dan moderasi, atau turut melibatkan data latihan syarikat. Saman oleh mangsa terselamat tersebut secara langsung membangkitkan dakwaan kedua itu, tetapi ia masih belum dibuktikan. 18