British Columbia, sebuah provinsi di Kanada, menggugat OpenAI dan CEO-nya, Sam Altman, karena menilai perusahaan itu melewatkan peluang untuk mencegah penembakan di sekolah Tumbler Ridge. Pokok tuduhannya: OpenAI diduga telah melihat tanda bahaya dalam aktivitas ChatGPT pelaku, memblokir akun tersebut, tetapi tidak memberi tahu Kepolisian Berkuda Kerajaan Kanada atau RCMP (Royal Canadian Mounted Police). Gugatan diajukan di pengadilan federal San Francisco pada 21 September. Tuduhan ini belum merupakan temuan pengadilan.
17
19
Apa yang terjadi di Tumbler Ridge?
Pada 10 Februari, Jesse Van Rootselaar yang berusia 18 tahun membunuh delapan orang—enam anak dan dua orang dewasa—di Tumbler Ridge, British Columbia. Pelaku kemudian meninggal akibat luka tembak yang ditimbulkan sendiri.
22
Pemerintah British Columbia mengaitkan tragedi itu dengan desain produk dan prosedur pelaporan ancaman OpenAI. Menurut provinsi tersebut, persoalannya bukan sekadar pelaku pernah menggunakan ChatGPT, melainkan OpenAI diduga memiliki informasi yang cukup serius sehingga seharusnya melakukan lebih dari sekadar menutup satu akun.
17
22
Tuduhan utama British Columbia
British Columbia menuduh OpenAI lalai karena merancang dan mendistribusikan produk yang tidak aman, serta gagal memberi tahu aparat penegak hukum mengenai ancaman yang disampaikan lewat ChatGPT sebelum penembakan. Provinsi itu berpendapat bahwa peringatan dari OpenAI bisa sampai kepada polisi setempat dan mencegah serangan tersebut.
17
25
Gugatan itu meminta ganti rugi atas biaya pemulihan publik, baik yang sudah maupun akan dikeluarkan, serta perintah pengadilan agar OpenAI mengubah cara mengidentifikasi dan menangani percakapan ChatGPT yang mungkin mengarah pada kekerasan.
17
25
Namun, rangkaian sebab-akibat yang diajukan dalam gugatan masih harus diuji: apa yang akan diketahui polisi bila diberi laporan, tindakan apa yang dapat diambil, dan apakah intervensi itu benar-benar bisa mencegah serangan. Hal-hal tersebut belum dapat dianggap terbukti hanya karena sebuah akun pernah ditandai.
Sengketa soal peninjauan akun pada Juni 2025
OpenAI mengakui bahwa pada Juni 2025, sistem deteksi penyalahgunaan dan penegakannya mengidentifikasi akun yang terkait dengan Van Rootselaar. Sistem tersebut mencakup upaya mendeteksi penggunaan model untuk mendukung kekerasan. OpenAI kemudian memblokir akun itu.
33
Akan tetapi, OpenAI mengatakan tidak melaporkannya kepada pihak berwenang karena informasi yang tersedia kala itu tidak menunjukkan rencana kredibel dan segera untuk menimbulkan cedera fisik serius—ambang yang digunakan perusahaan untuk merujuk suatu kasus kepada penegak hukum.
33
43
Gugatan British Columbia mempertanyakan kecukupan respons tersebut. Menurut provinsi itu, peninjauan internal dan pemblokiran akun semestinya mendorong OpenAI untuk menghubungi RCMP. OpenAI selanjutnya menyatakan bahwa dengan protokol keamanan yang diterapkan setelah Juni 2025, akun itu kini akan dilaporkan ke polisi.
39
44
Mengapa riwayat percakapan penting?
Rekaman publik belum memuat keseluruhan percakapan ChatGPT pelaku. Jaksa Agung British Columbia, Niki Sharma, mengatakan OpenAI menolak membagikan riwayat chat tersebut kepada pemerintah provinsi.
37
Ketiadaan dokumen itu membatasi kemampuan publik untuk menilai sendiri seberapa spesifik isi percakapannya, bagaimana keputusan internal OpenAI dibuat, serta seberapa besar peluang polisi dapat melakukan intervensi seandainya diberi tahu.
Karena itu, perkara ini perlu dipahami secara hati-hati. Gugatan berfokus pada dugaan kegagalan dalam desain, deteksi, eskalasi, dan pencegahan bahaya—bukan pada kesimpulan yang telah terbukti mengenai persis apa yang dikatakan chatbot atau apakah chatbot menjadi penyebab langsung serangan.
Gugatan lain dan persoalan akun kedua
Keluarga korban, penyintas, murid, dan pendidik juga mengajukan perkara terkait di California. OpenAI meminta pengadilan membatalkan lebih dari tiga lusin gugatan, antara lain dengan alasan bahwa klaim terkait kematian dan cedera di British Columbia seharusnya diperiksa di sana, bukan di California.
26
28
Gugatan-gugatan terpisah itu juga memunculkan pertanyaan apakah pemblokiran satu akun saja merupakan langkah pengamanan yang efektif. OpenAI mengatakan pelaku membuat akun kedua setelah penangguhan pada Juni 2025, dan perusahaan baru mengetahui akun itu setelah penembakan terjadi. OpenAI menyatakan sedang memperketat upaya untuk mencegah pengguna yang diblokir kembali memakai layanannya.
36
45
Sikap OpenAI dan Sam Altman
OpenAI menyampaikan duka atas serangan tersebut, menyatakan tidak menoleransi penggunaan alatnya untuk memfasilitasi kekerasan, dan mengatakan telah memperkuat perlindungan keselamatan. Pemberitaan mengenai litigasi lanjutan juga menyebut permintaan maaf dari Altman.
38
39
Posisi utama OpenAI tetap lebih sempit: pemblokiran akun pada Juni 2025 dinilai tepat berdasarkan informasi yang saat itu tersedia, sedangkan aktivitas akun tersebut belum memenuhi standar perusahaan untuk pelaporan ancaman yang kredibel dan segera kepada penegak hukum.
33
43
Apa yang diminta British Columbia?
British Columbia menuntut ganti rugi terkait respons darurat dan pemulihan komunitas, termasuk biaya penggantian sekolah, serta perubahan dalam praktik OpenAI menangani potensi penggunaan ChatGPT untuk tindakan kekerasan.
17
23
Pada akhirnya, kasus ini mengangkat pertanyaan yang lebih luas bagi perusahaan AI: ketika sebuah platform menandai aktivitas bernuansa kekerasan tetapi belum yakin bahwa serangan akan segera terjadi, apakah perusahaan itu memiliki kewajiban untuk melaporkannya kepada aparat penegak hukum? Pengadilan belum memberikan jawaban untuk perkara ini.