Britanya Kolumbiyası’nın (B.C.) OpenAI ve CEO’su Sam Altman’a açtığı dava, Tumbler Ridge’deki okul saldırısından önceki ChatGPT faaliyetlerinin şirket tarafından nasıl ele alındığına odaklanıyor. Eyalet, OpenAI’nin saldırganın hesabında ciddi uyarı işaretleri tespit ettiğini, hesabı kapattığını ancak Kanada Kraliyet Atlı Polisi’ne (RCMP) bildirim yapmadığını öne sürüyor. Dava 21 Eylül’de San Francisco’daki federal mahkemeye sunuldu. Henüz sonuçlanmamış olması nedeniyle, eyaletin ileri sürdüğü hususlar mahkeme tarafından saptanmış gerçekler değil.
17
19
Tumbler Ridge’de ne oldu?
Haberlere göre 10 Şubat’ta 18 yaşındaki Jesse Van Rootselaar, Britanya Kolumbiyası’ndaki Tumbler Ridge’de altı çocuk ve iki yetişkin olmak üzere sekiz kişiyi öldürdü; ardından kendi hayatına son verdi.
22
B.C. hükümeti, saldırganın şiddet öncesinde ChatGPT kullandığı iddiası nedeniyle olayın OpenAI’nin ürün tasarımı ve tehdit bildirim uygulamalarıyla bağlantılı olduğunu savunuyor. Eyaletin iddiası, ChatGPT’nin yalnızca olayların arka planında bulunduğu değil; OpenAI’nin hesabı kapatmanın ötesinde harekete geçmesini gerektirecek nitelikte bilgiye sahip olduğudur.
17
22
Eyaletin temel iddiası ne?
B.C., OpenAI’yi güvenli olmayan bir ürünü ihmal sonucu tasarlayıp piyasaya sunmakla ve saldırıdan önce ChatGPT üzerinden iletildiği öne sürülen tehditleri kolluk kuvvetlerine bildirmemekle suçluyor. Eyalete göre yapılacak bir uyarı yerel polise ulaşabilir ve saldırıyı önleyebilirdi.
Dava; geçmiş ve gelecekteki kamusal iyileşme giderleri için tazminatın yanı sıra, şiddete yol açabilecek ChatGPT konuşmalarının tespit edilmesi ve ele alınmasında değişiklik yapılmasını öngören bir mahkeme kararı talep ediyor.
17
25
Bu iddianın merkezinde karşı olgusal bir soru bulunuyor: Polis ne öğrenebilirdi, ne yapabilirdi ve bir müdahale gerçekten saldırıyı engeller miydi? Bu sorular, yalnızca hesabın işaretlenmiş olmasından hareketle varsayılamaz; dava sürecinde deliller ve hukuki tartışmalarla sınanacak.
Haziran 2025’teki hesap incelemesi neden tartışılıyor?
OpenAI, Van Rootselaar ile bağlantılı bir hesabı Haziran 2025’te, şiddet amaçlı model kullanımını da tespit etmeyi hedefleyen kötüye kullanım ve yaptırım sistemleri yoluyla belirlediğini kabul etti. Şirket hesabı kapattı.
33
Ancak OpenAI, o tarihte elindeki bilgilerin, kolluk kuvvetlerine bildirim için kullandığı “başkalarına yönelik ciddi fiziksel zarar bakımından yakın ve inandırıcı plan” eşiğini karşılamadığını belirtiyor. Bu nedenle yetkililere bildirim yapmadığını söylüyor.
33
43
B.C. ise bu yaklaşımın yetersiz olduğu görüşünde. Eyalete göre, iç incelemeye ve hesap kapatmaya yol açan işaretler OpenAI’nin RCMP’ye başvurmasını gerektirmeliydi. OpenAI daha sonra, Haziran 2025’ten sonra kabul edilen güvenlik protokolleri yürürlükte olsaydı bu hesapla ilgili polise bildirim yapılacağını açıkladı.
39
44
Sohbet geçmişi neden kritik önemde?
Kamuya açık kayıtlarda, ChatGPT ile yapılan konuşmaların tamamı yer almıyor. Başsavcı Niki Sharma, OpenAI’nin saldırganın sohbet geçmişini eyaletle paylaşmayı reddettiğini söyledi. Bu durum; konuşmaların ne kadar açık ve somut olduğunu, şirket içindeki karar sürecini ve polise bildirim yapılmış olsaydı müdahale ihtimalini kamuoyunun bağımsız biçimde değerlendirmesini zorlaştırıyor.
37
Bu eksik bilgi, dosyanın dikkatli bir dille anlatılmasını gerektiriyor: Dava, sohbet robotunun tam olarak ne söylediği ya da neye sebep olduğu yönünde kanıtlanmış sonuçlardan ziyade, ürün tasarımı, risk tespiti, bildirim ve zararı önleme konularındaki iddia edilen eksikliklerle ilgili.
Diğer davalar ve ikinci hesap tartışması
Mağdur aileleri, hayatta kalanlar, öğrenciler ve eğitimciler de Kaliforniya’da bağlantılı davalar açtı. OpenAI, üç düzineden fazla davanın reddini istedi; şirketin savunmalarından biri, Britanya Kolumbiyası’ndaki ölüm ve yaralanmalarla ilgili taleplerin Kaliforniya yerine Britanya Kolumbiyası’nda görülmesi gerektiği yönünde.
26
28
Ayrı iddialar, yalnızca hesap kapatmanın etkili bir güvenlik önlemi olup olmadığı sorusunu da gündeme getiriyor. OpenAI, saldırganın Haziran 2025’teki kapatmanın ardından ikinci bir hesap oluşturduğunu ve şirketin bu hesaptan saldırı sonrasına kadar haberdar olmadığını bildirdi. Şirket, yasaklanan kullanıcıların hizmete geri dönmesini zorlaştıracak adımlar attığını da açıkladı.
36
45
OpenAI ve Altman ne diyor?
OpenAI saldırı nedeniyle üzüntüsünü ifade etti, araçlarının şiddeti kolaylaştırmak için kullanılmasına karşı sıfır tolerans politikası bulunduğunu belirtti ve güvenlik önlemlerini güçlendirdiğini söyledi. Sonraki davalara ilişkin haberlerde Altman’ın da özür dilediği aktarıldı.
38
39
Şirketin temel savunması daha dar bir çerçevede: OpenAI’ye göre, Haziran 2025’te mevcut bilgiler temelinde hesabın kapatılması doğru adımdı; faaliyet, kolluk kuvvetlerine bildirim yapılması için o sırada geçerli olan yakın ve inandırıcı tehdit standardına ulaşmıyordu.
33
43
Britanya Kolumbiyası ne talep ediyor?
Eyalet; acil müdahale ve toplumun toparlanmasıyla bağlantılı giderler, ayrıca okulun yenilenmesiyle ilişkili maliyetler için tazminat istiyor. Bunun yanında, OpenAI’nin ChatGPT’nin potansiyel olarak şiddet içeren kullanımını nasıl belirlediği ve ele aldığı sistemlerde değişiklik talep ediyor.
17
23
Dolayısıyla dava, yapay zekâ şirketleri açısından daha geniş bir hukuki soruyu gündeme getiriyor: Bir platform şiddetle bağlantılı faaliyet tespit ettiğinde fakat saldırının yakın olduğundan emin olmadığında, bu bilgiyi kolluk kuvvetlerine bildirme yükümlülüğü var mı? Bu davada mahkeme henüz bu soruyu yanıtlamış değil.