ब्रिटिश कोलंबिया का मुकदमा टम्बलर रिज स्कूल गोलीकांड को OpenAI की कथित चूकी हुई कार्रवाई से जोड़ता है। प्रांत का कहना है कि शूटर की ChatGPT गतिविधि में चेतावनी के संकेत मिले थे, उसका खाता निलंबित किया गया, लेकिन रॉयल कैनेडियन माउंटेड पुलिस (RCMP) को सूचना नहीं दी गई। 21 सितंबर को सैन फ्रांसिस्को की संघीय अदालत में दायर इस मामले में OpenAI और उसके सीईओ सैम ऑल्टमैन को प्रतिवादी बनाया गया है। मामला अभी लंबित है, इसलिए प्रांत के आरोप अदालत के स्थापित निष्कर्ष नहीं हैं।
17
19
टम्बलर रिज में क्या हुआ था
रिपोर्टों के अनुसार, 10 फरवरी को 18 वर्षीय जेसी वैन रूटसेलार ने ब्रिटिश कोलंबिया के टम्बलर रिज में छह बच्चों और दो वयस्कों समेत आठ लोगों की हत्या की। बाद में उनकी खुद को गोली लगने से मृत्यु हो गई।
22
प्रांतीय सरकार का तर्क है कि हिंसा से पहले शूटर ने कथित तौर पर ChatGPT का इस्तेमाल किया था; इसलिए यह मामला OpenAI के उत्पाद-डिज़ाइन और संभावित खतरों की रिपोर्टिंग की प्रक्रिया से जुड़ा है। प्रांत का आरोप केवल इतना नहीं है कि ChatGPT पृष्ठभूमि में मौजूद था। उसका दावा है कि कंपनी के पास ऐसी जानकारी थी, जिस पर केवल खाता बंद करने से आगे कार्रवाई होनी चाहिए थी।
17
22
ब्रिटिश कोलंबिया का मुख्य आरोप
ब्रिटिश कोलंबिया का आरोप है कि OpenAI ने लापरवाही से असुरक्षित उत्पाद को डिज़ाइन और वितरित किया तथा ChatGPT के माध्यम से किए गए कथित खतरों की सूचना कानून-प्रवर्तन एजेंसियों को नहीं दी। प्रांत का कहना है कि चेतावनी मिलने पर स्थानीय पुलिस हमला रोक सकती थी।
मुकदमे में पहले और भविष्य के सार्वजनिक पुनर्बहाली खर्च की भरपाई के साथ-साथ अदालत से ऐसा आदेश मांगा गया है, जिससे OpenAI को उन ChatGPT बातचीतों की पहचान और निपटान की प्रक्रिया बदलनी पड़े जो हिंसा की ओर ले जा सकती हैं।
17
25
यह मुकदमे का अहम प्रश्न है कि पुलिस को सूचना मिलने पर वह क्या जान पाती, क्या कदम उठा सकती थी और क्या उससे हमला वास्तव में टल जाता। इन सवालों का उत्तर साक्ष्यों और कानूनी दलीलों के आधार पर तय होगा; केवल यह तथ्य पर्याप्त नहीं है कि एक खाता चिह्नित हुआ था।
जून 2025 में खाते की समीक्षा पर विवाद
OpenAI ने स्वीकार किया है कि जून 2025 में उसकी दुरुपयोग-पहचान और प्रवर्तन प्रणाली ने वैन रूटसेलार से संबद्ध एक खाता पहचाना था। इन प्रणालियों का उद्देश्य मॉडलों के ऐसे इस्तेमाल का पता लगाना भी है जो हिंसा को आगे बढ़ा सकता हो। कंपनी ने वह खाता प्रतिबंधित कर दिया था।
33
कंपनी का कहना है कि उसने अधिकारियों को सूचना नहीं दी क्योंकि तब उपलब्ध जानकारी से दूसरों को गंभीर शारीरिक नुकसान पहुंचाने की कोई विश्वसनीय और आसन्न योजना सामने नहीं आई थी। कंपनी के अनुसार, कानून-प्रवर्तन एजेंसियों को सूचना देने की यही उसकी सीमा थी।
33
43
ब्रिटिश कोलंबिया का मुकदमा इस प्रतिक्रिया को अपर्याप्त बताता है। प्रांत के अनुसार, आंतरिक समीक्षा और खाते पर प्रतिबंध ऐसे चेतावनी संकेत थे जिनके बाद OpenAI को RCMP से संपर्क करना चाहिए था। OpenAI ने बाद में कहा कि जून 2025 के बाद अपनाए गए सुरक्षा प्रोटोकॉल के तहत वह इस खाते के बारे में पुलिस को सूचित करता।
39
44
चैट इतिहास क्यों अहम है
सार्वजनिक रिकॉर्ड में ChatGPT की पूरी बातचीत उपलब्ध नहीं है। अटॉर्नी जनरल निकी शर्मा ने कहा कि OpenAI ने शूटर का चैट इतिहास प्रांत को देने से इनकार किया। इससे आम लोगों के लिए बातचीत की विशिष्टता, कंपनी की आंतरिक निर्णय-प्रक्रिया और पुलिस को सूचना मिलने पर हस्तक्षेप की वास्तविक संभावना का स्वतंत्र आकलन करना कठिन हो जाता है।
37
इसीलिए इस विवाद का वर्णन सावधानी से किया जाना चाहिए। कानूनी दावे नुकसान रोकने में कथित कमियों—डिज़ाइन, पहचान, आगे रिपोर्ट करने और रोकथाम—से जुड़े हैं; वे इस बात के सिद्ध निष्कर्ष नहीं हैं कि चैटबॉट ने ठीक-ठीक क्या कहा या हिंसा का कारण क्या बना।
संबंधित मुकदमे और प्रतिबंध के बाद दूसरा खाता
पीड़ितों के परिवारों, जीवित बचे लोगों, छात्रों और शिक्षकों ने कैलिफोर्निया में संबंधित मामले दायर किए हैं। OpenAI ने तीन दर्जन से अधिक मामलों को खारिज करने की मांग की है। उसका एक तर्क यह है कि ब्रिटिश कोलंबिया में हुई मौतों और चोटों से जुड़े दावों की सुनवाई कैलिफोर्निया के बजाय वहीं होनी चाहिए।
26
28
अलग दावों में यह भी सवाल उठाया गया है कि सिर्फ खाता प्रतिबंधित करना प्रभावी सुरक्षा उपाय है या नहीं। OpenAI का कहना है कि जून 2025 में निलंबन के बाद शूटर ने दूसरा खाता बनाया था और कंपनी को इस दूसरे खाते की जानकारी गोलीकांड के बाद ही मिली। कंपनी ने कहा है कि वह प्रतिबंधित उपयोगकर्ताओं के लिए सेवा पर वापस आना कठिन बना रही है।
36
45
OpenAI और ऑल्टमैन का पक्ष
OpenAI ने हमले पर दुख जताया है और कहा है कि उसके उपकरणों का हिंसा में इस्तेमाल करने के प्रति उसकी शून्य-सहनशीलता नीति है। कंपनी के अनुसार, उसने सुरक्षा उपाय भी मजबूत किए हैं। बाद की मुकदमेबाजी पर रिपोर्टिंग में ऑल्टमैन की माफी का भी उल्लेख है।
38
39
कंपनी का मुख्य तथ्यात्मक और कानूनी पक्ष सीमित है: जून 2025 में उपलब्ध जानकारी के आधार पर खाता प्रतिबंधित करना उचित था और गतिविधि कानून-प्रवर्तन एजेंसियों को सूचना देने के लिए उसके उस समय के मानक—आसन्न और विश्वसनीय खतरे—तक नहीं पहुंची थी।
33
43
प्रांत अदालत से क्या चाहता है
ब्रिटिश कोलंबिया आपात प्रतिक्रिया और समुदाय की पुनर्बहाली से जुड़े खर्चों के लिए हर्जाना मांग रहा है। इसमें स्कूल को बदलने से संबंधित लागत भी शामिल है। साथ ही, प्रांत संभावित हिंसक ChatGPT उपयोग के मामले में OpenAI की कार्यप्रणाली में बदलाव चाहता है।
17
23
इस मुकदमे से एआई कंपनियों के लिए एक व्यापक सवाल उठता है: जब कोई मंच हिंसक गतिविधि को चिह्नित करता है, लेकिन उसे हमले के आसन्न होने का पूरा भरोसा नहीं होता, तब क्या उस पर पुलिस को सूचना देने का कोई कानूनी दायित्व बनता है? इस मामले में अदालत ने अभी इस प्रश्न का उत्तर नहीं दिया है।