नए मुकदमों में दावा किया गया है कि ओपनएआई के अधिकारियों ने कनाडाई सामूहिक गोलीबारी में सुरक्षा से पहले छवि को आगे रखा

ब्रिटिश कोलंबिया के टम्बलर रिज में एक स्कूल में हुई गोलीबारी को लेकर बुधवार को ओपनएआई के खिलाफ लाए गए नए मुकदमों में चैटजीपीटी निर्माता के अधिकारियों पर अपनी सार्वजनिक छवि को सार्वजनिक सुरक्षा से पहले रखने का आरोप लगाया गया है।

छात्रों, शिक्षकों और एक प्रिंसिपल सहित शूटिंग के दौरान उपस्थित लोगों द्वारा सैन फ्रांसिस्को संघीय अदालत में ओपनएआई और उसके सीईओ सैम अल्टमैन के खिलाफ तीस शिकायतें दर्ज की गईं। अप्रैल में, फरवरी 2026 की गोलीबारी में घायल या मारे गए सात अन्य पीड़ितों के परिवारों ने ओपनएआई और ऑल्टमैन पर चैटजीपीटी के साथ कथित शूटर की हिंसक बातचीत के बारे में कानून प्रवर्तन को सूचित करने में विफल रहने और शूटिंग में सहायता करने और उकसाने के लिए मुकदमा दायर किया।

नए मुकदमे OpenAI और Altman के खिलाफ समान दावे करते हैं। लेकिन वे नए आरोप भी लगाते हैं कि ओपनएआई के जनसंपर्क के लिए जिम्मेदार अधिकारियों, जिनमें मुख्य वैश्विक मामलों के अधिकारी क्रिस लेहेन भी शामिल हैं, ने इसकी सुरक्षा टीम की सिफारिश को खारिज कर दिया कि वह खाते को अधिकारियों के पास भेज दे।

टंबलर रिज पीड़ितों और उनके परिवारों का प्रतिनिधित्व करने वाले प्रमुख वकील जे एडेलसन ने कहा, “ये शिकायतें दिखाती हैं कि ओपनएआई में लोगों द्वारा लिए गए निर्णयों के आधार पर कितना बड़ा प्रभाव पड़ा और कितने लोगों का जीवन वास्तव में नष्ट हो गया।”

ओपनएआई ने कंपनी के आंतरिक निर्णय लेने के दावों का खंडन किया।

ओपनएआई के मुख्य रणनीति अधिकारी जेसन क्वोन ने एनपीआर को एक ईमेल बयान में कहा, “यह देखना बहुत निराशाजनक है कि वर्तमान में ओपनएआई पर मुकदमा करने वाले वकीलों में से एक न केवल इन टीमों के बारे में, बल्कि उन व्यक्तियों के बारे में भी झूठे दावे कर रहा है जो इस प्रक्रिया में शामिल नहीं थे।”

“सिर्फ एक उदाहरण के रूप में, यह कहना बिल्कुल गलत है कि क्रिस लेहेन हमारे मूल रेफरल निर्णय में शामिल थे, या कि हमारे जांचकर्ता किसी भी तरह से उन्हें रिपोर्ट करते हैं। यह कहना भी पूरी तरह से झूठ है कि इन चुनौतीपूर्ण निर्णयों के केंद्र में लोग सुरक्षा को प्राथमिकता नहीं देते हैं, या कि इसमें ‘राजनीतिक’ या ‘जनसंपर्क’ कारक शामिल हैं,” क्वोन ने कहा। “हम इस मुकदमे को कानूनी प्रक्रिया और इस त्रासदी के परिवारों और पीड़ितों दोनों के सम्मान के साथ ले रहे हैं, और हम उस प्रक्रिया में सद्भावना से जुड़े रहेंगे।”

कथित शूटर को OpenAI के सिस्टम द्वारा चिह्नित किया गया था

कनाडा के इतिहास में टम्बलर रिज गोलीबारी सबसे भयानक घटनाओं में से एक थी। अधिकारियों के अनुसार, कथित शूटर, 18 वर्षीय जेसी वान रूटसेलर ने खुद को मारने से पहले पांच छात्रों और एक शिक्षक की हत्या कर दी। करीब दो दर्जन अन्य घायल हो गये. अधिकारियों को बाद में पता चला कि वैन रूटसेलर ने स्कूल आने से पहले अपनी मां और 11 वर्षीय सौतेले भाई की भी उनके घर पर हत्या कर दी थी।

शूटिंग से आठ महीने पहले, जून 2025 में, ओपनएआई के स्वचालित सिस्टम ने स्कूल में 12 वर्षीय गंभीर रूप से घायल माया गेबाला की ओर से दायर अप्रैल के मुकदमों में से एक के अनुसार, “बंदूक हिंसा गतिविधि और योजना” के लिए वैन रूटसेलेर के चैटजीपीटी खाते को चिह्नित किया था। ओपनएआई ने खाते को निष्क्रिय कर दिया, लेकिन वैन रूटसेलेर ने दूसरा खाता बनाया और चैटजीपीटी के साथ बातचीत जारी रखी, ओपनएआई ने कहा है। कंपनी का कहना है कि फरवरी में गोलीबारी के बाद तक उसे दूसरे अकाउंट के बारे में जानकारी नहीं थी।

टंबलर रिज वादी का आरोप है कि जब ओपनएआई की इंटेलिजेंस और जांच टीम ने चैटजीपीटी के साथ कथित शूटर की बातचीत की समीक्षा की, जिसे पिछले जून में चिह्नित किया गया था, तो उन्होंने निर्धारित किया कि उन्होंने “वास्तविक लोगों के खिलाफ बंदूक हिंसा का एक विश्वसनीय खतरा पैदा किया है” और कंपनी को रॉयल कैनेडियन माउंटेड पुलिस को सतर्क करने की सिफारिश की। नई शिकायतों में आरोप लगाया गया है कि अनुभवी राजनीतिक रणनीतिकार लेहेन के नेतृत्व वाली कंपनी की वैश्विक मामलों की टीम ने सिफारिश को खारिज कर दिया था, जो जनसंपर्क, सार्वजनिक नीति और राजनीतिक संबंधों के लिए जिम्मेदार है।

शिकायतों में आरोप लगाया गया है कि लेहेन और ऑल्टमैन सुरक्षा चिंताओं को कानून प्रवर्तन के लिए संदर्भित करने के निर्णयों को मंजूरी देते हैं। “परिणामस्वरूप, बड़े पैमाने पर हमले की योजना बना रहे उपयोगकर्ता को कानून प्रवर्तन को सचेत करने का निर्णय प्रशिक्षित खतरे-आकलन पेशेवरों द्वारा नहीं किया गया था, जिन्होंने ओपनएआई से आरसीएमपी से संपर्क करने का आग्रह किया था। यह जानकारी और विश्वास पर, लेहेन द्वारा स्वयं, या उसकी कमान की श्रृंखला में किसी के द्वारा किया गया था, और सैम अल्टमैन द्वारा अनुमोदित किया गया था, “स्कूल में 7 वीं कक्षा के शिक्षक डेड्रे रशलो द्वारा दर्ज की गई शिकायतों में से एक में कहा गया है।

“समुदाय के लिए क्या सुरक्षित है, इस पर ध्यान केंद्रित करने के बजाय, उन्होंने इस पर ध्यान केंद्रित किया है कि अगर यह सार्वजनिक हो गया तो राजनीतिक और जनसंपर्क पर क्या असर पड़ेगा?” एडेलसन ने लेहेन के बारे में कहा, जिसका नाम मुकदमे में प्रतिवादी के रूप में नहीं है।

क्वोन ने लेहेन की संलिप्तता से इनकार किया। उन्होंने कहा कि ओपनएआई की खुफिया और जांच टीम और कानूनी विभाग उन्हें रिपोर्ट करते हैं और “कानून प्रवर्तन को मामलों की रिपोर्ट कब करनी है और उन मानकों को वास्तव में कठिन और जटिल परिस्थितियों में लागू करने के लिए मानकों और प्रक्रियाओं को परिभाषित करने के लिए कड़ी मेहनत करते हैं।” उन्होंने कहा कि टीमें उपयोगकर्ताओं की गोपनीयता की रक्षा करते हुए हिंसा के चेतावनी संकेतों की पहचान करने के लिए काम करती हैं, और कंपनी की नीतियों को सूचित करने के लिए मानसिक स्वास्थ्य, व्यवहार और कानून प्रवर्तन विशेषज्ञों के साथ साझेदारी करती हैं।

उन्होंने कहा: “इन टीमों में काम करने वाले पेशेवर इस अविश्वसनीय रूप से कठिन काम को करना चुनते हैं क्योंकि वे लोगों को सुरक्षित रखने के बारे में बहुत गहराई से परवाह करते हैं। वे हर दिन यह जानते हुए काम पर आते हैं कि उन्हें एक निर्णय लेना पड़ सकता है जिसके बारे में वे अपने पूरे जीवन के बारे में सोचेंगे।”

क्वोन ने कहा, “ऐसा कोई दिन नहीं जाता जब मैं टंबलर रिज पर क्या हुआ, या इस विनाशकारी त्रासदी के पीड़ितों और उनके परिवारों के बारे में नहीं सोचता।”

अप्रैल में दायर किए गए टम्बलर रिज मुकदमों के पहले सेट के जवाब में दिए गए एक बयान में, ओपनएआई ने कहा कि हिंसा करने में सहायता के लिए अपने उपकरणों का उपयोग करने के लिए उसकी “शून्य सहनशीलता” नीति थी और उसने अपने सुरक्षा उपायों को मजबूत किया था और चैटजीपीटी संकट के संकेतों पर कैसे प्रतिक्रिया करता है। उस समय, कंपनी ने अपनी सुरक्षा नीतियों के बारे में एक ब्लॉग पोस्ट डाला, जिसमें कहा गया था कि “जब बातचीत दूसरों को नुकसान पहुंचाने के आसन्न और विश्वसनीय जोखिम का संकेत देती है, तो हम कानून प्रवर्तन को सूचित करते हैं।”

ऑल्टमैन ने कथित शूटर के खाते के बारे में कानून प्रवर्तन को सचेत नहीं करने के लिए टम्बलर रिज समुदाय से माफी भी मांगी, जब ओपनएआई ने पहली बार इसे चिह्नित किया था।

एआई कंपनियों को मुकदमों की बढ़ती लहर का सामना करना पड़ रहा है

टम्बलर रिज मुकदमे कृत्रिम बुद्धिमत्ता कंपनियों को जवाबदेह ठहराने के बढ़ते प्रयास का हिस्सा हैं, जब चैटबॉट्स के साथ उपयोगकर्ताओं की बातचीत के बाद नुकसान होता है।

एनपीआर की कानूनी फाइलिंग की समीक्षा के अनुसार, बुधवार को दर्ज की गई नवीनतम शिकायतों से पहले, चैटबॉट उपयोगकर्ताओं से जुड़ी आत्महत्याओं, सामूहिक गोलीबारी और अन्य मानसिक या शारीरिक नुकसान को लेकर ओपनएआई और अन्य एआई कंपनियों के खिलाफ संघीय और राज्य अदालतों में 30 से अधिक मुकदमे दायर किए गए हैं। अधिकांश मामलों में OpenAI का ChatGPT शामिल है।

जून में, फ्लोरिडा राज्य ने OpenAI और Altman पर उपयोगकर्ताओं को चेतावनी देने में विफल रहने के लिए मुकदमा दायर किया कि ChatGPT खतरनाक हो सकता है और इसके बजाय किसी राज्य द्वारा कंपनी के खिलाफ लाए गए पहले मुकदमे में इसे बच्चों सहित सुरक्षित और विश्वसनीय के रूप में विपणन किया।

फ्लोरिडा के अटॉर्नी जनरल भी पिछले साल फ्लोरिडा स्टेट यूनिवर्सिटी में हुई गोलीबारी को लेकर ओपनएआई में एक अलग आपराधिक जांच कर रहे हैं, जिसमें आरोपी बंदूकधारी ने कथित तौर पर सलाह के लिए चैटजीपीटी से सलाह ली थी।

2024 में ओपनएआई की जांच टीम में काम करने वाले टिम मार्पल ने कहा कि टम्बलर रिज जैसी घटनाएं एआई कंपनियों को अपने प्लेटफॉर्म पर हिंसक खतरों की रिपोर्ट करने की आवश्यकता के बजाय स्व-विनियमन देने के जोखिमों को उजागर करती हैं। मार्पल अब मेडेन लैब्स के सह-निदेशक हैं, जो एक गैर-लाभकारी संस्था है जो एआई जोखिमों की पहचान करने के लिए काम करती है।

उन्होंने कहा, “सभी पक्षों और विभिन्न प्रकार के विशेषज्ञों की चेतावनियों के बावजूद, हमने इस तकनीक का निर्माण करने वाली कंपनियों पर स्वतंत्र अधिकार लागू करने के लिए कोई सार्थक नियामक व्यवस्था स्थापित नहीं की है।” “तो समस्या यह है, और वर्षों से है, कि सुरक्षा प्रणालियों को देखने वाले केवल वही लोग हैं जो इससे पैसा कमाते हैं।”