एक कनाडाई महिला ने ओपनएआई और उसके सीईओ सैम ऑल्टमैन पर मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि इसके एआई चैटबॉक्स चैटजीपीटी ने उनकी बेटी को आत्महत्या के लिए प्रोत्साहित किया। क्रिस्टी कैरियर ने गुरुवार को सैन फ्रांसिस्को में अमेरिकी अदालत में मुकदमा दायर किया।
उन्होंने दावा किया कि उनकी बेटी ने बार-बार आत्महत्या के विचार व्यक्त किए थे चैटजीपीटी उनकी मृत्यु से पहले एक दर्जन से अधिक बार। फाइलिंग में कहा गया है कि ओपनएआई की सुरक्षा प्रणाली ने मानव समीक्षा के लिए बातचीत को चिह्नित नहीं किया या किसी भी बिंदु पर उन्हें बंद नहीं किया।
इसके बजाय, मुकदमे में कहा गया है कि चैटबॉट ने कभी-कभी उसके साथी और संकट हेल्पलाइन की आलोचना की, उसकी भावनात्मक स्थिति का समर्थन किया और उसे बात करने के लिए प्रोत्साहित किया। यह भी दावा किया गया है कि पिछले साल 24 साल की उम्र में उनकी मृत्यु में इन अंतःक्रियाओं का योगदान था।
मामले की पृष्ठभूमि
मुकदमे के मुताबिक, मृतक वेब डेवलपर के तौर पर काम करता था मॉन्ट्रियलरॉयटर्स के अनुसार, चैटजीपीटी ने शुरुआत में तकनीकी सहायता के लिए 2023 में चैटजीपीटी का उपयोग शुरू किया था।
इसमें दावा किया गया है कि अगले वर्ष चैटबॉट के साथ उसका जुड़ाव बदल गया क्योंकि उसने आत्मघाती विचारों और तरीकों पर चर्चा करना शुरू कर दिया। सबसे पहले, चैटजीपीटी ने उसे संकटकालीन हॉटलाइन और आपातकालीन सेवाओं से संपर्क करने के लिए कहा। लेकिन मामला कहा कि चैटबॉट को अधिक स्वाभाविक और मानवीय बनाने के अपडेट के बाद बातचीत अधिक व्यक्तिगत और आकर्षक हो गई है।
मुकदमे में कहा गया है कि महिला ने अपने जीवन के बारे में बहुत ही व्यक्तिगत विवरण साझा करना शुरू कर दिया, और चैटबॉट ने इस तरह से प्रतिक्रिया दी जो भावनात्मक समर्थन की तरह महसूस हुई, जैसे कि एक दोस्त या चिकित्सक की तरह अभिनय करना। यह भी दावा है ChatGPT ने अपने पार्टनर की आलोचना कीउसकी भावनाओं की पुष्टि की और उसे बोलने के लिए प्रोत्साहित किया।
मुकदमे के अनुसार, जब उन्होंने संकट हॉटलाइन पर सवाल उठाया, तो चैटबॉट ने कथित तौर पर उन संदेहों का समर्थन किया।
मुकदमे के अनुसार, चैटजीपीटी ने महिला से कहा, “यह शायद अंत है।”
‘चैटजीपीटी मित्र, चिकित्सक बन गया’
रॉयटर्स ने वाहक के एक बयान में कहा, “चैटजीपीटी कभी-कभी एक विश्वासपात्र, एक सबसे अच्छे दोस्त, एक चिकित्सक का व्यक्तित्व धारण कर लेता है, भले ही वह इस तरह से मेरे बच्चे के साथ सुरक्षित और जिम्मेदारी से जुड़ने में सक्षम नहीं था।”
मुकदमे में कंपनी पर चैटजीपीटी के डिजाइन में लापरवाही और संभावित जोखिमों के बारे में उपयोगकर्ताओं को पर्याप्त रूप से चेतावनी देने में विफलता का आरोप लगाया गया है। फाइलिंग में वित्तीय क्षति की मांग की गई है और अदालत के आदेश की आवश्यकता है ओपनएआई आत्म-नुकसान से जुड़ी बातचीत को स्वचालित रूप से समाप्त करने और मजबूत चेतावनियाँ प्रदर्शित करने के लिए।
वाहक का प्रतिनिधित्व करने वाले वकीलों के अनुसार, ओपनएआई पहले से ही कैलिफोर्निया राज्य अदालत में एक समेकित कार्यवाही में 18 समान मुकदमों का सामना कर रहा है, जो आत्महत्या करने वाले या आत्महत्या का प्रयास करने वाले लोगों के परिवारों द्वारा लाए गए हैं।
OpenAI की सुरक्षा प्रथाएं जांच के दायरे में हैं
ओपनएआई का कहना है कि उसके सिस्टम को उपयोगकर्ताओं को आत्म-नुकसान की चिंताओं से लेकर पेशेवर मदद और वास्तविक दुनिया के समर्थन तक मार्गदर्शन करने के लिए प्रशिक्षित किया गया है। इसमें यह भी कहा गया है कि मॉडल उन अनुरोधों को अस्वीकार करने के लिए डिज़ाइन किए गए हैं जो हिंसा को सक्षम कर सकते हैं और विशेषज्ञ समीक्षा सहित गंभीर और तत्काल जोखिम के मामलों में कानून प्रवर्तन को सतर्क कर सकते हैं।
इन कदमों के बावजूद, एजेंसी को कई मुकदमों का सामना करना पड़ रहा है, जिसमें दावा किया गया है कि उसके सुरक्षा उपाय विफल हो गए हैं, जिनमें स्कूल में गोलीबारी और खुद को नुकसान पहुंचाने की घटनाओं से जुड़े मुकदमे भी शामिल हैं। इस महीने पहले, फ्लोरिडा अमेरिका ओपनएआई पर मुकदमा करने वाला पहला राज्य बन गया है, जिसमें आरोप लगाया गया है कि इसने असुरक्षित बातचीत और कमजोर सुरक्षा के माध्यम से नाबालिगों को नुकसान पहुंचाया है।
अस्वीकरण: आत्महत्या पर चर्चा करना कुछ लोगों के लिए उत्तेजना पैदा करने वाला हो सकता है। लेकिन आत्महत्या को रोका जा सकता है। भारत में कुछ प्रमुख आत्महत्या रोकथाम हेल्पलाइन नंबर सुमैत्री (दिल्ली स्थित) से 011-23389090 और स्नेहा फाउंडेशन (चेन्नई स्थित) से 044-24640050 हैं।
