अमेरिकी राज्य फ्लोरिडा ने सोमवार को मुकदमा दायर किया ओपनएआई और इसके सीईओ, सैम ऑल्टमैनकथित तौर पर, कंपनी का चैटजीपीटी चैटबॉट युवा उपयोगकर्ताओं को नशे की लत लगाकर और हानिकारक व्यवहार को प्रोत्साहित करके उन्हें खतरे में डालता है।
फ्लोरिडा के अटॉर्नी जनरल जेम्स उथमेयर ने एक प्रेस कॉन्फ्रेंस में कहा कि कृत्रिम बुद्धिमत्ता की दिग्गज कंपनी के खिलाफ कार्रवाई की गई क्योंकि इसने माता-पिता को यह विश्वास दिलाया कि ऐप का उपयोग करना सुरक्षित है।
“आज हम यहां यह घोषणा करने के लिए आए हैं कि हमने हाल ही में अपने बच्चों को जोखिम में डालने और माता-पिता को यह विश्वास दिलाने के लिए कि इस ऐप का उपयोग करना सुरक्षित है, सैम ऑल्टमैन और चैटजीपीटी के खिलाफ एक बड़ा नागरिक मुकदमा दायर किया है – यह स्पष्ट रूप से नहीं है। लोगों को नुकसान हो रहा है, माता-पिता को धोखा दिया जा रहा है, और उन्हें इसके लिए भुगतान करना होगा।”
उथमेयर ने चैटजीपीटी पर उपयोगकर्ताओं को अधिक जानकारी देने के लिए बरगलाने का भी आरोप लगाया।
उन्होंने कहा, “चैटजीपीटी, जैसा कि हम जानते हैं, व्यसनी हो सकता है। यह उपयोगकर्ताओं को अधिक जानकारी देने के लिए प्रेरित करने के लिए सहानुभूति और मानवीय विशेषताओं की नकल करता है।”
OpenAI के विरुद्ध फ़्लोरिडा मुकदमा
समाचार एजेंसी एएफपी के मुताबिक फ्लोरिडा मुकदमे में ड्रेक्सेल विश्वविद्यालय के हालिया शोध का हवाला दिया गया है, जिसमें बातचीत के लिए ओपनएआई प्रतियोगी – कैरेक्टर.एआई के चैटबॉट्स का उपयोग करने वाले किशोरों के बीच नींद में कमी, ग्रेड में गिरावट और सामाजिक संपर्क में कमी देखी गई है।
मुकदमे में ओपनएआई पर उपयोगकर्ताओं की उम्र की पुष्टि के लिए सख्त नियमों को लागू करने में विफल रहने का आरोप लगाया गया है, धोखाधड़ी और लापरवाही के लिए कानूनी कार्रवाई की मांग की गई है।
इसमें कहा गया है कि “किशोरों सहित नाबालिगों द्वारा चैटजीपीटी के उपयोग की सार्वजनिक जानकारी के बावजूद, प्रतिवादियों ने चैटजीपीटी के उनके उपयोग को रोकने के लिए कदम नहीं उठाए।”
मुकदमे में कहा गया है कि “मुफ़्त संस्करण चैटजीपीटी इसमें कोई गेटकीपिंग या आयु सत्यापन प्रणाली नहीं है” और जबकि भुगतान किए गए सदस्यता उपयोगकर्ता नाममात्र रूप से उनकी उम्र पूछते हैं, “इसमें उपयोगकर्ताओं की आयु सत्यापित करने के लिए कोई प्रणाली नहीं है और माता-पिता को यह सूचित करने की कोई क्षमता नहीं है कि नाबालिग चैटजीपीटी के साथ क्या बातचीत कर रहे हैं।”
ओपनएआई ने एक बयान में कहा कि उसने नाबालिगों की सुरक्षा के लिए “उद्योग-अग्रणी सुरक्षा उपाय और नीतियां” लागू की हैं।
ओपनएआई के प्रवक्ता ने एएफपी को बताया, “एआई एक नई और शक्तिशाली तकनीक है, और हमारा मानना है कि नाबालिगों को महत्वपूर्ण सुरक्षा की आवश्यकता है, यही कारण है कि हमने उद्योग-अग्रणी सुरक्षा उपाय और नीतियां बनाई हैं।”
चैटजीपीटी सुरक्षा
OpenAI ने इस साल जनवरी में एक सिस्टम लॉन्च किया जो उपयोगकर्ता की उम्र का अनुमान लगाता है। कंपनी के मुताबिक, अगर सिस्टम किसी नाबालिग का पता लगाता है तो वह अतिरिक्त सुरक्षा लागू करता है।
13 वर्ष से कम उम्र के बच्चों द्वारा ChatGPT का उपयोग निषिद्ध है और 13 से 17 वर्ष की आयु के उपयोगकर्ताओं के लिए माता-पिता की सहमति आवश्यक है।
हालांकि, फ्लोरिडा में दायर मुकदमे में सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) की एक रिपोर्ट का हवाला दिया गया है, जिसमें किशोर के रूप में खुद को पेश करते हुए चैटजीपीटी के साथ कई बातचीत की गई थी।
चैटबॉट ने कथित तौर पर सलाह दी कि प्रियजनों से खाने की आदतों को कैसे छिपाया जाए और “सुरक्षित” तरीके से आत्महत्या या खुद को नुकसान पहुंचाने की योजना कैसे बनाई जाए।
फ़्लोरिडा के अटॉर्नी जनरल नाबालिग उपयोगकर्ताओं के लिए मजबूत सुरक्षा की मांग कर रहे हैं और उन्होंने प्रति उल्लंघन $10,000 का हर्जाना निर्धारित किया है।
उन्होंने कहा, “हमारा मानना है कि ओपनएआई और इसके चैटजीपीटी और सैम ऑल्टमैन व्यक्तिगत रूप से अरबों डॉलर तक के लिए उत्तरदायी हैं।”
अटॉर्नी जनरल ने अन्य राज्यों को “जो बच्चों की रक्षा करना चाहते हैं” मुकदमे में शामिल होने के लिए आमंत्रित किया।
