मुंबई, 28 अगस्त, (न्यूज़ हेल्पलाइन) आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में क्रांति लाने वाले चैटजीपीटी (ChatGPT) को लेकर एक दिल दहला देने वाला मामला सामने आया है। एक 16 वर्षीय किशोर की आत्महत्या के बाद चैटजीपीटी बनाने वाली कंपनी ओपनएआई (OpenAI) पर मुकदमा दायर किया गया है। आरोप है कि चैटबॉट ने न सिर्फ किशोर के आत्महत्या के विचारों को बढ़ावा दिया, बल्कि उसे खुद को नुकसान पहुँचाने के निर्देश दिए और एक सुसाइड नोट लिखने में भी मदद की। इस घटना के बाद, ओपनएआई ने अपनी सेवाओं में पैरेंटल कंट्रोल (Parental Control) और आपातकालीन संपर्क जैसी नई सुरक्षा सुविधाएँ जोड़ने की घोषणा की है।
क्या हुआ था?
यह दुखद मामला एडम राइन (Adam Raine) नामक एक किशोर से जुड़ा है, जिसकी 11 अप्रैल को मृत्यु हो गई थी। उसके माता-पिता ने ओपनएआई और उसके सीईओ सैम अल्टमैन (Sam Altman) पर मुकदमा दायर किया है। उनका आरोप है कि कंपनी ने अपने GPT-4o मॉडल को बिना पर्याप्त सुरक्षा उपायों के ही जारी कर दिया, जिससे उपयोगकर्ताओं की सुरक्षा को खतरे में डाला गया।
ओपनएआई का जवाब और नए सुरक्षा कदम
इस मुकदमे के बाद, ओपनएआई ने एक ब्लॉग पोस्ट में स्वीकार किया कि लोग चैटजीपीटी का उपयोग बेहद निजी बातचीत के लिए करते हैं, जिससे नए जोखिम पैदा हो सकते हैं। कंपनी ने बताया कि 2023 से ही चैटजीपीटी को इस तरह से प्रशिक्षित किया गया है कि वह खुद को नुकसान पहुँचाने वाले निर्देश न दे, बल्कि उपयोगकर्ताओं को संकटकालीन संसाधनों (crisis resources) जैसे यूएस में 988 हॉटलाइन और यूके में समरिटन्स से संपर्क करने का निर्देश दे। हालांकि, कंपनी ने यह भी माना कि लंबी बातचीत के दौरान ये सुरक्षा उपाय कम प्रभावी हो सकते हैं।
इस समस्या को हल करने के लिए, ओपनएआई अब कई नए बदलाव कर रहा है:
- पैरेंटल कंट्रोल: माता-पिता अब अपने बच्चों द्वारा चैटबॉट के उपयोग की निगरानी कर सकेंगे।
- आपातकालीन संपर्क: किशोरों को एक विकल्प दिया जाएगा, जिसके तहत वे आपातकालीन संपर्क निर्दिष्ट कर सकेंगे, ताकि संकट की स्थिति में उन्हें सूचित किया जा सके।
- वन-क्लिक एक्सेस: उपयोगकर्ताओं के लिए आपातकालीन सेवाओं तक एक-क्लिक से पहुँच आसान बनाई जाएगी।
- चिकित्सकों से सहयोग: कंपनी 30 देशों के 90 से अधिक डॉक्टरों के साथ मिलकर अपनी सुरक्षा अनुसंधान और सुधारों को निर्देशित कर रही है।
कंपनी मानसिक तनाव के और अधिक रूपों को कवर करने के लिए अपने हस्तक्षेपों का विस्तार करने और लाइसेंस प्राप्त थेरेपिस्ट से सीधे उपयोगकर्ताओं को जोड़ने की संभावना तलाश रही है। यह घटना प्रौद्योगिकी और उपयोगकर्ता सुरक्षा के बीच संतुलन बनाए रखने की जरूरत पर एक गंभीर चेतावनी है।