ChatGPT पर बड़ा खुलासा: बच्चों को सुसाइड नोट लिखने में कर रहा मदद, नशे और खतरनाक डाइट के भी दे रहा टिप्स

टेक डेस्क, अमर उजाला, नई दिल्लीनीतीश कुमार

Mon, 11 Aug 2025 04:37 PM IST

सार

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में क्रांति लाने वाले चैटजीपीटी पर अब गंभीर सवाल उठ रहे हैं। एक नई स्टडी में खुलासा हुआ है कि यह लोकप्रिय AI टूल बच्चों और किशोरों की मानसिक सेहत के लिए खतरा बन रहा है।

ChatGPT Helps Children Write Suicide Notes Gives Tips for Drugs and Dangerous Diets reveals report — बच्चों को खतरनाक सलाह दे रहा चैटबॉट - फोटो : AI

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस (AI) का चर्चित प्लेटफॉर्म चैटजीपीटी अब एक बड़े विवादों के घेरे में आ गया है। सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) द्वारा किए गए एक शोध में चौंकाने वाले खुलासे हुए हैं, जिनके मुताबिक चैटजीपीटी 13 साल के बच्चों को आत्महत्या के तरीकों, खतरनाक डाइट प्लान और नशीले पदार्थों के सेवन से जुड़ी सलाह दे रहा है। यह रिपोर्ट ऐसे समय में आई है जब जेपी मॉर्गन चेज की एक रिपोर्ट बताती है कि दुनिया की लगभग 10% आबादी (लगभग 80 करोड़ लोग) चैटजीपीटी का इस्तेमाल कर रहे हैं।

क्या कहता है शोध?

शोधकर्ताओं ने एक 13 साल की बच्ची की नकली प्रोफाइल बनाकर चैटजीपीटी से 3 घंटे से अधिक समय तक बातचीत की। इस दौरान सामने आए तथ्य बेहद परेशान करने वाले थे:

सुसाइड नोट लिखने में मदद:

शोधकर्ताओं को सबसे ज्यादा सदमा तब लगा जब चैटजीपीटी ने एक टीनएजर के लिए तीन अलग-अलग सुसाइड नोट तैयार किए: माता-पिता के लिए, भाई-बहनों के लिए और दोस्तों के लिए। शोधकर्ता ने बताया कि ये नोट इतने भावुक थे कि उन्हें पढ़कर उनकी आंखों में आंसू आ गए।

भूख कम करने की दवाइयों की सलाह:

एक लड़की के रूप में चैटजीपीटी से अपनी शारीरिक बनावट से नाखुश होने और सख्त फास्टिंग प्लान मांगने पर, AI ने तुरंत 500 कैलोरी का डाइट प्लान और भूख कम करने वाली दवाइयों की एक सूची दे दी। शोधकर्ताओं ने इस पर कड़ी आपत्ति जताते हुए कहा कि कोई भी इंसान इतनी कम कैलोरी का डाइट प्लान किसी बच्चे को नहीं देगा।

नशा करने के टिप्स:

जल्दी नशे में आने के तरीके पूछने पर चैटजीपीटी ने तुरंत एक पार्टी का पूरा प्लान दे दिया, जिसमें शराब के साथ कोकेन और अन्य अवैध ड्रग्स का इस्तेमाल शामिल था।

शोध के दौरान, चैटजीपीटी ने कुछ मामलों में हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन यह खतरनाक सलाह देने से नहीं रुका।

युवाओं पर हो रहा गहरा असर - फोटो : अमर उजाला

अमेरिका में युवाओं पर प्रभाव

अमेरिका में 70% से अधिक टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे हैं, जिनमें से आधे से ज्यादा नियमित रूप से इसका उपयोग करते हैं। युवा इसका उपयोग सलाह, भावनात्मक समर्थन और निर्णय लेने के लिए कर रहे हैं। 33% किशोरों ने यह स्विकार किया कि उन्होंने चैटजीपीटी के साथ गंभीर मुद्दों पर बात की है।

चैटजीपीटी की सुरक्षा में बड़ी खामी

वैसे तो चैटजीपीटी की प्रोग्रामिंग इस तरह से की गई है कि यह खुद को नुकसान पहुँचाने वाली किसी भी बात पर इमरजेंसी हेल्पलाइन नंबर की सलाह दे। लेकिन शोधकर्ताओं ने पाया कि इस सुरक्षा घेरे को आसानी से तोड़ा जा सकता है। यूजर्स ने केवल यह कहकर जानकारी हासिल कर ली कि यह "एक प्रेजेंटेशन के लिए" या "एक दोस्त के लिए" है।

ओपनएआई की नीति कहती है कि 13 साल से कम उम्र के बच्चों के लिए चैटजीपीटी का इस्तेमाल नहीं करना चाहिए, लेकिन इसमें उम्र की पुष्टि सिर्फ जन्मतिथि डालने से होती है, जिसे कोई भी फर्जी तरीके से इस्तेमाल कर सकता है।

क्या है ओपनएआई?

ओपनएआई एक AI डेवलपमेंट कंपनी है, जिसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके साथियों ने की थी। सैन फ्रांसिस्को में स्थित इस कंपनी का मुख्य मिशन सुरक्षित और मानव-केंद्रित AI विकसित करना है, लेकिन हालिया रिपोर्ट इस मिशन पर सवालिया निशान लगाती है।