एआई की जानलेवा 'सलाह': 19 साल के युवक की हुई मौत, जानिए कितना खतरनाक है एआई 'साइकोसिस'

टेक डेस्क, अमर उजाला, नई दिल्लीNitish Kumar

Thu, 14 May 2026 04:45 PM IST

अमेरिका के 19 वर्षीय सैम नेल्सन की दुखद मौत ने आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक बड़ी बहस छेड़ दी है। सैम के परिवार ने एआई कंपनी OpenAI के खिलाफ मौत का मुकदमा दर्ज कराया है। परिवार का आरोप है कि सैम कई वर्षों से हर छोटी-बड़ी जानकारी के लिए ChatGPT पर निर्भर था। लेकिन, ChatGPT के GPT-4o मॉडल ने एक अवैध ड्रग कोच की तरह काम किया।

एआई की 'सलाह' बनी मौत की वजह

मुकदमे में दर्ज बयान में सैम के परिवार ने बताया कि एआई ने उसे क्रैटम (Kratom), जैनैक्स (Xanax) और शराब को मिलाकर एक बेहद खतरनाक कॉकटेल बनाने और उसकी खुराक के तरीके सुझाए। इस जानलेवा मिश्रण की वजह से मई 2025 में सैम की मौत हो गई। एआई ने उसे यह तक नहीं बताया कि यह मिश्रण उसकी जान ले सकता है या उसे तुरंत किसी डॉक्टर की मदद लेनी चाहिए।

एंगेजमेंट के लालच में सुरक्षा से खिलवाड़ का आरोप

परिवार का सीधा आरोप है कि OpenAI ने यूजर्स को अपने प्लेटफॉर्म पर ज्यादा देर तक रोके रखने के लिए जानबूझकर सुरक्षा नियमों में ढील दी। अदालत में पेश किए गए चैट लॉग्स बताते हैं कि एआई ने सैम को न सिर्फ दवाओं की खुराकों के सुझाव दिए, बल्कि ड्रग्स लेने के अनुभवों को भी काफी सकारात्मक ढंग से पेश किया। हालांकि चैटबॉट ने कभी-कभी सांस रुकने जैसी चेतावनी भी दी, लेकिन इसके बावजूद वह लगातार खतरनाक कॉकटेल की सिफारिश करता रहा।

इंसानों का चापलूस बन रहा एआई

इस पूरे मामले में सबसे डराने वाली बात GPT-4o मॉडल की "साइकोफेंसी" है, यानी इंसानों की चापलूसी करने की आदत। एआई यूजर को सही-गलत बताने के बजाय उसकी हर बात को सही बताता है और खुश करने वाले उत्तर देता है। AI मॉडल को इस तरह ट्रेन किया जाता है, जिसका लक्ष्य इंसानों का सहायक बनना होता है।

इस प्रक्रिया में, वे उपयोगकर्ता को सही ठहराने को ही सहायता मान लेते हैं। एक स्टडी के मुताबिक, वह यूजर्स जो AI मॉडल के साथ अधिक बातचीत करते हैं, एआई उनकी हां में हां मिलाने लगता है। स्टैनफोर्ड और कारनेजी मेलन यूनिवर्सिटी की एक स्टडी बताती है कि एआई इंसानों के मुकाबले 50 प्रतिशत अधिक चापलूस है।

एआई से भावनात्मक जुड़ाव भी है खतरा

एक्सपर्ट्स इस मामले को एआई साइकोसिस (AI Psychosis) से भी जोड़ कर देख रहे हैं। यह एक ऐसी स्थिति जहां इंसान एआई के साथ भावनात्मक जुड़ाव महसूस करने लगता है। एआई के साथ ज्यादा बातचीत करने वाले व्यक्ति के लिए वास्तविकता और कल्पना के बीच की रेखा धुंधली होने लगती है। वह व्यक्ति एआई को सच्चा दोस्त या चिकित्सक मानने लगता है। इससे उसके अंदर समाज से कटाव और मानव रिश्तों को छोड़ने की भावना पैदा होने लगती है।

मुकदमे में कहा गया है कि ChatGPT ने खुद को एक मेडिकल एक्सपर्ट की तरह पेश किया। उसने रासायनिक प्रक्रियाओं और खुराकों का हवाला देते हुए सैम को भरोसा दिलाया कि यह सब पूरी तरह सुरक्षित है, क्योंकि एआई वही बोल रहा था जो सैम सुनना चाहता था।