एआई से चैट करना महिला को पड़ा भारी: क्लॉड पर यह लिखते ही कंपनी ने पुलिस को अलर्ट कर कराया अरेस्ट, जानें मामला

टेक डेस्क, अमर उजाला, नई दिल्लीजागृति शुक्ला

Mon, 05 Oct 2026 05:41 PM IST

सार

क्या एआई चैटबॉट पर लिखी गई आपकी निजी बातें वाकई सिर्फ आपके और एआई के बीच रहती हैं? अमेरिका में एक महिला को इसका जवाब तब मिला, जब उसकी एआई चैट कथित धमकी के बाद पुलिस तक पहुंच गई और उसे गिरफ्तार कर लिया गया। वह एआई चैटबॉट को पर्सनल डायरी की तरह इस्तेमाल कर रही थी, लेकिन एक चैट ने पूरा मामला बदल दिया। आखिर उस बातचीत में ऐसा क्या लिखा था कि एआई कंपनी की ह्यूमन रिव्यू टीम को पुलिस को अलर्ट करना पड़ा? आइए जानते हैं इस अनोखे मामले और एआई चैटबॉट की सेफ्टी पॉलिसी के बारे में विस्तार से...

Woman Used Claude Diary, Threatening Chat Led Her Arrest — प्रतीकात्मक तस्वीर - फोटो : एआई जनरेटेड

विस्तार

वॉट्सऐप चैनल फॉलो करें

आज के दौर में लोग क्लॉड और चैटजीपीटी जैसे एआई चैटबॉट्स को काम के अलावा व्यक्तिगत विचार शेयर करने के लिए भी इस्तेमाल कर रहे हैं। हालांकि, अमेरिका के फ्लोरिडा में एक महिला को एआई चैटबॉट को पर्सनल डायरी की तरह इस्तेमाल करना भारी पड़ गया और उसकी बातचीत सीधे गिरफ्तारी तक पहुंच गई। महिला एआई चैटबॉट क्लॉड पर रोजमर्रा के विचार लिख रही थी। इसी दौरान उसने फ्लोरिडा के स्थानीय शेरिफ ऑफिस पर गोलीबारी करने और हिंसा फैलाने की योजना लिख दी। मैसेज देखते ही एंथ्रोपिक के ऑटोमेटेड सेफ्टी सिस्टम ने इसे फ्लैग कर दिया, जिसके बाद हुई जांच में पुलिस ने महिला को धर दबोचा।

कौन है महिला और क्या हुआ?

महिला की पहचान 30 वर्षीय कार्ली मिशेल हेलर के रूप में हुई है। वह फ्लोरिडा के बोनिता स्प्रिंग्स की रहने वाली है। रिपोर्ट्स के अनुसार, 26 सितंबर की एक एंट्री में हेलर के अकाउंट से ली काउंटी शेरिफ ऑफिस के खिलाफ कथित हिंसक धमकी वाला मैसेज भेजा गया। कहा जा रहा है इसमें शेरिफ ऑफिस पर गोलीबारी करने की बात कही गई थी।

अगले दिन करीब 1:07 बजे सुबह उसी क्लॉड अकाउंट से एक और मैसेज भेजे जाने का आरोप है। इसमें नई बंदूक मिलने की बात कही गई थी और इसे कथित तौर पर आखिरी चेतावनी के तौर पर लिखा गया था। इन दोनों संदेशों की गंभीरता को देखते हुए बातचीत एंथ्रोपिक के सेफ्टी सिस्टम की नजर में आई।

क्लॉड के सेफ्टी सिस्टम ने कैसे पकड़ी चैट?

अरेस्ट रिपोर्ट के अनुसार, एंथ्रोपिक के एआई प्लेटफॉर्म में संभावित धमकी और हिंसक कंटेंट की पहचान करने के लिए सेफ्टी और सिक्योरिटी सिस्टम मौजूद हैं। इस मामले में कथित धमकी वाले मैसेज पहले सिस्टम की ओर से फ्लैग किए गए। इसके बाद बातचीत को ह्यूमन रिव्यू टीम के पास भेजा गया।

मानवीय समीक्षा के बाद टीम ने कानून प्रवर्तन से संपर्क किया। यानी रिपोर्ट के अनुसार, पुलिस तक जानकारी पहुंचने की प्रक्रिया सिर्फ ऑटोमेटेड सिस्टम तक सीमित नहीं थी, बल्कि इसमें ह्यूमन रिव्यू भी शामिल था।

इसके बाद महिला के घर पहुंची पुलिस

इतना सब होने के बाद एंथ्रोपिक की ओर से अलर्ट किया गया, जिसके बाद हेलर के बोनिता स्प्रिंग्स स्थित घर पुलिस पहुंची। रिपोर्ट के मुताबिक, उसे बिना किसी घटना के हिरासत में ले लिया गया। इसके बाद ली काउंटी शेरिफ ऑफिस के एक इंटेलिजेंस डिटेक्टिव ने मामले की जांच संभाली। हेलर पर लिखित हिंसा की धमकी देने का आरोप लगाया गया है। हालांकि यह सिर्फ आरोप है, इससे बिल्कुल भी साबित नहीं होता कि वह दोषी पाई गई है।

एंथ्रोपिक ने पुलिस को कब और क्यों बताया?

इस मामले में सबसे बड़ा सवाल है कि अगर कोई व्यक्ति एआई चैटबॉट के साथ निजी बातचीत कर रहा है, तो क्या कंपनी ऐसी बातचीत पुलिस के साथ साझा कर सकती है? एंथ्रोपिक की नीतियां उसके प्रोडक्ट्स का इस्तेमाल हिंसा या धमकी को बढ़ावा देने या उसे आसान बनाने के लिए करने पर रोक लगाती हैं। कंपनी की नीतियों में गंभीर नुकसान के जोखिम वाली सीमित परिस्थितियों में कानून प्रवर्तन को जानकारी देने का प्रावधान भी है।

हालांकि, इसका मतलब यह नहीं है कि एआई चैटबॉट पर लिखी गई हर परेशान करने वाली या अजीब बात सीधे पुलिस को भेज दी जाती है। गंभीर और विश्वसनीय खतरे की स्थिति में सेफ्टी और इमरजेंसी प्रोसीजर लागू हो सकते हैं। इस मामले में भी पहले कथित धमकी वाले संदेश सेफ्टी सिस्टम ने पकड़े, फिर उन्हें ह्यूमन रिव्यू के लिए भेजा गया और उसके बाद कानून प्रवर्तन से संपर्क किया गया।

एआई चैट को कितना प्राइवेट मानना चाहिए?

एक्सपर्ट्स कहते हैं कि यह मामला एआई चैटबॉट की प्राइवेसी को लेकर भी सवाल खड़े करता है। क्लॉड और चैटजीपीटी जैसे प्लेटफॉर्म बातचीत के लिए बनाए गए हैं और यूजर्स इनमें निजी विचार भी लिख सकते हैं, लेकिन इन प्लेटफॉर्म्स में सेफ्टी सिस्टम भी होते हैं, जिनका मकसद संभावित रूप से खतरनाक या प्रतिबंधित कंटेंट की पहचान करना है। इसलिए एआई चैट को पूरी तरह ऐसी निजी डायरी मानना सही नहीं होगा, जहां लिखी गई हर बात किसी भी परिस्थिति में प्लेटफॉर्म से बाहर नहीं जा सकती।

खासकर जब बातचीत में गंभीर हिंसा या किसी व्यक्ति की जान को खतरे जैसी बात सामने आती है, तो कंपनी की सेफ्टी और इमरजेंसी नीतियां लागू हो सकती हैं। एंथ्रोपिक की सार्वजनिक नीति भी गंभीर नुकसान को रोकने के लिए कुछ परिस्थितियों में कानून प्रवर्तन को जानकारी देने की संभावना बताती है।

क्या हर एआई चैट पुलिस तक पहुंच सकती है?

नहीं... इस मामले का मतलब यह नहीं है कि एआई चैटबॉट पर लिखी गई हर आपत्तिजनक, गुस्से वाली या परेशान करने वाली बात अपने आप पुलिस को रिपोर्ट कर दी जाती है। यहां मामला कथित तौर पर गंभीर हिंसक धमकियों का था। अरेस्ट रिपोर्ट के अनुसार, संदेशों की प्रकृति को देखते हुए उन्हें पहले सेफ्टी सिस्टम ने फ्लैग किया, फिर ह्यूमन टीम ने उनकी समीक्षा की और उसके बाद कानून प्रवर्तन से संपर्क किया। यानी इस घटना में ऑटोमेटेड सेफ्टी सिस्टम और ह्यूमन रिव्यू व कानून प्रवर्तन की पूरी प्रक्रिया सामने आती है।

इस मामले से क्या समझ आता है?

विशेषज्ञ के अनुसार एआई चैटबॉट अब सिर्फ सवालों के जवाब देने वाले टूल नहीं रह गए हैं। लोग इन्हें लिखने, सोचने, प्लानिंग और यहां तक कि निजी विचार दर्ज करने के लिए भी इस्तेमाल कर रहे हैं, लेकिन यह घटना दिखाती है कि किसी एआई प्लेटफॉर्म पर लिखी गई बातचीत को हमेशा पूरी तरह निजी डायरी की तरह नहीं समझना चाहिए। गंभीर सुरक्षा खतरे की स्थिति में प्लेटफॉर्म की सेफ्टी नीतियां और इमरजेंसी प्रोसीजर सक्रिय हो सकते हैं।

इस मामले में महिला को कथित धमकी के बाद हिरासत में लिया गया और उस पर लिखित हिंसा की धमकी देने का आरोप लगाया गया है। हालांकि एंथ्रोपिक ने इस खास मामले पर सार्वजनिक रूप से विस्तार से टिप्पणी नहीं की है।