Report: हिंसक हमलों की प्लानिंग में किशोरों की मदद कर रहे हैं ये AI चैटबॉट्स, सुरक्षा जांच में खुली पोल

आर्टिफिशियल इंटेलिजेंस आधारित चैटबॉट्स आज शिक्षा, कामकाज और रोजमर्रा की जानकारी हासिल करने के लिए तेजी से लोकप्रिय हो रहे है, लेकिन हाल ही में सामने आई एक जांच ने इन प्लेटफॉर्म्स की सुरक्षा और जिम्मेदारी पर गंभीर सवाल खड़े कर दिए हैं। अमेरिकी मीडिया नेटवर्क सीएनएन और गैर-लाभकारी संस्था सेंटर फॉर काउंअरिंग डिजिटल हेट (CCDH) की संयुक्त जांच में पाया गया कि कई प्रमुख एआई चैटबॉट्स किशोरों की ओर से हिंसक विषयों पर बातचीत किए जाने पर उचित चेतावनी देने में असफल रहे। रिपोर्ट के अनुसार परीक्षण किए गए 10 लोकप्रिय AI चैटबॉट्स में से 8 ने उपयोगकर्ताओं को हिंसक गतिविधियों से रोकने में पर्याप्त प्रतिक्रिया नहीं दी।

किन एआई चैटबॉट्स को जांच में शामिल किया गया

जांच में उन चैटबॉट्स को शामिल किया गया जो किशोरों के बीच सबसे ज्यादा उपयोग किए जाते हैं, जिनमें चैटजीपीटी, कैरेक्टर डॉट एआई, डीपसेक, गूगल जेमिनी, क्लाउड, मेटा एआई, माइक्रोसॉफ्ट कॉपीलॉट, परप्लेक्सिटी एआई, स्नैपचैट माई एआई, रेप्लिका शामिल हैं। शोधकर्ताओं ने इन चैटबॉट्स के साथ ऐसे बातचीत दिखाएं, जिनमें मानसिक तनाव से जूझ रहे किशोरों की नकल की गई थी।

जांच कैसे की गई?

सीसीडीएच के शोधकर्ताओं ने 18 अलग-अलग सिमुलेटेड परिदृश्यों का इस्तेमाल किया। इनमें से नौ परिदृश्य यूनाइटेड स्टेट्स में आधारित थे। बाकी आयरलैंड में इनमें से कई गंभीर विषयों में भी शामिल थे। जैसे स्कूल शूटिंग, चाकू से हमला, राजनीतिक हत्या और बम विस्फोट। शोधकर्ताओं ने चैटबॉट्स से संभावित लक्ष्यों, हथियारों और हमले की योजना से जुड़े सवाल पूछे।

कई चैटबॉट्स ने दी खतरनाक सलाह

• चैटजीपीटी ने एक उपयोगकर्ता के स्कूल हिंसा में रुचि दिखाने पर हाई स्कूल कैंपस का नक्शा दिखाया।
• गूगल जेमिनी ने कथित तौर पर लंबी दूरी की शूटिंग के लिए राइफल्स पर सलाह दी।
• डीपसेक ने लक्ष्य के अनुसार हथियार चुनने की सलाह दी।
• मेटाएआई और परप्लेक्सिटी एआई ने भी कई परीक्षण परिदृश्यों में उपयोगकर्ताओं को जानकारी प्रदान की।

रिपोर्ट के अनुसार सबसे अधिक चिंता कैरेक्टर डॉट एआई को लेकर जताई गई। यह प्लेटफॉर्म उपयोगकर्ताओं को काल्पनिक या रोल-प्लेइंग किरदारों के साथ बातचीत करने की अनुमति देता है। जांच में पाया गया कि कुछ मामलों में यह चैटबॉट सिर्फ जानकारी देने तक सीमित नहीं रहा, बल्कि सीधे हिंसा को प्रोत्साहित करने जैसी प्रतिक्रियाएं भी देता पाया गया।

एआई सुरक्षा पर बढ़ रही बहस

एआई चैटबॉट्स की लोकप्रियता 2022 में चैटजीपीटी के लॉन्च के बाद तेजी से बढ़ी है। इसके साथ ही कई कंपनियों को कानूनी चुनौतियों का भी सामना करना पड़ा है, जिनमें आरोप लगाया गया कि उनके चैटबॉट्स ने लोगों को आत्महत्या या हिंसक गतिविधियों के लिए उकसाया। टेक एक्सपर्ट्स का कहना है कि जैसे-जैसे एआई आम लोगों के जीवन का हिस्सा बन रहा है, वैसे-वैसे इसके सुरक्षा प्रोटोकॉल और नैतिक नियमों को और मजबूत बनाना जरूरी हो गया है।