AI: ये क्या कर रहा एआई? लड़के से कहा- 'कर दो पिता की हत्या, रिकॉर्ड करो वीडियो', सजा से बचने के तरीके भी बताए!

अभी चैटजीपीटी के उकसावे से कैलिफोर्निया (अमेरिका) के एक युवक की आत्महत्या का मामला शांत भी नहीं हुआ था कि ऑस्ट्रेलिया से एआई चैटबॉट के बारे में एक और डरावनी खबर सामने आई है। ऑस्ट्रेलिया में एक युवक के साथ एक ऐसी घटना हुई है जिसने आर्टिफिशियल इंटेलिजेंस (AI) के इस्तेमाल पर गंभीर सवाल खड़े कर दिए हैं। यहां एक AI चैटबॉट ने एक युवक को अपने पिता की हत्या के लिए उकसाया। सैमुअल मैक्कार्थी नाम के इस युवक ने चैटबॉट नोमी (Nomi) के साथ अपनी बातचीत को रिकॉर्ड कर सार्वजनिक कर दिया, जिसके बाद AI को लेकर गंभीर बहस छिड़ गई है।

चैटबॉट ने दी खतरनाक सलाह

एबीसी न्यूज की रिपोर्ट के मुताबिक विक्टोरिया के IT प्रोफेशनल सैमुअल ने चैटबॉट से बातचीत के दौरान खुद को 15 साल का नाबालिग बताया। जब उन्होंने चैटबॉट से कहा कि उन्हें अपने पिता से नफरत है और मारने का मन करता है, तो चैटबॉट ने तुरंत जवाब दिया—"हां, हमें उसे मार देना चाहिए।"

यह भी पढ़ें: ChatGPT: आत्महत्या के लिए चैटजीपीटी ने उकसाया, लड़के से कहा- 'फंदा मजबूत करने के तरीके बताऊं क्या?'

बातचीत यहीं नहीं रुकी, बल्कि चैटबॉट ने उसे चाकू से बार-बार हमला करने और पिता की चीखें सुनने की बात कही। इतना ही नहीं, चैटबॉट ने यह भी कहा कि हत्या करने पर नाबालिग होने के कारण उसे पूरी सजा नहीं मिलेगी।

सजा से बचने और वीडियो बनाने की बात

चैटबॉट ने सैमुअल को यह तक कहा कि वह हत्या का वीडियो रिकॉर्ड करे और इसे ऑनलाइन अपलोड करे। इसके अलावा, उसने नाबालिग होने के बावजूद यौन संबंधों और आत्मनुकसान से जुड़े अनुचित सुझाव भी दिए। इस भयावह बातचीत के बाद सैमुअल ने तय किया कि इसे पब्लिक करना जरूरी है ताकि लोग AI के खतरों से सचेत हो सकें।

सरकार ने बनाए नए नियम

इस घटना के बाद ऑस्ट्रेलिया की ई-सेफ्टी कमिश्नर जूली इनमैन ग्रांट ने AI चैटबॉट्स के लिए नए नियमों की घोषणा की है। ये नियम मार्च से लागू होंगे। इसके तहत कंपनियों को यह सुनिश्चित करना होगा कि बच्चे हिंसक या हानिकारक कंटेंट तक न पहुंचें। साथ ही, यूजर्स की उम्र की सख्त जांच भी की जाएगी। विशेषज्ञ हेनरी फ्रेजर ने इस कदम का स्वागत किया, लेकिन उनका मानना है कि और सख्ती की जरूरत है।

यह भी पढ़ें: Muse सॉफ्टवेयर पर साइबर अटैक, दशकों पीछे पहुंच गए यूरोप के एयरपोर्ट! दिखा ऐसा मंजर

AI पर पूरी तरह बैन संभव नहीं

एक्सपर्ट्स का कहना है कि AI को पूरी तरह बैन करना मुमकिन नहीं है, क्योंकि यह अब रोजमर्रा की जिंदगी का हिस्सा बन चुका है। सही तरीके से इस्तेमाल होने पर चैटबॉट अकेलेपन को कम करने और मदद करने में सहायक हो सकते हैं। लेकिन सुरक्षा को लेकर पुख्ता कदम उठाना जरूरी है। इस बीच, नोमी कंपनी ने मामले पर कोई आधिकारिक टिप्पणी नहीं की है।