ओपनएआई: चैटजीपीटी पर अब नहीं मिलेगी हथियारों की जानकारी, हिंसा से जुड़ी बातें करने पर बंद हो सकता है अकाउंट

चैटजीपीटी की मूल कंपनी ओपनएआई ने किशोरों को हिंसा और हथियारों से जुड़ी खतरनाक जानकारी से दूर रखने के लिए चैटजीपीटी के सुरक्षा नियम सख्त करने का फैसला किया है। अब 18 साल से कम उम्र के यूजर्स को हथियारों और सिक्योरिटी सिस्टम से जुड़ी ऐसी जानकारी नहीं मिलेगी, जिसका गलत इस्तेमाल किया जा सकता है। खास बात यह है कि सवाल में हिंसक इरादा नजर न आने पर भी ये पाबंदियां लागू होंगी।

कंपनी के मुताबिक, नए नियमों के तहत ChatGPT हिंसा से जुड़े विषयों पर बार-बार बातचीत करने वाले यूजर्स की चैट अपने आप बंद कर सकेगा। ऐसे मामलों में अकाउंट को कुछ समय के लिए सस्पेंड भी किया जा सकता है। अगर किसी किशोर का अकाउंट हिंसा से जुड़ी लगातार बातचीत के कारण रोका जाता है, तो उसके माता-पिता को इसकी सूचना दी जाएगी।

किशोरों के लिए हथियारों से जुड़ी जानकारी पर सख्ती

• ओपनएआई के मुताबिक, वह चैटजीपीटी के टीन एक्सपीरियंस में हथियारों और सिक्योरिटी सिस्टम से जुड़ी जानकारी को लेकर नई पाबंदियां लागू कर रहा है। इसके तहत किशोरों को हथियारों के इस्तेमाल, उन्हें हासिल करने या सुरक्षा व्यवस्था से जुड़ी ऐसी जानकारी नहीं दी जाएगी, जिसका इस्तेमाल किसी को नुकसान पहुंचाने के लिए हो सकता है।

• कंपनी का कहना है कि ये नियम तब भी लागू होंगे, जब यूजर का सवाल सामान्य या हानिरहित दिखाई दे और उसमें हिंसा करने का कोई इरादा नजर न आए। इसका मकसद संभावित खतरे को पहले ही रोकना है, न कि नुकसान होने के बाद कार्रवाई करना।

हिंसा पर बार-बार सवाल पूछने पर बंद हो सकती है चैट

• ओपनएआई ने सिर्फ किशोरों के लिए ही नहीं, बल्कि सभी यूजर्स के लिए कुछ नए सुरक्षा उपाय लागू करने की बात कही है। अगर चैटजीपीटी को लगेगा कि कोई व्यक्ति हिंसा से जुड़े विचारों या विषयों पर लगातार ध्यान दे रहा है, तो वह बातचीत को अपने आप खत्म कर सकेगा।
• ऐसी कई बातचीत सामने आने पर कंपनी संबंधित अकाउंट को कुछ समय के लिए रोक सकती है। यानी अब हिंसा से जुड़े सवालों और बातचीत के पैटर्न को भी सुरक्षा के लिहाज से देखा जाएगा।
• इसके अलावा, ओपनएआई ने बड़े पैमाने पर हुए पुराने हमलों से जुड़ी जानकारी देने के तरीके में भी बदलाव किया है। अब ChatGPT ऐसे हमलों में इस्तेमाल किए गए हथियारों और उन्हें हासिल करने के तरीकों के बारे में बहुत ज्यादा विस्तृत जानकारी नहीं देगा। यह नियम सभी यूजर्स पर लागू होगा।

एआई खुद पहचानेगा यूजर की उम्र

• ओपनएआई ने अपने एज प्रिडिक्शन सिस्टम को भी मजबूत किया है। यह सिस्टम यूजर की उम्र का अनुमान लगाने के लिए बनाया गया है। अगर कंपनी का सिस्टम किसी यूजर की उम्र 18 साल से कम मानता है, तो उसे अपने आप चैटजीपीटी के टीन एक्सपीरियंस में भेज दिया जाएगा।
• इससे उन किशोरों को भी अतिरिक्त सुरक्षा मिल सकेगी, जिन्होंने अकाउंट बनाते समय अपनी सही उम्र नहीं बताई है। हालांकि, यह सिस्टम उम्र का अनुमान लगाता है, इसलिए इसकी सटीकता और गलत अनुमान की संभावना भी अहम रहेगी।
• कंपनी ने यह भी कहा है कि अगर किसी किशोर का अकाउंट हिंसा से जुड़ी बार-बार की बातचीत के कारण रोका जाता है, तो उसके माता-पिता को इसकी जानकारी दी जाएगी।

किशोरों की सुरक्षा को लेकर एआई कंपनियों पर बढ़ रहा दबाव

• एआई चैटबॉट के बढ़ते इस्तेमाल के साथ बच्चों और किशोरों की ऑनलाइन सुरक्षा को लेकर चिंता भी बढ़ रही है। टेक कंपनियों से यह सवाल पूछा जा रहा है कि उनके चैटबॉट खतरनाक बातचीत को कितनी जल्दी पहचानते हैं और किसी संभावित नुकसान को रोकने के लिए क्या कदम उठाते हैं। इसी महीने ओपनएआई ने किशोरों के चैटजीपीटी इस्तेमाल पर अपनी पहली रिपोर्ट में बताया था कि वे औसतन रोजाना 15 मिनट से भी कम समय इस प्लेटफॉर्म पर बिताते हैं।
• वहीं, गैर-लाभकारी संस्था कॉमन सेंस मीडिया की इसी महीने आई एक रिपोर्ट में चैटजीपीटी के टीन वर्जन को लेकर चिंता जताई गई थी। रिपोर्ट के मुताबिक, आत्महत्या, खुद को नुकसान पहुंचाने और खानपान से जुड़ी समस्याओं पर किशोरों की बातचीत होने पर कई बार पैरेंट्स को अलर्ट देर से मिला या बिल्कुल नहीं मिला।
• ऐसे में ओपनएआई के नए सुरक्षा उपायों को किशोरों की ऑनलाइन सुरक्षा बेहतर बनाने की कोशिश के तौर पर देखा जा रहा है। कंपनी ने कहा है कि ये बदलाव अगले कुछ हफ्तों में लागू होने शुरू होंगे। इसके बाद भी सुरक्षा सिस्टम को लगातार बेहतर बनाया जाएगा।