AI विवाद: मस्क के Grok AI पर भारत की सख्ती का असर, अब X पर नहीं बनेंगे अश्लील डीपफेक, कंपनी ने उठाए कड़े कदम

एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म एक्स ने अपने एआई चैटबॉट ग्रोक को लेकर सख्त कदम उठा लिए हैं। ये ग्रोक एआई के दुरुपयोग को रोकने के लिए जीरो टॉलनेंस नीति अपना रहा है। विशेष रूप से महिलाओं की सुरक्षा और गैर-सहमति वाली नग्नता को रोकने के लिए प्लेटफॉर्म ने इमेज जनरेशन और एडिटिंग पर कड़े प्रतिबंध लगा दिए हैं। ये कदम भारत सहित कई देशों की सरकारों की बढ़ती सख्ती और नियामकीय दबाव के बाद उठाया गया है। अब बिकनी या अंडरवियर जैसे खुले कपड़ों में वास्तविक लोगों की तस्वीरें बनाना पूरी तरह प्रतिबंधित कर दिया गया है।

एक्स ने अपने आधिकारिक सेफ्टी हैंडल पर कहा कि ग्रोक एआई के जरिए कामुक सामग्री बनाने या संपादित करने की क्षमता को सीमित कर दिया गया है। ये प्रतिबंध फ्री और पेड दोनों तरह के यूजर्स पर लागू होगा। हालांकि ग्रोक के जरिए इमेज जनरेशन और एडिटिंग की सुविधा अब केवल सब्सक्राइबर्स को ही मिलेगी। एक्स ने स्पष्ट किया कि जहां ये अवैध है, वहां ग्रोक अकाउंट और एक्स प्लेटफॉर्म पर बिकनी, अंडरवियर या इसी तरह के कपड़ों में वास्तविक लोगों की छवियां बनाने की क्षमता को जियोब्लॉक कर दिया गया है। साथ ही, ऐसी छवियों के संपादन को रोकने के लिए भी तकनीकी उपाय लागू किए गए हैं।

ये भी पढ़े: Grok AI Controversy: Grok AI पर अश्लील कंटेंट का मामला, X ने सरकार को सौंपा जवाब, IT मंत्रालय कर रहा समीक्षा

सुरक्षा की अतिरिक्त परत का दावा

कंपनी के अनुसार, ये कदम सुरक्षा की एक अतिरिक्त परत को जोड़ता है। इससे प्लेटफॉर्म या कानून का उल्लघंन करने वाले यूजर्स को जवाबदेह ठहराया जा सकेगा। एक्स ने कहा कि उसकी सुरक्षा टीम निरंतर 24x7 निगरानी करती है और उल्लंघन पाए जाने पर सामग्री हटाने, खातों को निलंबित करने और जरूरत पड़ने पर कानून प्रवर्तन एजेंसियों के साथ सहयोग करती है।

भारत सरकार की सख्ती का असर

2 जनवरी को भारत के आईटी मंत्रालय ने एक्स को अल्टीमेट जारी कर ग्रोक से अश्लील, आपत्तिजनक और गैर-कानूनी सामग्री को तुरंत हटाने का निर्देश दिया था। इसके अलावा एक्शन टेकन रिपोर्ट (ATR) भी मांगी थी, जिसमें तकनीकी उपायों और अनुपालन तंत्र का विवरण शामिल हो। इसके बाद एक्स ने अपनी गलती मानी और करीब 3500 आपत्तिजनक कंटेंट हटाए। साथ ही 600 से ज्यादा अकाउंट भी डिलीट किए। साथ ही कंपनी ने सरकार को भरोसा भी दिलाया कि वो भारतीय कानूनों और आईटी नियमों का पूरी तरह पालन करेगी।

ये भी पढ़ा: Grok AI Controversy: मस्क की बढ़ी मुसीबत, अश्लील कंटेंट पर मलयेशिया ने भी कसा शिकंजा; अब कोर्ट में होगा फैसला

वैश्विक स्तर पर बढ़ता दबाव

भारत के अलावा यूके और यूरोपीय संघ (EU) ने भी ग्रोक एआई से जुड़ी डीपफेक और गैर‑सहमति वाली यौन‑स्पष्ट छवियों को लेकर चिंता जताई है। नियामक संस्थाएं अब जेनेरेटिव एआई टूल्स पर कंटेंट मॉडरेशन, डेटा सुरक्षा और यूजर सेफ्टी को लेकर सख्त रुख अपना रही हैं।

एक्स का क्या कहना है?

एक्स का कहना है कि ये कदम उसके मौजूदा सुरक्षा प्रोटोकॉल के अनुरूप हैं। अब प्लेटफॉर्म पर बनाई या पोस्ट की जाने वाली हर एआई सामग्री को उसके नियमों और स्थानीय कानूनों का पालन किया जाएगा। कंपनी ने दोहराया कि बाल यौन शोषण सामग्री और गैर‑सहमति वाली नग्नता के प्रति उसकी नीति जीरो टॉलरेंस की है।