Grok AI Controversy: चेतावनी के बाद भी नहीं बंद हुआ अश्लील कंटेंट, मस्क की कंपनी को अब 7 जनवरी तक की डेडलाइन

एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स और उसके एआई टूल Grok द्वारा अश्लील कंटेंट जेनरेट किए जाने के मामले में भारत सरकार ने अपना रुख और कड़ा कर दिया है। तकनीकी खामियों और सुरक्षा प्रोटोकॉल की विफलता को देखते हुए, आईटी मंत्रालय ने एक्स को 7 जनवरी तक विस्तृत एक्शन टेकन रिपोर्ट (ATR) जमा करने का अतिरिक्त समय दिया है। इसके बाद सरकार ने स्पष्ट चेतावनी दी है कि यदि अश्लील और गैर-कानूनी कंटेंट पर लगाम नहीं लगी, तो एक्स को प्राप्त कानूनी सुरक्षा खत्म कर दी जाएगी और सख्त कानूनी कार्रवाई भी होगी।

इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने शुरुआत में एक्स को 5 जनवरी तक रिपोर्ट सौंपने का निर्देश दिया था। सूत्रों के अनुसार, एक्स प्रशासन की ओर से और समय मांगे जाने के बाद अब सरकार ने 7 जनवरी की नई समयसीमा तय की है। मंत्रालय ने शुक्रवार को सख्त लहजे में कहा कि Grok AI की ओर से बनाए जा रहे वल्गर और अश्लील कंटेंट को तुरंत हटाया जाए। नहीं तो प्लेटफॉर्म को कानून के तहत गंभीर परिणामों का सामना करना पड़ेगा।

क्यों लगा था आरोप?

आईटी मंत्रालय ने 2 जनवरी को भेजे गए पत्र में कहा था कि ग्रोक एआई का दुरुपयोग करके महिलाओं की अश्लील तस्वीरें और वीडियो बनाई जा रही हैं। मंत्रालय ने जोर देकर कहा कि ये केवल फेक अकाउंट बनाने तक सीमित नहीं है, बल्कि असली महिलाओं की तस्वीरों को इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के जरिए यौन रूप से स्पष्ट बनाया जा रहा है।

नियमों का पालन न करने पर खत्म हो जाएगा सुरक्षा कवच

सरकार ने एक्स को याद दिलाया कि IT एक्ट की धारा 79 के तहत उसे मिलने वाली कानूनी छूट (जिसके तहत प्लेटफॉर्म यूजर्स के कंटेंट के लिए जिम्मेदार नहीं होता) केवल तभी लागू रहती है जब प्लेटफॉर्म उचित सावधानी बरतता है। नियमों का पालन न करने पर ये सुरक्षा कवच खत्म हो जाएगा, जिससे एक्स सीधे तौर पर IT एक्ट और भारतीय न्याय संहिता के तहत कानूनी कार्रवाई के लिए उत्तरदायी होगा।

ये भी पढ़े: Grok AI Controversy: 'ग्रोक से अवैध कंटेंट बनाने वालों पर होगी कार्रवाई', एआई से जुड़े विवाद पर एलन मस्क

आईटी मंत्रालय ने X को Grok AI का व्यापक तकनीकी, प्रक्रियात्मक और गवर्नेंस-स्तर का रिव्यू करने का निर्देश दिया है। इसमें शामिल हैं। इसमें प्प्रॉम्प्ट-प्रोसेसिंग शामिल है। इसमें उन निर्देशों की जांच की जाएगी जिनसे अश्लील कंटेंट बनता है। इसके अलावा इमेज-हैंडलिंग और सुरक्षा गार्डरेल्स भी है। इससे सुनिश्चित किया जाएगा कि AI किसी भी रूप में नग्नता या यौन सामग्री को बढ़ावा न दे। अंत में अकाउंट निलंबन पर काम किया जाएगा। इससे नियमों का उल्लंघन करने वाले यूजर्स के खिलाफ सख्त और स्थायी कार्रवाई हो सकेगी।

रिपोर्ट में क्या-क्या होना जरूरी है?

7 जनवरी तक जमा होने वाली ATR में सरकार ने एक्स से कुछ जानकारियां मांगी हैं। जिसमें ग्रोक एप्लिकेशन को सुरक्षित बनाने के लिए उठाए गए तकनीकी उपाय, मुख्य अनुपालन अधिकारी की भूमिका और निगरानी, अब तक हटाए गए आपत्तिजनक कंटेंट और बैन किए गए अकाउंट्स का विवरण और भविष्य में भारतीय कानूनों का पालन सुनिश्चित करने का पूरा तंत्र मांगा गया है।

आपको बता दें कि ये अब ये विवाद भारत तक सीमित नहीं रह गया है। इसने वैश्विक रूप ले लिया है। जिसके बाद ब्रिटेन के संचार नियामक और यूरोपीय आयोग ने X और xAI से तीखे सवाल पूछे हैं। एआई फॉरेंसिक्स की रिपोर्ट में दावा किया है कि ये सरकार की चेतावनियों के बादजूद लगातार ग्रोक से अश्लील तस्वीरें बनाई जा रही है। ये प्लेटफॉर्म की सुरक्षा व्यवस्था की विफलता को दर्शाता है।

एलन मस्क ने क्या कहा?

ग्रोक के विवादों को बढ़ता देख एलन मस्क ने भी स्वीकारा कि एआई से ऐसे कंटेंट बनाए जा रहे हैं। जोकि गैरकानूनी अपराध है। एक्स प्रशासन ने दावा किया कि ऐसा कंटेंट फैलाने वाले अकाउंट्स को स्थायी रूप से बैन किया जाएगा। हालांकि, विशेषज्ञों का कहना है कि प्लेटफॉर्म के सुरक्षा फिल्टर अभी भी इतने कमजोर हैं कि फर्जी अकाउंट्स के जरिए यह खेल जारी है।

विशेषज्ञों का मानना है कि यह केवल यूजर की गलती नहीं है, बल्कि Grok AI के बुनियादी ढांचे की कमी भी है। भारत सरकार का मानना है कि यदि सोशल मीडिया प्लेटफॉर्म अपने एआई टूल्स को सुरक्षित नहीं बना सकते, तो उन पर भारी जुर्माना या कानूनी प्रतिबंध लगाए जा सकते हैं। सात जनवरी के तक नई डेडलाइन के बाद सरकार कड़े कदम उठा सकती है।