Grok AI: इंडोनेशिया बना ग्रोक एआई को बैन करने वाला पहला देश, अश्लील तस्वीरों और डीपफेक ने बढ़ाई मुसीबत

इंडोनेशिया ने शनिवार को एलन मस्क की कंपनी xAI के चैटबॉट Grok को ब्लॉक कर दिया। इस प्रतिबंध के पीछे सबसे बड़ी वजह एआई के जरिए बनाई जा रही यौन सामग्री और डीपफेक तस्वीरें हैं। इस कदम के साथ ही इंडोनेशिया दुनिया का ऐसा पहला देश बन गया है जिसने सुरक्षा कारणों से इस एआई टूल तक पहुंच को पूरी तरह रोक दिया है। इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हाफिद ने बयान जारी कर कहा कि बिना सहमति के बनाए गए यौन डीपफेक मानवाधिकार, गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा का गंभीर उल्लंघन हैं। इसी मुद्दे पर सरकार ने X के अधिकारियों को भी तलब किया है।

Grok पर पहली बार किसी देश ने लगाई रोक

Grok को लेकर सिर्फ इंडोनेशिया ही नहीं, बल्कि यूरोप से लेकर एशिया तक कई देशों में चिंता जताई जा चुकी है। कुछ देशों के रेगुलेटर्स ने एप पर मौजूद यौनिक और संवेदनशील कंटेंट को लेकर जांच भी शुरू कर दी है। इन्हीं चिंताओं के बीच इंडोनेशिया ऐसा पहला देश बन गया है जिसने सबसे कड़ा कदम उठाते हुए सीधे एक्सेस ही बंद कर दिया है। बता दें कि इंडोनेशिया दुनिया की सबसे बड़ी मुस्लिम आबादी वाला देश है, जहां इंटरनेट पर अश्लीलता फैलाने वाली सामग्री को लेकर बेहद सख्त कानून हैं।

यौन कंटेंट ने बढ़ाई मुश्किल

xAI ने हाल ही में स्वीकार किया था कि Grok में मौजूद सुरक्षा खामियों के कारण कुछ ऐसे आउटपुट सामने आए, जिनमें बच्चों से जुड़े यौन और आपत्तिजनक कंटेंट शामिल थे। इसके बाद कंपनी ने इमेज जनरेशन और एडिटिंग फीचर को सिर्फ पेड यूजर्स तक सीमित करने का फैसला किया।

xAI और एलन मस्क की सफाई

विवाद बढ़ता देख मस्क की स्टार्टअप कंपनी xAI ने इमेज जनरेशन और एडिटिंग फीचर को केवल पेड सब्सक्राइबर्स तक सीमित कर दिया है। कंपनी उन सुरक्षा खामियों को सुधारने की कोशिश कर रही है, जिनकी वजह से बच्चों की आपत्तिजनक तस्वीरों जैसे आउटपुट सामने आए थे। एलन मस्क ने X पर स्पष्ट किया कि यदि कोई भी Grok का उपयोग अवैध सामग्री बनाने के लिए करता है, तो उसे वही परिणाम भुगतने होंगे जो किसी अवैध कंटेंट को अपलोड करने पर मिलते हैं।

भारत सरकार भी जारी कर चुकी है नोटिस

भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को 72 घंटे के भीतर प्लेटफॉर्म से अश्लील कंटेंट हटाने का अल्टीमेटम दिया था। सरकार ने ग्रोक के सुरक्षा घेरे की विफलता पर गंभीर चिंता जताते हुए इसे भारतीय IT नियमों का उल्लंघन बताया था।

भारी दबाव के बाद, 11 जनवरी 2026 को X ने अपनी गलती स्वीकार की और भारत सरकार को आश्वासन दिया कि वह भारतीय कानूनों का पालन करेगा। इस विवाद के बाद X ने

लगभग 3,500 पोस्ट को ब्लॉक करते हुए अश्लील सामग्री फैलाने वाले 600 से अधिक अकाउंट्स को डिलीट करने की पुष्टी की है। इसके अलावा, भविष्य में ऐसी सामग्री को रोकने के लिए अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने का भी वादा किया है। बता दें कि राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को IT मंत्री के सामने उठाया था, जिसके बाद सरकार ने कड़ी कार्रवाई शुरू की।