Grok Ban: इंडोनेशिया के बाद मलयेशिया में भी ग्रोक हुआ बैन, अश्लील तस्वीरों के मामले में हुई बड़ी कार्रवाई

एलोन मस्क के सोशल मीडिया प्लेटफॉर्म X पर मिलने वाले एआई चैटबॉट Grok को लेकर एक बड़ी खबर सामने आई है। दक्षिण-पूर्व एशियाई देशों, मलयेशिया और इंडोनेशिया ने अपने यहां ग्रोक एआई चैटबॉट को पूरी तरह ब्लॉक कर दिया है। अधिकारियों के अनुसार, इस टूल का इस्तेमाल महिलाओं और नाबालिगों की अश्लील, गैर-सहमति वाली और एडिटेड तस्वीरें बनाने में किया जा रहा था, जो गंभीर चिंता का विषय है।

डीपफेक को लेकर बढ़ती वैश्विक चिंता

Grok का इस्तेमाल वेबसाइट और एप से किया जा सकता है, लेकिन इसे सोशल मीडिया प्लेटफॉर्म एक्स (X) पर भी यूज किया जा सकता है। हाल ही में एक्स पर ग्रोक का इस्तेमाल कर महिलाओं की अश्लील डीपफेक तस्वीरें बनाई गईं। इसे लेकर आरोप है कि यह बेहद वास्तविक दिखने वाली तस्वीरें, ऑडियो और टेक्स्ट तैयार कर सकता है। समस्या यह है कि मौजूदा सुरक्षा उपाय इनका गलत इस्तेमाल रोकने में कारगर साबित नहीं हो पा रहे हैं। खासतौर पर महिलाओं को बिकिनी या आपत्तिजनक पोज में दिखाने और बच्चों से जुड़े कंटेंट पर सवाल उठे हैं। ये तस्वीरें इतनी असली लगती हैं कि किसी की भी छवि खराब कर सकती हैं।

इंडोनेशिया और मलयेशिया का रुख

इंडोनेशिया सरकार ने शनिवार को ग्रोक की पहुंच अस्थायी रूप से बंद की, जबकि मलयेशिया ने रविवार को यही कदम उठाया। इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेत्या हफीद ने कहा कि बिना सहमति के बनाए गए यौन डीपफेक मानवाधिकारों, गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन हैं। इंडोनेशिया के डिजिटल स्पेस सुपरविजन महानिदेशक अलेक्जेंडर सबार के मुताबिक शुरुआती जांच में पाया गया कि ग्रोक में ऐसे प्रभावी सेफगार्ड नहीं हैं, जो असली तस्वीरों के आधार पर फर्जी अश्लील कंटेंट बनाने और फैलाने से रोक सकें। इससे लोगों की प्राइवेसी, इमेज राइट्स और मानसिक-सामाजिक प्रतिष्ठा को नुकसान पहुंचता है।

मलेशिया में भी सख्त कदम

मलयेशियाई कम्युनिकेशंस एंड मल्टीमीडिया कमीशन ने Grok के “बार-बार दुरुपयोग” का हवाला देते हुए अस्थायी प्रतिबंध लगा दिया है। रेगुलेटर का कहना है कि X Corp. और xAI को भेजे गए नोटिस के जवाब में केवल यूजर रिपोर्टिंग मैकेनिज्म पर ही भरोसा दिखाया गया, जो पर्याप्त नहीं है। बैन तब तक रहेगा, जब तक मजबूत सुरक्षा उपाय लागू नहीं होते।

2023 में लॉन्च हुआ Grok सोशल मीडिया प्लेटफॉर्म X पर भी उपलब्ध है। पिछले साल इसमें इमेज जनरेशन फीचर 'ग्रोक इमेजिन' जोड़ा गया था, जिसमें ‘स्पाइसी मोड’ भी शामिल था, जो एडल्ट कंटेंट बना सकता है। इसी फीचर को लेकर सबसे ज्यादा विवाद हो रहा है।