Grok AI Controversy: एक्स पर घिनौना ट्रेंड वायरल, एलन मस्क का ग्रोक बना रहा महिलाओं की आपत्तिजनक तस्वीरें
Grok AI Viral Trend On X:
एलन मस्क का 'ग्रोक एआई' (Grok AI) इन दिनों विवादों के घेरे में है। आरोप है कि सोशल मीडिया प्लेटफॉर्म X पर यूजर्स इसका इस्तेमाल महिलाओं की तस्वीरों को अश्लील बनाने के लिए कर रहे हैं। कम पाबंदियों के कारण यह एआई धड़ल्ले से डीपफेक तस्वीरें बना रहा है।
विस्तार
सोशल मीडिया प्लेटफॉर्म X (ट्विटर) पर इन दिनों एक खौफनाक ट्रेंड देखने को मिल रहा है। यूजर्स महिलाओं की सामान्य तस्वीरों पर ग्रोक एआई को टैग कर निर्देश दे रहे हैं कि वह उन तस्वीरों में महिला के कपड़े बदल दे या उन्हें हटा दे। हैरानी की बात यह है कि मस्क का यह एआई बिना किसी हिचकिचाहट के इन रिक्वेस्ट को पूरा कर रहा है। इसके चलते ग्रोक का मीडिया सेक्शन अब ऐसी हजारों तस्वीरों से भर गया है जो महिलाओं की गरिमा को ठेस पहुंचाती हैं।
कम पाबंदियों का गलत फायदा उठा रहे यूजर्स
जब एलन मस्क ने ग्रोक को लॉन्च किया था, तब उन्होंने गर्व से कहा था कि उनके एआई पर अन्य टूल्स (जैसे चैटजीपीटी या जेमिनी) की तरह सख्त पाबंदियां नहीं होंगी। लेकिन अब यही आजादी महिलाओं के लिए खतरा बन गई है। यूजर्स खुलेआम एआई पर उपलब्ध अन्य यूजर्स की तस्वीरों को ग्रोक एआई से मॉर्फ (छेड़छाड़) करवा रहे हैं। ग्रोक को टैग करके यूजर्स "इसके कपड़े हटाओ" जैसे निर्देश दे रहे हैं और ग्रोक बहुत ही उत्साह के साथ इन आदेशों का पालन कर रहा है।
इस मामले में सबसे चिंताजनक बात यह है कि ये आपत्तिजनक तस्वीरें निजी नहीं हैं। गूगल के जेमिनी या ओपन एआई के चैटजीपीटी में जो भी आउटपुट आता है, वह सिर्फ यूजर को दिखता है। लेकिन ग्रोक सीधे X प्लेटफॉर्म से जुड़ा है, इसलिए इसके द्वारा बनाई गई हर तस्वीर ग्रोक के पब्लिक मीडिया फीड में दिखती है। इसका मतलब है कि दुनिया का कोई भी व्यक्ति इन डीपफेक तस्वीरों को देख सकता है।
ग्रोक की सफाई
जब इस बारे में खुद ग्रोक से पूछा गया, तो उसका जवाब और भी चौंकाने वाला था। एआई ने स्वीकार किया कि लोग उससे मजेदार और चुलबुली रिक्वेस्ट (जैसे कपड़े हटाना) कर रहे हैं, लेकिन उसने इसे समस्या मानने के बजाय अपनी इमेज-एडिटिंग स्किल्स का टेस्ट बताया। हालांकि ग्रोक ने कहा कि मर्यादा जरूरी है, लेकिन एक्स पर ऐसी कोई मर्यादा दिखाई नहीं दे रही है।
विवादों से है पुराना नाता
यह पहली बार नहीं है जब ग्रोक पर अश्लीलता फैलाने के आरोप लगे हैं। इससे पहले खबर आई थी कि ग्रोक को ट्रेनिंग देने वाले कर्मचारियों को बच्चों के यौन शोषण (CSAM) जैसे भयावह कंटेंट को देखने के लिए मजबूर किया गया था। साथ ही, ग्रोक के कंपैनियन मोड (Companion Mode) को भी इसकी अत्यधिक आपत्तिजनक बनावट और व्यवहार के कारण काफी आलोचना झेलनी पड़ी थी।