Grok Controversy: बार-बार विवादों में क्यों फंस रहा ग्रोक, जानिए ChatGPT-Gemini से कैसे अलग है ये एआई टूल

नए साल की शुरुआत के साथ ही X पर एक ट्रेंड वायरल होने लगा। कई यूजर्स ने Grok AI के इमेज एडिटिंग फीचर का गलत इस्तेमाल करते हुए महिलाओं, बॉलीवुड अभिनेत्रियों और सार्वजनिक हस्तियों की तस्वीरों को अनड्रेस करने या उन्हें बिकिनी में दिखाने के लिए एआई को कमांड दिए। हैरानी की बात यह रही कि Grok ने इन निर्देशों का पालन करते हुए हजारों अश्लील और आपत्तिजनक तस्वीरें बना डालीं। इस एआई टूल ने केवल लाखों फर्जी (डीपफेक) तस्वीरें बनाईं, बल्कि ये तस्वीरें X के सार्वजनिक मीडिया टैब में भी दिखाई दे रही हैं, जिससे पीड़ित महिलाओं की गरिमा को भारी ठेस पहुंच रही है।

भारत सरकार ने दिया 72 घंटे का अल्टीमेटम

इस मामले की गंभीरता को देखते हुए भारत के इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने एक्स (X) को एक बेहद सख्त नोटिस जारी किया है। सरकार ने एक्स को 72 घंटे का समय देते हुए प्लेटफॉर्म से सभी आपत्तिजनक कंटेंट को हटाने का आदेश दिया है। सरकार ने साफ कहा है कि अगर X ने इन अश्लील तस्वीरों और इन्हें बनाने वाले अकाउंट्स पर लगाम नहीं लगाई, तो वह अपनी सेफ हार्बर सुरक्षा खो देगा। इसका मतलब है कि फिर यूजर्स द्वारा पोस्ट किए गए किसी भी गलत कंटेंट के लिए X को सीधे तौर पर जिम्मेदार ठहराया जाएगा और उस पर आपराधिक मामला चल सकता है। नोटिस में आईटी एक्ट (IT Act), भारतीय न्याय संहिता (BNS) और महिलाओं के अश्लील प्रतिनिधित्व (निषेध) अधिनियम का जिक्र किया गया है।

एलन मस्क ने भी दी यूजर्स को चेतावनी

पहले तो एलन मस्क इन तस्वीरों का लजा लेते नजर आए और खुद की भी एक ऐसी ही तस्वीर बना डाली। लेकिन एक्स को भारत सरकार से नोटिस मिलने के बाद वे थोड़ा गंभीर हुए और कहा कि एक्स पर गैरकानूनी गतिविधि पर वही कानून लागू होते हैं जो गैरकानूनी कंटेंट अपलोड करने पर होते हैं। हालांकि, देखा जाए तो एक्स पर यह ट्रेंड अब भी वायरल है और यूजर्स धड़ल्ले से तस्वीरें बना रहे हैं। आपको बता दें कि ChatPT और Gemini जैसे एआई चैटबॉट को सीधे ऐसे कमांड्स देकर तस्वीरें बनवाना लगभग नामुमकिन है। ऐसे में Grok ऐसी तस्वीरें कैसे बना रहा है?

पहले भी विवादों में रहा है ग्रोक

चैटजीपीटी और गूगल जेमिनी के मुकाबले ग्रोक अपने जवाबों के लेकर पहले भी कई बार विवादों में रहा है। पिछले साल ग्रोक ने कई राजनीतिक हस्तियों के बारे में आपत्तिजनक टिप्पणी की थी। ग्रोक ने अमेरिका के प्रेसिडेंट डोनाल्ड ट्रंप को पीडोफाइल और इजरायली प्रधानमंत्री बेंजामिन नेतन्याहू को वॉर क्रिमिनल तक बता दिया था। वहीं, कई यूजर्स के साथ अभद्र भाषा का भी इस्तेमाल किया था। विवादित बयान देते हुए ग्रोक इस्राइल और अमेरिका पर गाजा में नरसंहार करने का आरोप भी लगा चुका है।

Gemini और ChatGPT से काफी अलग है Grok

मस्क का कहना है कि ग्रोक एक कलम की तरह है। कलम खुद नहीं तय करता कि उसे क्या लिखना है। उससे जो कहा जाता है, वह वही करता है। इसलिए उसे दोषी न ठहराया जाए। अब सवाल ये है कि जो काम Grok ने किया, वह गूगल का Gemini या OpenAI का ChatGPT क्यों नहीं करते? इसके पीछे तीन मुख्य कारण हैं जो इसके डिजाइन, काम करने की शैली और एलन मस्क के 'फ्री स्पीच' के आइडिया को दर्शाते हैं। गूगल और माइक्रोसॉफ्ट अपने एआई टूल से साथ सेफ्टी-फर्स्ट की नीति अपनाते हैं। उनके एआई में बहुत सख्त फिल्टर्स लगे हैं जो किसी भी यौन या आपत्तिजनक प्रॉम्प्ट को तुरंत ब्लॉक कर देते हैं। इसके विपरीत, एलन मस्क ने Grok को बेबाक बनाने की कोशिश की है, जिसके चलते इसके सुरक्षा नियम काफी लचीले हैं।

मस्क ने ग्रोक को 'एंटी-वोक' एआई के रूप में पेश किया है, जिसका अर्थ है कि यह उन राजनीतिक या सामाजिक बंधनों को नहीं मानता जिन्हें गूगल या माइक्रोसॉफ्ट जैसी कंपनियां जरूरी मानती हैं। ग्रोक के सुरक्षा कवच (गार्डरेल्स) जानबूझकर बहुत ढीले रखे गए हैं, ताकि यह यूजर्स के हर तरह के प्रॉम्प्ट्स पर जवाब दे सके। यही कारण है कि यह अक्सर ऐसी तस्वीरें बना देता है जिन्हें अन्य एआई मॉडल्स तुरंत ब्लॉक कर देते हैं। तकनीकी रूप से, ग्रोक Flux नाम की एक इमेज जेनरेशन मॉडल का उपयोग करता है, जो अपनी फोटो-रियलिस्टिक क्वालिटी के लिए जाना जाता है। इसकी तकनीक इतनी सटीक है कि एआई द्वारा बनाई गई फर्जी तस्वीर और असली फोटो के बीच अंतर करना मुश्किल हो जाता है।

अगर हम गूगल के Gemini या OpenAI के ChatGPT की बात करें, तो उनकी कार्यप्रणाली ग्रोक से बिल्कुल उलट है। ये दोनों कंपनियां सैद्धांतिक एआई (Constitutional AI) के नियम पर चलती हैं। इसका मतलब है कि एआई को कोई भी जवाब देने से पहले उसे हजारों सुरक्षा नियमों और नैतिक पैमानों से गुजरना पड़ता है। यदि कोई यूजर किसी सार्वजनिक हस्ती की अश्लील तस्वीर या हिंसा से जुड़ा कंटेंट बनाने को कहता है, तो ये मॉडल्स उसे साफ मना कर देते हैं।

ग्रोक को X के साथ इंटिग्रेट किया गया है। अगर आप एक्स यूज करते हैं तो आप किसी भी पोस्ट या कमेंट में केवल @Grok उसके बाद अपना सवाल लिखकर ग्रोक से जानकारी ले सकते हैं, जो अक्सर X के सार्वजनिक फीड में दिखाई देता है, जिससे गलत कंटेंट तेजी से वायरल हो जाता है। लोग इसी पैटर्न का इस्तेमाल कर तस्वीरें बना रहे हैं। हालांकि, Gemini या ChatGPT अपने प्लेटफॉर्म तक सीमित हैं। इनमें आपके सभी चैट आपके निजी चैट बॉक्स तक सीमित रहते हैं। ग्रोक की बेबाकी की एक और बड़ी वजह मस्क की "फ्री स्पीच" का समर्थन है। मस्क एआई पर ज्यादा पाबंदियां लगाने के खिलाफ रहे हैं।

क्या एआई पर रेगुलेशन जरूरी है?

विशेषज्ञों का कहना है कि सोशल मीडिया प्लेटफॉर्म्स पर लोगों को अभिव्यक्ति की आजादी मिलनी चाहिए, लेकिन इसकी आड़ में आपत्तिजनक, यौन शोषण और प्राइवेसी का उल्लंघन करने वाले कंटेंट पर भी सख्ती से रोक लगनी चाहिए। यह घटना दिखाती है कि एआई हमारे लिए मददगार तो है, लेकिन बिना कड़े रेगुलेशन के यह तकनीक समाज के लिए कितनी खतरनाक साबित हो सकती है।