Musk की xAI पर मुकदमा: किशोरियों की फोटो से बनाई अश्लील इमेज; गंभीर आरोपों में दर्ज हुआ केस, जानें पूरा मामला

अमेरिका के टेनेसी राज्य की तीन छात्राओं ने कैलिफोर्निया में एक्सएआई के खिलाफ क्लास-एक्शन यानी की सामूहिक मुकदमा दायर किया है। इन्होंने अपनी पहचान गुप्त रखने के लिए जेड डो नाम का उपयोग किया है। जानिए मामले के बारे में विस्तार से...

क्या है पूरा मामला?

दरअसल, अमेरिका में कुछ अज्ञात लोगों ने सोशल मीडिया पर इन लड़कियों की एडिट की गई अश्लील तस्वीरें साझा कीं, जो उनकी स्कूल फोटो, होमकमिंग और ईयरबुक जैसी असली तस्वीरों से ली गई थीं। इसके बाद एआई टूल्स की मदद से इन तस्वीरों में उनके चेहरे और शरीर को इस तरह बदला गया कि वे नकली होते हुए भी बेहद वास्तविक लगती थीं। पीड़ितों का आरोप है कि इन फर्जी तस्वीरों को सिर्फ शेयर ही नहीं किया गया, बल्कि उन्हें बेचने और फैलाने के लिए एक संगठित नेटवर्क भी सक्रिय था, जहां नाबालिगों की ऐसी तस्वीरों का आदान-प्रदान किया जा रहा था।

ये भी पढ़ें: Social Media: बच्चों को चिंता और अवसाद में धकेल रहा सोशल मीडिया, वर्ल्ड हैप्पीनेस रिपोर्ट ने दी चेतावनी

मामले में यह भी कहा गया कि काम सीधे या किसी थर्ड-पार्टी एप के जरिए नहीं, बल्कि ग्रोक जैसे एआई तकनीक का उपयोग करके किया गया। इन प्लेटफॉर्म पर एआई मॉडल असली तस्वीरों को लेकर नई नकली तस्वीरें बना सकता है। यह तकनीक पहले फिल्मों और मनोरंजन के लिए थी, लेकिन अब इसका गलत इस्तेमाल तेजी से बढ़ रहा है।

एक्स पर एक और बड़ा आरोप

मुकदमे में एक बड़ा आरोप और लगाया गया, कहा कि जहां गूगल और ओपनएआई जैसी कंपनियों ने अपने टूल्स पर सख्त न्यूडिटी फिल्टर लगाएं है। वहीं, एलन मस्क ने ग्रोक की मसालेदार और बिना रोक-टोक वाली सामग्री बनाने की क्षमता का प्रचार किया है। मुकदमे में दावा किया गया है कि कंपनी को पता था कि उनके टूल का दुरुपयोग बच्चों के यौन शोषण (CSAM) के लिए हो सकता है, फिर भी इसे बिना पर्याप्त सुरक्षा के जारी किया गया।

अन्य की भी तस्वीरें आईं सामने

स्थानीय पुलिस की ओर से गिरफ्तार किए गए अपराधी के पास से 18 अन्य लड़कियों की भी ऐसी ही तस्वीरें मिलीं, जिन्हें वह अन्य अश्लील सामग्री के बदले ऑनलाइन बेच रहा था।

सामान्य जीवन जीना हुआ मुश्किल...

• जेन डो 1:एंग्जायटी, डिप्रेशन और बुरे सपनों का सामना कर रही हैं।
• जेन डो 2: स्कूल जाने और अपने ही ग्रेजुएशन समारोह में शामिल होने से डर रही हैं।

मस्क की कंपनी और एक्स का पक्ष

हालांकि एक्सएआई ने इस पर सीधा जवाब नहीं दिया है, लेकिन सोशल मीडिया प्लेटफॉर्म एक्स ने एक पोस्ट के जरिए अपनी जीरो टॉलरेंस नीति को दोहराया है। उन्होंने कहा कि वे बिना सहमति के नग्नता और बाल यौन शोषण सामग्री (CSAM) के खिलाफ सख्त हैं और ऐसे खातों की रिपोर्ट कानून प्रवर्तन अधिकारियों को करते हैं।