ग्रोक पर गंभीर आरोप: 11 साल की बच्ची की फोटो से बनाई गईं हजारों आपत्तिजनक तस्वीरें; आखिर क्या है मामला?
Grok lawsuit:
एलन मस्क की एआई कंपनी xAI के चैटबॉट Grok पर एक महिला ने गंभीर आरोप लगाए हैं। महिला का दावा है कि उसके सौतेले पिता ने उसकी 11 साल की उम्र की एक फोटो का इस्तेमाल करके Grok के जरिए सात हजार से अधिक आपत्तिजनक एआई-जनरेटेड तस्वीरें और वीडियो तैयार किए। आइए जानते हैं इस पूरे मामले के बारे में विस्तार से।
विस्तार
xAI Grok controversy:
एलन मस्क की एआई कंपनी एक बार फिर गंभीर विवादों में घिर गई है। कंपनी के चैटबॉट ग्रोक पर एक महिला ने मुकदमा दायर किया है। यह मुकदमा Grok AI का इस्तेमाल करके बच्चों के यौन शोषण से जुड़ी सामग्री (CSAM) और अश्लील तस्वीरें बनाने के आरोपों को लेकर दायर किया गया है।
क्या है पूरा मामला?
- द वाशिंगटन पोस्ट की एक रिपोर्ट के अनुसार, मुकदमे में शामिल हुई महिला, जिसे जेन डो 4 (Jane Doe 4) का नाम दिया गया है, ने कंपनी और उसके चैटबॉट पर बेहद गंभीर आरोप लगाए हैं...
- बचपन की फोटो का गलत इस्तेमाल: महिला का आरोप है कि उसके सौतेले पिता ने ग्रोक एआई का इस्तेमाल करके उसकी उस वक्त की एक साधारण तस्वीर में बदलाव किया, जब वह महज 11 साल की थी।
- सात हजार से ज्यादा अश्लील तस्वीरें: सौतेले पिता ने इस एआई टूल का गलत इस्तेमाल करके उसकी सात हजार से अधिक अश्लील और आपत्तिजनक तस्वीरें बना डालीं।
- पुलिस छापेमारी और आत्महत्या: महिला ने बताया कि जब कानून प्रवर्तन अधिकारियों ने छापेमारी कर इन तस्वीरों को बरामद किया, तो इसके ठीक दो दिन बाद उसके सौतेले पिता ने आत्महत्या कर ली।
रोजमर्रा की जिंदगी बच्चों के यौन शोषण में बदल रही है
इस भयावह घटना पर अपनी पीड़ा व्यक्त करते हुए पीड़िता जेन डो 4 ने कहा कि इन टूल्स (AI) तक बेरोकटोक पहुंच इतनी तेजी से फैल रही है कि यह रोजमर्रा की जिंदगी को बच्चों के यौन शोषण में बदल रही है।
क्यों बढ़ा विवाद?
- ऐसा मुकदमा किसी एक ने नहीं, बल्कि कई ने कई है। इन पीड़ितों ने एक्सएआई पर लापरवाही का आरोप लगाया है।
- जरूरी सावधानी का अभाव: याचिकाकर्ताओं का कहना है कि कंपनी ने ग्रोक टूल में ऐसी जरूरी सुरक्षा और सावधानियां नहीं बरतीं, जो असली लोगों विशेषकर नाबालिगों की अश्लील तस्वीरें बनने से रोक सकें।
- एक्स पर आपत्तिजनक कंटेंट की बाढ़: गौरतलब है कि इस साल की शुरुआत में सोशल मीडिया प्लेटफॉर्म एक्स पर ग्रोक की ओर से बनाई गई लाखों यौन-प्रधान स्वीरें भर गई थीं, जिसके बाद से ही इस टूल की सुरक्षा नीतियों पर सवाल उठ रहे थे।
क्या मांग की गई है?
मुकदमा दायर करने वाले सभी पीड़ित और किशोर अदालत से इस मामले को क्लास एक्शन का दर्जा देने की मांग कर रहे हैं, ताकि xAI और Grok AI के खिलाफ व्यापक कानूनी कार्रवाई की जा सके और एआई कंपनियों को सख्त सेफ्टी गाइडलाइन्स का पालन करने पर मजबूर किया जा सके। फिलहाल इस आरोप पर कंपनी की ओर से कोई आधिकारिक बयान सामने नहीं आया है।