Meta: मेटा ने भारतीय-अमेरिकी मशहूर हस्तियों के AI से तैयार चित्रों पर मांगी जनता की राय, इस वजह से उठाया कदम
Meta: सोशल मीडिया क्षेत्र की दिग्गज कंपनी मेटा के निगरानी बोर्ड ने दो मामलों में आर्टिफिशियल इंटेलीजेंस (एआई) की मदद से तैयार की गई अश्लील चित्रों पर की जाने वाली कार्रवाई पर सार्वजनिक राय मांगी है।
विस्तार
Add as a preferredसोशल मीडिया क्षेत्र की दिग्गज कंपनी मेटा के निगरानी बोर्ड ने दो मामलों में आर्टिफिशियल इंटेलीजेंस (एआई) की मदद से तैयार किए गए अश्लील चित्रों पर की जाने वाली कार्रवाई को लेकर सार्वजनिक राय मांगी है। कंटेंट मॉडरेशन पर फैसला करने वाले बोर्ड ने कहा कि ये मामले भारतीय और अमेरिकी मशहूर हस्तियों से जुड़े हैं। दो मामलों में से एक में इंस्टाग्राम पर पोस्ट की गई एक निर्वस्त्र महिला की एआई-जनित तस्वीर से जुड़ा है।
एक बयान के मुताबिक, यह चित्र भारत की एक मशहूर हस्ती से मिलता-जुलता है। इसे एआई का इस्तेमाल करके बनाया गया है। जिस खाते से इस कंटेट को पोस्ट किया गया है, वह केवल भारतीय महिलाओं के एआई से तैयार चित्रों को साझा करता है। इस पर प्रतिक्रिया देने वाले ज्यादातर उपयोगकर्ता भारत के हैं, जहां डीपफैक की समस्या बढ़ती जा रही है।
मेटा ने इस मुद्दे पर जनता की राय मांगी है। हालांकि इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय पहले ही सोशल मीडिया फर्मों को एआई की मदद से तैयार नकली चित्रों और वीडियो को हटाने के लिए कह चुका है। रश्मिका मंदाना और प्रियंका चोपड़ा सहित कई भारतीय अभिनेत्रियों की नकली तस्वीरें और वीडियो इंस्टाग्राम, फेसबुक औऱ एक्स सहित सोशल मीडिया प्लेटफॉर्म पर वायरल हो चुके हैं। बोर्ड ने कहा कि भारत से जुड़े मामले में पोस्ट को हटा दिया गया है। बोर्ड ने अमेरिका में एक मामले पर सार्वजनिक राय मांगी है।
इस मामले में तस्वीर को पहले ही फेसबुक के सामुदायिक मानकों का उल्लंघन मानते हुए प्लेटफॉर्म से हटा दिया गया था।
