दिल्ली हाईकोर्ट का मेटा को आदेश: पीएम मोदी के साथ महिला की मॉर्फ्ड फोटो हटाएं; दीपके सहित चार को मिला नोटिस

आर्टिफिशियल इंटेलिजेंस (AI) से तैयार की गई डीपफेक और मॉर्फ्ड तस्वीरों को लेकर दिल्ली हाई कोर्ट ने शुक्रवार को सख्त रुख अपनाया। कोर्ट ने मेटा को सोशल मीडिया प्लेटफॉर्म्स से उस आपत्तिजनक कंटेंट को तुरंत हटाने का निर्देश दिया, जिसमें प्रधानमंत्री नरेंद्र मोदी के साथ एक महिला की कथित तौर पर मॉर्फ्ड तस्वीर दिखाई गई थी। मामले की सुनवाई जस्टिस गिरीश कठपालिया की पीठ ने की।

महिला ने अपनी याचिका में आरोप लगाया है कि उसकी तस्वीर का इस्तेमाल एआई फेस-स्वैपिंग टूल के जरिए प्रधानमंत्री नरेंद्र मोदी के साथ एक अश्लील और आपत्तिजनक तस्वीर तैयार करने के लिए किया गया और फिर उसे सोशल मीडिया पर फैलाया गया।

क्या है मामला?

यह पूरा मामला एक महिला की कथित मॉर्फ्ड और डीपफेक तस्वीर से जुड़ा है। याचिका के अनुसार, जंतर-मंतर पर हुए सीजेपी के विरोध प्रदर्शन के दौरान महिला की निजी तस्वीर का कथित तौर पर बिना अनुमति इस्तेमाल किया गया और एआई फेस-स्वैपिंग टूल की मदद से उसके चेहरे को प्रधानमंत्री नरेंद्र मोदी के साथ एक आपत्तिजनक तस्वीर पर मॉर्फ कर दिया गया। महिला ने आरोप लगाया कि इस तस्वीर को सोशल मीडिया पर फैलाया गया और उसे जान से मारने की धमकियां भी मिल रही हैं। मामले में एफआईआर पहले ही दर्ज की जा चुकी है।

मेटा को क्या निर्देश दिए गए?

दिल्ली हाई कोर्ट ने मेटा को संबंधित आपत्तिजनक कंटेंट को उसके सोशल मीडिया प्लेटफॉर्म्स से तुरंत हटाने का निर्देश दिया। सुनवाई के दौरान कोर्ट ने मामले की संवेदनशीलता पर भी टिप्पणी की। रिपोर्ट के अनुसार, अदालत ने कहा कि यह मामला केवल एक महिला से जुड़ा नहीं है, बल्कि इसमें देश के प्रधानमंत्री भी शामिल हैं।

सीजेपी नेताओं को भी नोटिस

इसके साथ ही मामले में कोर्ट ने कॉकरोच जनता पार्टी (सीजेपी) से जुड़े नेताओं सौरव दास, अभिजीत दीपके, आशुतोष रंका और रत्ना सिंह को भी नोटिस जारी किया है। महिला ने अपनी याचिका में इन लोगों पर आरोप लगाया है कि उन्होंने प्रधानमंत्री के साथ उसकी मॉर्फ्ड और अश्लील तस्वीर को फैलाया है। हालांकि, ये आरोप याचिका में किए गए दावे हैं और मामले में आगे की कानूनी प्रक्रिया जारी है।

महिला ने क्या आरोप लगाए है?

याचिका ने आरोप लगाया है कि नई दिल्ली के जंतर-मंतर पर सीजेपी के विरोध प्रदर्शनों के दौरान कथित तौर पर महिला की निजी तस्वीर का बिना अनुमति इस्तेमाल किया गया है। याचिका का कहना है कि एआई फेस-स्वैपिंग टूल की मदद से महिला के चेहरे को प्रधानमंत्री के साथ एक बेहद अश्लील तस्वीर पर मॉर्फ किया गया। इसके बाद कथित तौर पर इन तस्वीरों को सोशल मीडिया पर प्रसारित किया गया। महिला ने कोर्ट से ऐसी मनगढ़ंत और डीपफेक तस्वीरों को हटाने की मांग की थी।

पहले से दर्ज है एफआईआर

महिला की ओर से पेश वकील ने कोर्ट को बताया कि मामले में पहले ही एफआईआर दर्ज की जा चुकी है। हालांकि, याचिकाकर्ता की ओर से यह तर्क दिया गया कि कथित तौर पर जिम्मेदार लोगों को पकड़ने और वायरल हो रहे डीपफेक लिंक को तुरंत हटाने या ब्लॉक करने के लिए पर्याप्त कदम नहीं उठाए गए। महिला ने यह भी कहा कि उसे जान से मारने की धमकियां भी मिल रही हैं।

दिल्ली पुलिस को सुरक्षा देने का निर्देश

मामले को देखते हुए कोर्ट ने शुक्रवार को पुलिस को महिला को पूरी सुरक्षा देने का निर्देश दिया है। सुनवाई के दौरान पुलिस की संवेदनशीलता को लेकर भी अदालत ने टिप्पणी की और कहा कि अगर दिल्ली पुलिस इस मामले को लेकर संवेदनशील नहीं है तो कोर्ट यह सुनिश्चित करेगा कि वह संवेदनशील बने। दिल्ली हाई कोर्ट ने मामले की अगली सुनवाई 14 अक्तूबर को तय की है। इस दौरान मामले से जुड़े पक्षों की ओर से आगे की दलीलें और जवाब सामने आ सकते हैं।

AI डीपफेक को लेकर क्यों अहम है यह मामला?

हाईकोर्ट के अनुसार यह मामला सोशल मीडिया पर एआई से तैयार की गई मॉर्फ्ड और डीपफेक तस्वीरों के बढ़ते इस्तेमाल से जुड़े कानूनी सवालों को भी सामने लाता है। एआई फेस-स्वैपिंग तकनीक के जरिए किसी व्यक्ति के चेहरे को किसी दूसरी तस्वीर या वीडियो पर लगाया जा सकता है। ऐसे कंटेंट का इस्तेमाल किसी व्यक्ति की छवि को नुकसान पहुंचाने या भ्रामक तरीके से पेश करने के लिए किया जा सकता है।

दिल्ली हाई कोर्ट में इससे पहले भी एआई-जनरेटेड और डीपफेक कंटेंट से जुड़े मामलों में सोशल मीडिया प्लेटफॉर्म्स को लेकर आदेश सामने आए हैं।