Deepfakes: सरकार के निर्देश के बाद गूगल ने शुरू की सख्ती, यूट्यूब पर एआई से बनी सामग्री अपलोड की तो बताना होगा

सरकार के कड़े निर्देशों के बाद इंटरनेट पर डीपफेक सामग्री रोकने के लिए गूगल ने बुधवार को कई कदम उठाने की घोषणा की। इसकी शुरुआत वह यूट्यूब से कर रहा है, यहां सामग्री बनाने वालों (क्रिएटर्स) से कहा जा रहा है कि अगर वे डीपफेक, बिगाड़ी हुई या नकली फोटो, तस्वीरें या आवाज अपलोड करते हैं तो खुद ही इसका खुलासा करना होगा। गूगल भी आर्टिफिशियल इंटेलिजेंस (एआई) तकनीक से रची ऐसी आपत्तिजनक सामग्री हटाएगा जो किसी व्यक्ति की पहचान जैसे उसके चेहरे या आवाज से मिलती-जुलती हो।

एक ब्लॉग पोस्ट में गूगल ने बताया, 'अगले कुछ महीनों में यूट्यूब पर यह जरूरी हो जाएगा कि असली जैसी नजर आ रही सामग्री में क्या बदलाव किए गए हैं, क्रिएटर्स यह बताएं? क्या इसमें एआई टूल्स उपयोग हुए हैं? अगर ऐसा है तो वीडियो प्लेयर व विवरण पैनल पर लेबल लगाकर इसकी सूचना भी देनी होगी।' उसने दावा किया कि वह क्रिएटर्स से इस बारे में बात कर रहा है ताकि उन्हें अपनी भूमिका समझ आए और बदलावों के लिए क्या करना जरूरी, उन्हें पता रहे। उल्लेखनीय है कि बीते सप्ताह आईटी व इलेक्ट्रॉनिकी मंत्री अश्विनी वैष्णव और राज्य मंत्री राजीव चंद्रशेखर ने सोशल मीडिया कंपनियों व टेक कंपनियों को डीपफेक सामग्री को रोकने के लिए कड़े कदम उठाने को कहा था। सरकार के इसके लिए नियम व गाइडलाइन भी जारी करने जा रही है।

वाटरमार्क का सहारा, चुनाव विज्ञापन नीति में सुधार

गूगल ने बताया कि डीपफेक से निपटने के लिए सामग्री पर वाटरमार्क व मेटाडाटा लेबल का भी सहारा लिया जा सकता है। अगर चुनावी विज्ञापनों को डिजिटली जनरेट सामग्री से बनाया गया है, तो यह जानकारी विज्ञापन में देने को कहा गया है।

डीपफेक के खिलाफ कोई रामबाण नहीं

गूगल ने कहा कि डीपफेक और एआई आधारित भ्रामक सूचनाओं से लड़ने के लिए कोई रामबाण नहीं है। इनके लिए मिलेजुले प्रयास और खुला संवाद करना होगा, जोखिम का कड़ा मूल्यांकन करते हुए नुकसान कम करने की रणनीति पहले से बनानी होगी।

पड़ रहा बुरा असर

गूगल ने कहा कि उसने डीपफेक को लेकर क्रिएटर्स, यूजर्स और कलाकारों से फीडबैक लिए। लोगों की अनुमति के बिना उनके चेहरे या आवाज को डिजिटली जनरेट करना, उनके नजरिए को गलत ढंग से प्रस्तुत करना, यह सभी पर बुरा असर डाल सकता है।