Video Seal: Meta ने लॉन्च किया एआई वीडियो वाटरमार्क टूल, डीपफेक रोकने में करेगा मदद
Deepfake: डीपफेक्स वे एआई कंटेंट होते हैं, जो एआई का उपयोग करके बनाए जाते हैं और अक्सर भ्रामक या गलत जानकारी फैलाने के लिए उपयोग किए जाते हैं। इनका इस्तेमाल सार्वजनिक हस्तियों के बारे में गलत जानकारी फैलाने, नकली आपत्तिजनक सामग्री बनाने, या धोखाधड़ी और स्कैम के लिए किया जाता है।
विस्तार
मेटा ने एक नया टूल “वीडियो सील” जारी किया है, जो आर्टिफिशियल इंटेलिजेंस (AI) द्वारा बनाए गए वीडियो में अदृश्य वॉटरमार्क लगाने की क्षमता रखता है। यह नया टूल कंपनी के मौजूदा वॉटरमार्किंग टूल्स, जैसे “ऑडियो सील” और “वॉटरमार्क एनीथिंग” में शामिल हो गया है। कंपनी ने सुझाव दिया है कि यह टूल ओपन-सोर्स होगा, लेकिन अभी तक इसका कोड सार्वजनिक नहीं किया गया है। दिलचस्प बात यह है कि मेटा का दावा है कि यह तकनीक वीडियो की गुणवत्ता को प्रभावित किए बिना वॉटरमार्क को टिकाऊ बनाएगी और इसे हटाने के आम प्रयासों के खिलाफ मजबूती प्रदान करेगी।
जेनरेटिव एआई के विकास के बाद से इंटरनेट पर डीपफेक्स की भरमार हो गई है। डीपफेक्स वे एआई कंटेंट होते हैं, जो एआई का उपयोग करके बनाए जाते हैं और अक्सर भ्रामक या गलत जानकारी फैलाने के लिए उपयोग किए जाते हैं। इनका इस्तेमाल सार्वजनिक हस्तियों के बारे में गलत जानकारी फैलाने, नकली आपत्तिजनक सामग्री बनाने, या धोखाधड़ी और स्कैम के लिए किया जाता है।
जैसे-जैसे एआई सिस्टम बेहतर होते जा रहे हैं, डीपफेक्स की पहचान करना और मुश्किल होता जा रहा है। एक मैकैफी सर्वेक्षण के अनुसार, 70 प्रतिशत लोग पहले से ही वास्तविक और एआई-जनित आवाज के बीच अंतर करने में असमर्थ महसूस करते हैं।
संसब (Sumsub) के आंकड़ों के अनुसार, 2022 में डीपफेक धोखाधड़ी उत्तर अमेरिका में 1,740 प्रतिशत और एशिया-प्रशांत क्षेत्र में 1,530 प्रतिशत बढ़ी। यह संख्या 2022 से 2023 के बीच दस गुना तक बढ़ गई। डीपफेक्स को लेकर बढ़ती चिंताओं के बीच, कई एआई मॉडल डेवलपर्स ने सिंथेटिक सामग्री की पहचान के लिए वॉटरमार्किंग टूल जारी करना शुरू कर दिया है। इस साल की शुरुआत में गूगल ने एआई टेक्स्ट और वीडियो पर वॉटरमार्क लगाने के लिए "सिंथआईडी" (SynthID) लॉन्च किया था। माइक्रोसॉफ्ट ने भी इसी तरह के उपकरण जारी किए हैं।