Gemini AI watermark: गूगल ने एआई वॉटरमार्क किया ऑप्शनल, क्या अब फेक फोटो पहचानना होगा मुश्किल? जानें मामला
Google AI watermark:
गूगल एक बार फिर अपने एआई फीचर्स और पॉलिसी में बदलाव को लेकर सुर्खियों में है। कंपनी ने कहा है कि वह जल्द ही यूजर्स को अपने एआई मॉडल्स से जनरेट किए गए फोटो और वीडियो पर लगे विजिबल वॉटरमार्क का बंद या हाइड करने की अनुमति दे सकता है।
विस्तार
Google visible watermark optional:
एआई से बनी तस्वीरों और वीडियो की पहचान को लेकर बढ़ते बहस के बीच गूगल ने एआई जेनरेटेड कंटेंट के विजिबल वॉटरमार्क को यूजर के लिए ऑप्शनल बनाने का फैसला लिया है। कंपनी का कहना है कि क्रिएटर्स अब स्क्रीन पर दिखाई देने वाले वॉटरमार्क को बंद कर सकेंगे, साथ कंटेंट में मौजूद इनविजिबल SynthID वॉटरमार्क और C2PA मेटाडेटा बरकरार रहेगा।
फिलहाल यह नया फीचर शुरुआती चरण में नैनो बनाना, ओमनी और लीरिया मॉडल्स के लिए उपलब्ध कराया जाएगा। बाद में इस सेटिंग को जेमिनी, गूगल वीडियो एडिटर और गूगल सर्च के लिए भी रोल आउट करने का प्लान है।
कैसे काम करेगी यह नई सेटिंग?
- रोलआउट होने के बाद यूजर्स एप या टूल के सेटिंग्स में जाकर वहां मीडिया वाटरमार्क विकल्प में जाकर विजिबल वॉटरमार्क को आसानी से ऑफ कर सकेंगे।
- गूगल के जोश वुडवर्ड के अनुसार, कंपनी क्रिएटर्स की क्रिएटिव आजादी और सुरक्षा के बीच संतुलन बनाने की कोशिश कर रही है।
- उन्होनें कहा कि 'हम यहां क्रिएटिव कंट्रोल और सेफ्टी के बीच संतुलन बना रहे हैं। भले ही विजिबल वॉटरमार्क अब ऑप्शनल हो रहे हैं, लेकिन पारदर्शिता के लिए इनविजिबल SynthID वॉटरमार्क और C2PA मेटाडेटा अभी भी इमेज के अंदर एक्टिव रहेंगे। इसलिए आप अभी भी जेमिनी या सर्च का इस्तेमाल करके यह जांच सकते हैं कि कोई इमेज AI से बनी है या नहीं।'
- इसका मतलब यह है कि फोटो से दिखने वाला लोगो या टेक्स्ट गायब हो सकता है, लेकिन उसके अंदर छुपा हुआ डिजिटल फिंगरप्रिंट बना रहेगा।
आम यूजर्स के लिए क्या यह सही है?
- इस फैसले के बाद से सोशल मीडिया और टेक एक्सपर्ट्स के बीच एक बड़ी बहस छिड़नी की उम्मीद जताई जा रही है।
- अगर सोशल मीडिया पर कोई एआई-जनरेटेड फोटो बिना किसी विजिबल वॉटरमार्क के वायरल होती है, तो 99 प्रतिशत लोग उसे डाउनलोड करके जेमिनी पर अपलोड करके यह चेक करने की जहमत नहीं उठाएंगे कि यह असली है या एआई से बनी है।
गलत जानकारी और फेक न्यूज का खतरा
वहीं, कुछ लोगों का यह भी कहना है कि यह स्थिति तब बेहद खतरनाक साबित हो सकती है जब बिना विजिबल वॉटरमार्क वाले एआई मीडिया का इस्तेमाल राजनीतिक प्रचार, फर्जी सेलिब्रिटीज की तस्वीरें, फेक क्राइम सीन या गलत जानकारी फैलाने के लिए किया जा सकता है।
गूगल को पता होगा, यूजर रहेगा अनजान
एक्सपर्ट्स यह भी कह रहे हैं कि इससे एक अजीब स्थिति पैदा होगी जहां गूगल का सिस्टम तो जानता होगा कि इमेज एआई-जनरेटेड है, लेकिन सामने देखने वाले इंसान को इसका जरा सा भी अंदाजा नहीं होगा।
SynthID टेस्ट रिपोर्ट: क्या सच में 100% सुरक्षित है इनविजिबल वॉटरमार्क?
- आर्स टेक्नीका की ओर से किए गए हालिया टेस्ट में गूगल की सिंथआईडी तकनीक को लेकर कुछ अहम बातें सामने आई हैं:
- मजबूत पहलू:सामान्य तौर पर SynthID वॉटरमार्क फोटो के कंप्रेशन और छोटे-मोटे बदलावों के बाद भी बना रहता है और डिटेक्ट हो जाता है।
- कमजोरी:टेस्ट में पाया गया कि अगर इमेज को भारी कंप्रेशन के बाद 20 प्रतिशत क्रॉप (Crop) कर दिया जाए, तो सिंथआईडी अंडिटेक्टेबल (गायब) हो गया।
- गूगल का खुद का रिसर्च:गूगल के शोध के मुताबिक भी सिंथआईडी को जानबूझकर किए गए एडवर्सेरियल अटैक्स (तकनीकी हेराफेरी) को झेलने के लिए डिजाइन नहीं किया गया है।