Deepfake: 'डीपफेक को पलक झपकते ही समझने में सक्षम इंसानी दिमाग', शोधकर्ताओं ने एआई के खतरों को लेकर किया आगाह

अमर उजाला रिसर्च डेस्क, नई दिल्लीगुलाम अहमद

Thu, 09 Nov 2023 08:07 AM IST

सार

Human brain can detect ai generate deepfake videos in blink of an eye claims Researchers — सांकेतिक तस्वीर - फोटो : Istock

विस्तार

वॉट्सऐप चैनल फॉलो करें

रश्मिका मंदाना, सारा तेंदुलकर, टॉम हेंक्स, क्रिस्टीन बेल...ये उन मशहूर हस्तियों के नाम हैं, जो एआई से बने डीपफेक कंटेंट (ऑडियो-वीडियो, ग्राफिक्स) के शिकार हुए हैं। हालांकि, इन सभी मामलों में लोगों को तुरंत पता चल गया कि वे आर्टिफिशियल इंटेलिजेंस (एआई) जेनरेटेड डीपफेक कंटेंट देख रहे हैं। नाम से ही स्पष्ट है कि डीपफेक एक सच लगने वाला झूठ है। हम भले ही कई बार यकीन नहीं करते हैं, लेकिन पहली बार में ही हमें यह अहसास हो जाता है कि हम जो देख रहे हैं, उसमें कुछ गड़बड़ है।

ब्रिटेन में लिंकन यूनिवर्सिटी के मनोविज्ञान विभाग के व्याख्याता रॉबिन क्रैमर सीनियर बताते हैं कि हमारा दिमाग पलक झपकते ही एक असली और डीपफेक कंटेंट में फर्क महसूस कर सकता है। एआई तकनीक कितनी ही उन्नत और बेहतर क्यों न हो गई हो, लेकिन अभी यह इन्सानी दिमाग से मुकाबला नहीं कर सकती है। क्रैमर कहते हैं कि कंप्यूटर जेनरेटेड इमेजरी (सीजीआई) बीते कई दशक से चलन में है, जिसका अक्सर फिल्मों के हैरतंगेज दृश्यों में इस्तेमाल किया जाता है, लेकिन एआई ने राह चलते डीपफेक बनाने की क्षमता दी है। इसकी वजह से कई खतरे पैदा हुए हैं। खासतौर पर लोगों के झूठे वीडियो बनाकर उन्हें शर्मिंदा करने या ब्लैकमेल करने में इसका इस्तेमाल चिंताएं पैदा कर रहा है। अच्छी बात यह है कि लोग जब भी ऐसे डीपफेक कंटेंट को देखते हैं, तो वे समझ जाते हैं कि यह सच्चाई नहीं, बल्कि किसी की शरारत है।

सिंथेटिक फेस ज्यादा बड़ा खतरा

एआई से बने डीपफेक वीडियो में चेहरों की अदला-बदली में कहीं न कहीं कुछ विकृति और असहजता होती है, जिससे ये हरकतें पकड़ में आ जाती हैं, लेकिन इनसे बड़ा खतरा सिंथेटिक चेहरे हैं, जिन्हें एआई के जरिये अलग-अलग चेहरों को मिलाकर बनाया जाता है। इससे भी बड़ी चुनौती यह है कि ऐसे चेहरों को थ्रीडी प्रिंटर की मदद से अब हूबहू प्रिंट भी किया जा सकता है। यहां तक कि किसी भी इन्सान की तस्वीरों से उसका सिंथेटिक चेहरा प्रिंट किया जा सकता है। नकाब की तरह पहने जा सकने वाला इस तरह का चेहरा इतना असली लगता है कि एक बार जिसका चेहरा है, अगर उसके सामने रख दिया जाए, तो वह भी चकमा खा जाए।

दिमाग में अलग हलचल

क्रैमर बताते हैं कि शोधकर्ताओं ने जब भागीदारों को असल और सिंथेटिक चेहरों की तस्वीरें दिखाईं, तो ज्यादातर लोगों ने सिंथेटिक चेहरों को ज्यादा असली बताया। हालांकि, जब इन्हीं लोगों को फिर से कुछ और तस्वीरें देखने को दी गईं और इस दौरान इनका इलेक्ट्रोएन्सेफलोग्राफी (ईईजी) किया गया, तो पता चला कि सिंथेटिक चेहरों को देखने पर दिमाग में अलग किस्म की हलचल होती है। हालांकि, यह हलचल की पूरी प्रक्रिया को समझने और बाद में अभिव्यक्ति के दौरान इस हलचल के योगदान को लेकर अलग से शोध की जरूरत है।

अस्तित्वहीन चेहरों की बड़ी चुनौती

एआई के जरिये किसी चेहरे की अदला-बदली तो चुनौती है ही, अस्तित्वहीन चेहरे भी चुनौती हैं। एआई ऐसे चेहरे बनाने में सक्षम है, जो किसी इन्सान से मेल नहीं खाते हैं। दिस पर्सन डज नॉट एक्जिस्ट डॉट कॉम एक ऐसी ही वेबसाइट है, जिससे अस्तित्वहीन, लेकिन वास्तविक दिखने वाले चेहरे बना सकते हैं। असल में यह कई चेहरों के मेलजोल से नया चेहरा बनाने की तकनीक है। जब असल चेहरों के बीच में ऐसे अस्तित्वहीन चेहरों की तस्वीरें रखी गईं, तो ज्यादातर लोग धोखा खा गए और उन्हें किसी असल इन्सान का चेहरा मान बैठे।