AI Impact Summit: डीपीफेक की अब खैर नहीं, जेनरेटिव एआई ऑडिटिंग तकनीक से होगी पड़ताल; खुलेगा असली-नकली का भेद

क्या है यह ऑडिटिंग तकनीक?
यह तकनीक एआर्ई से जनरेट की गई जानकारी के पीछे के आधार को ढूंढती है। जैसे, एआई ने कौन-सी जानकारी या फिर डेटा पर भरोसा किया है। किस लॉजिक से निष्कर्ष निकाला है। किन स्रोतों का इस्तेमाल किया है। वहीं, दूसरा है मतिभ्रम निर्धारण तकनीक। यानी कि हैलुसिनेशन को पहचानने वाली तकनीक। जनरेटिव एआई कभी-कभी सटीक तरीके से गलत जानकारी इतने आत्मविश्वास के साथ प्रस्तुत कर देता है कि असली और एआई जनरेटेड के बीच अंतर पहचानना काफी मुश्किल होता है।

इसी को हैलुसिनेशन कहा जाता है। यह तकनीक एआई के जवाब और उसके आधार डेटा के बीच तालमेल यानि कनेक्शन की जांच करता है। अगर उत्तर (जो एआर्ई ने दिया है) और मूल स्रोत (एआई को इनपुट दिया गया) के बीच में अंतर मिलता है, तो सिस्टम उसे स्पष्ट रूप से दिखाता है। यह टेक्स्ट के साथ-साथ मल्टीमॉडल डेटा पर भी काम कर सकती है।

क्या पता चलेगा...

• एआई ने कौन-सी जानकारी या डेटा पर भरोसा किया
• किस लॉजिक से निष्कर्ष निकाला
• किन स्रोतों को प्राथमिकता दी
• असली और एआई जनरेटेड के बीच अंतर पहचानना
• जवाब और उसके आधार डेटा के बीच सामंजस्य की जांच

डीपफेक के खिलाफ कैसे मददगार?
डीपफेक तकनीक में एआई का उपयोग कर असली दिखने वाले नकली वीडियो या ऑडियो तैयार किए जाते हैं। नई ऑडिटिंग प्रणाली के जरिए एआई द्वारा इस्तेमाल किए गए नॉलेज ग्राफ और इनपुट डेटा का विश्लेषण करती है। वीडियो या इमेज आधारित निष्कर्षों की सत्यता की जांच करती है।

साथ ही विसंगतियों को स्पष्ट और समझने योग्य रूप में सामने लाती है। इस तकनीक का परीक्षण ट्रैफिक उल्लंघन पहचान के मामले में किया गया, जहां सिस्टम ने यह दिखाया कि जनरेटिव एआई ने कानून से जुड़े कौन-से ज्ञान और किस इमेज एरिया पर ध्यान केंद्रित किया।