एक्सप्लेनर: क्या फोन पर सुनाई देने वाली अपनों की आवाज भी हो सकती है फर्जी, एआई से हो रही इस ठगी से कैसे बचें?
फोन पर सुनाई देने वाली आवाज पर अब आंख मूंदकर भरोसा करना भी खतरे से खाली नहीं है। कुछ सेकंड की रिकॉर्डिंग से तैयार आवाज आपको पहचान में भी आ सकती है, लेकिन उसके पीछे कौन है, यह पहचानना मुश्किल हो सकता है। एआई के इस बढ़ते इस्तेमाल ने ठगी के तरीके को और ज्यादा खतरनाक बना दिया है। आइए जानते हैं इस धोखाधड़ी के बारे में।
विस्तार
Add as a preferredडीपफेक तस्वीर और वीडियो के बारे में तो आपने सुना ही होगा, लेकिन क्या हो अगर कोई आपका करीबी बनकर आपको फोन करे और दूसरी तरफ से आने वाली आवाज इतनी असली लगे कि आपको जरा भी शक न हो? आप उसकी आवाज पहचानकर भरोसा कर लें और इसी भरोसे में ठगी का शिकार हो जाएं। एआई की मदद से आवाज की हूबहू नकल कर धोखाधड़ी के ऐसे मामले लगातार सामने आ रहे हैं। इस तरह एआई के जरिए आवाज की हूबहू नकल को एआई वॉयस क्लोनिंग कहते हैं।
ऐसे में आइए जानते हैं कि आखिर एआई वॉयस क्लोनिंग क्या है? ठग इसका इस्तेमाल कैसे करते हैं? इससे बचने के लिए क्या सावधानी जरूरी है? सरकार ने एआई के ऐसे दुरुपयोग को रोकने के लिए नियमों में क्या बदलाव किए हैं?
क्या है वॉयस क्लोनिंग?
वॉयस क्लोनिंग ऐसी तकनीक है, जिसमें एआई किसी व्यक्ति की आवाज के नमूने से उसकी आवाज जैसी नई आवाज तैयार करता है। इसमें बोलने का अंदाज, आवाज का उतार-चढ़ाव, टोन और उच्चारण जैसी चीजों की नकल की जा सकती है।
द कन्वर्सेशन की रिपोर्ट के मुताबिक, किसी व्यक्ति की आवाज का सिर्फ तीन सेकंड का ऑडियो सैंपल भी वॉयस क्लोन तैयार करने के लिए पर्याप्त हो सकता है। हालांकि, ज्यादा लंबी रिकॉर्डिंग मिलने पर एआई आवाज की और ज्यादा बारीकियों को कॉपी कर सकता है। सोशल मीडिया पर मौजूद वीडियो और ऑडियो या आपकी रिकॉर्डिंग से भी किसी की आवाज का सैंपल हासिल किया जा सकता है।
एआई वॉयस क्लोनिंग स्कैम कैसे होता है?
ठग पहले किसी व्यक्ति की आवाज का सैंपल हासिल करते हैं और उससे एआई वॉयस क्लोन तैयार करते हैं। इसके बाद क्लोन की गई आवाज से फोन कॉल या ऑडियो मैसेज किया जाता है।
अक्सर कॉल में दावा किया जाता है कि कोई रिश्तेदार अस्पताल में भर्ती है, उसका एक्सीडेंट हो गया है, उसे तुरंत पैसों की जरूरत है या वह किसी कानूनी परेशानी में फंस गया है। घबराहट पैदा करने के बाद ठग तुरंत पैसे भेजने के लिए कहते हैं।
कुछ मामलों में ठग कॉलर आईडी की भी नकल कर सकते हैं, जिससे सामने वाले को कॉल और ज्यादा असली लग सकती है। वॉयस क्लोनिंग के जरिए निवेश, फिरौती और आर्थिक धोखाधड़ी के मामले लगातार सामने आ रहे हैं।
अमेरिकी रिसर्च में क्या सामने आया?
अमेरिका की यूनिवर्सिटी ऑफ कैलिफोर्निया, बर्कले के शोधकर्ताओं ने एआई से बनाई गई आवाजों को पहचानने की इंसानी क्षमता पर रिसर्च की। यह अध्ययन वैज्ञानिक जर्नल साइंटिफिक रिपोर्ट्स में प्रकाशित हुआ और नेशनल लाइब्रेरी ऑफ मेडिसिन में भी उपलब्ध है।
रिसर्च में कुल 604 लोगों को शामिल किया गया। इनमें 304 लोगों ने आवाज की पहचान से जुड़े अध्ययन और 300 लोगों ने आवाज के असली या एआई से बनाई गई होने की पहचान से जुड़े अध्ययन में हिस्सा लिया। शोधकर्ताओं ने 200 से ज्यादा स्पीकर की आवाजों और अत्याधुनिक वॉयस क्लोनिंग तकनीक का इस्तेमाल किया।
रिसर्च में पाया गया कि जब लोगों ने असली आवाज और उसी व्यक्ति की एआई क्लोन आवाज सुनी, तो उन्होंने एआई आवाज को करीब 80 फीसदी मामलों में उसी असली व्यक्ति की आवाज माना। वहीं जब उनसे सीधे पूछा गया कि आवाज असली है या एआई से बनाई गई है, तो वे सिर्फ करीब 60 फीसदी मामलों में ही एआई आवाज को सही पहचान पाए। यानी सिर्फ आवाज सुनकर एआई क्लोन को पहचानना इंसानों के लिए काफी मुश्किल पाया गया।
शोधकर्ताओं ने यह भी पाया कि छोटी रिकॉर्डिंग में लोगों के लिए एआई आवाज पहचानना ज्यादा मुश्किल था। ज्यादा लंबी और सामान्य बातचीत में पहचान की क्षमता बेहतर हो सकती है। रिसर्च के मुताबिक, बातचीत को लंबा करने और सामने वाले से खुले सवाल पूछने से फर्जी एआई आवाज पहचानने में मदद मिल सकती है।
हाल में आए कुछ एआई क्लोनिंग के मामले
इंदौर में जनवरी में एक प्ले स्कूल की प्रमुख को उनके रिश्तेदार की क्लोन की गई आवाज में फोन आया। कॉल करने वाले ने सर्जरी के लिए पैसे मांगे और उन्होंने करीब 97,500 रुपये ट्रांसफर कर दिए।
महाराष्ट्र के नासिक में अगस्त में पुलिस ने 26 वर्षीय संकेत सचिन चव्हाण को कथित 11.8 लाख रुपये की मैट्रिमोनियल धोखाधड़ी के मामले में गिरफ्तार किया। आरोप है कि इसमें एआई वॉयस क्लोनिंग का इस्तेमाल किया गया।
इसी महीने में कोलकाता में 67 वर्षीय व्यक्ति को परिचित व्यक्ति की आवाज में फोन आया। कॉल करने वाले ने रिश्तेदार के अस्पताल में भर्ती होने की बात कही और करीब 95,990 रुपये ठग लिए।
एआई वॉयस क्लोनिंग स्कैम से कैसे बचें?
- अगर कोई करीबी अचानक फोन करके पैसे मांगे, तो सिर्फ आवाज सुनकर भरोसा न करें। कॉल काटकर उसी व्यक्ति के सामान्य मोबाइल नंबर पर वापस फोन करें।
- परिवार में पहले से ऐसा कोड वर्ड या सवाल तय किया जा सकता है, जिसका जवाब सिर्फ परिवार के करीबी लोगों को पता हो।
- अगर सामने वाला तुरंत पैसे भेजने, ओटीपी बताने या बैंक से जुड़ी जानकारी साझा करने के लिए दबाव बनाए, तो पहले उसकी पहचान की पुष्टि करें।
- कॉल में बताई गई इमरजेंसी की जानकारी किसी दूसरे रिश्तेदार या भरोसेमंद व्यक्ति से भी जांचें।
- ओटीपी, यूपीआई पिन, पासवर्ड, कार्ड डिटेल या बैंक की जानकारी फोन पर किसी के साथ साझा न करें।
- जरूरी अकाउंट में मल्टी फैक्टर ऑथेंटिकेशन का इस्तेमाल करें।
भारत में एआई कंटेंट को लेकर सरकार ने क्या बदला?
एआई से तैयार फर्जी ऑडियो, वीडियो और दूसरे सिंथेटिक कंटेंट के बढ़ते इस्तेमाल के बीच केंद्र सरकार ने 6 अक्तूबर को नई गाइडलाइन जारी की। इसमें सोशल मीडिया और दूसरे ऑनलाइन प्लेटफॉर्म को एआई से बनाए गए भ्रामक और गैरकानूनी कंटेंट को लेकर सतर्क रहने और नियमों का पालन सुनिश्चित करने को कहा गया है। वॉयस क्लोनिंग के जरिए किसी की आवाज की नकल कर धोखाधड़ी या प्रतिरूपण करना भी इसी तरह के एआई के दुरुपयोग का हिस्सा हो सकता है।
दरअसल, सरकार इससे पहले भी एआई और डीपफेक से जुड़े खतरों को देखते हुए नियमों में बदलाव कर चुकी है। 10 फरवरी 2026 को आईटी नियम 2021 में संशोधन किया गया था। इसका मकसद सिंथेटिकली जेनरेटेड इंफॉर्मेशन यानी एसजीआई से होने वाले नुकसान को रोकना है। इसमें डीपफेक और एआई से बनाए गए ऑडियो, वीडियो और दूसरे कंटेंट को शामिल किया गया। ये संशोधन 20 फरवरी 2026 से लागू हुए।
क्या है सिंथेटिकली जेनरेटेड इंफॉर्मेशन?
एसजीआई ऐसे ऑडियो, विजुअल या ऑडियो-विजुअल कंटेंट को कहा गया है, जिसे कंप्यूटर संसाधनों और एल्गोरिदम की मदद से कृत्रिम तरीके से बनाया या बदला गया हो और जो देखने या सुनने में किसी वास्तविक व्यक्ति या घटना जैसा लगे।
एआई से बने कंटेंट पर लेबल जरूरी
नियमों के तहत एआई से बनाए गए कंटेंट के लिए स्पष्ट लेबल और ट्रेस किए जा सकने वाले मेटाडेटा की व्यवस्था की गई है। इसका मकसद यूजर को यह पहचानने में मदद करना है कि कोई कंटेंट एआई या दूसरी सिंथेटिक तकनीक की मदद से तैयार किया गया है।
वॉयस क्लोनिंग पर कौन से कानून लागू हो सकते हैं?
आईटी एक्ट 2000 की धारा 66सी पहचान की चोरी और धारा 66डी कंप्यूटर संसाधन का इस्तेमाल कर प्रतिरूपण के जरिए धोखाधड़ी से जुड़ी है। निजी जानकारी के उल्लंघन से जुड़े मामलों में धारा 66ई और अश्लील या यौन रूप से स्पष्ट कंटेंट से जुड़े मामलों में धारा 67 और 67ए लागू हो सकती हैं।
भारतीय न्याय संहिता की धारा 319 किसी व्यक्ति का प्रतिरूपण कर धोखाधड़ी से जुड़ी है। धारा 336 जालसाजी और गलत इलेक्ट्रॉनिक रिकॉर्ड से जुड़े अपराधों पर लागू होती है। संगठित साइबर अपराध के मामलों में धारा 111 भी लागू हो सकती है।
एआई की पहचान के लिए क्या कर रही सरकार?
एआई डीपफेक और वॉयस क्लोनिंग से निपटने के लिए सरकार ने इंडिया एआई मिशन के सेफ एंड ट्रस्टेड एआई कार्यक्रम के तहत तकनीकी समाधान विकसित करने पर भी काम किया है। इसमें आईआईटी जोधपुर और आईआईटी मद्रास का साक्ष्य डीपफेक डिटेक्शन फ्रेमवर्क, एआई विश्लेषक और आईआईटी खड़गपुर का रियल टाइम वॉयस डीपफेक डिटेक्शन सिस्टम शामिल है।
ठगी होने पर कहां शिकायत करें?
अगर एआई वॉयस क्लोनिंग के जरिए ठगी हो जाए तो तुरंत 1930 साइबर क्राइम हेल्पलाइन पर शिकायत की जा सकती है। राष्ट्रीय साइबर क्राइम रिपोर्टिंग पोर्टल पर भी शिकायत दर्ज कराई जा सकती है।
अगर किसी इंटरमीडियरी के शिकायत अधिकारी से शिकायत का समाधान नहीं होता है, तो यूजर ग्रिवांस अपीलेट कमेटी के सामने अपील कर सकता है।
सरकार इससे पहले 9 फरवरी 2026 को धार्मिक मामलों से जुड़े गैरकानूनी सिंथेटिक कंटेंट को लेकर इंटरमीडियरी के लिए एडवाइजरी जारी कर चुकी है। इसके बाद 16 मार्च 2026 को अपमानजनक, मानहानिकारक, आपत्तिजनक और भ्रामक सिंथेटिक कंटेंट को बनाने, होस्ट करने, प्रकाशित करने और शेयर करने को लेकर भी एडवाइजरी जारी की गई थी।
गृह मंत्रालय के मुताबिक, 2025 में भारत में साइबर फ्रॉड से 22,495 करोड़ रुपये का नुकसान दर्ज हुआ और 28.15 लाख शिकायतें सामने आईं। सरकार ने एआई वॉयस-क्लोनिंग फ्रॉड को भी उभरते साइबर खतरों में शामिल किया है। 2021 से 2025 के बीच राष्ट्रीय साइबर क्राइम रिपोर्टिंग पोर्टल पर 65.89 लाख से ज्यादा वित्तीय धोखाधड़ी की शिकायतें दर्ज हुईं, जिनमें 55,050 करोड़ रुपये से ज्यादा की रकम रिपोर्ट की गई।
