एक्सप्लेनर: क्या फोन पर सुनाई देने वाली अपनों की आवाज भी हो सकती है फर्जी, एआई से हो रही इस ठगी से कैसे बचें?

ठग पहले किसी व्यक्ति की आवाज का सैंपल हासिल करते हैं और उससे एआई वॉयस क्लोन तैयार करते हैं। इसके बाद क्लोन की गई आवाज से फोन कॉल या ऑडियो मैसेज किया जाता है।

अक्सर कॉल में दावा किया जाता है कि कोई रिश्तेदार अस्पताल में भर्ती है, उसका एक्सीडेंट हो गया है, उसे तुरंत पैसों की जरूरत है या वह किसी कानूनी परेशानी में फंस गया है। घबराहट पैदा करने के बाद ठग तुरंत पैसे भेजने के लिए कहते हैं।

कुछ मामलों में ठग कॉलर आईडी की भी नकल कर सकते हैं, जिससे सामने वाले को कॉल और ज्यादा असली लग सकती है। वॉयस क्लोनिंग के जरिए निवेश, फिरौती और आर्थिक धोखाधड़ी के मामले लगातार सामने आ रहे हैं। 

अमेरिका की यूनिवर्सिटी ऑफ कैलिफोर्निया, बर्कले के शोधकर्ताओं ने एआई से बनाई गई आवाजों को पहचानने की इंसानी क्षमता पर रिसर्च की। यह अध्ययन वैज्ञानिक जर्नल साइंटिफिक रिपोर्ट्स में प्रकाशित हुआ और नेशनल लाइब्रेरी ऑफ मेडिसिन में भी उपलब्ध है।

रिसर्च में कुल 604 लोगों को शामिल किया गया। इनमें 304 लोगों ने आवाज की पहचान से जुड़े अध्ययन और 300 लोगों ने आवाज के असली या एआई से बनाई गई होने की पहचान से जुड़े अध्ययन में हिस्सा लिया। शोधकर्ताओं ने 200 से ज्यादा स्पीकर की आवाजों और अत्याधुनिक वॉयस क्लोनिंग तकनीक का इस्तेमाल किया।

रिसर्च में पाया गया कि जब लोगों ने असली आवाज और उसी व्यक्ति की एआई क्लोन आवाज सुनी, तो उन्होंने एआई आवाज को करीब 80 फीसदी मामलों में उसी असली व्यक्ति की आवाज माना। वहीं जब उनसे सीधे पूछा गया कि आवाज असली है या एआई से बनाई गई है, तो वे सिर्फ करीब 60 फीसदी मामलों में ही एआई आवाज को सही पहचान पाए। यानी सिर्फ आवाज सुनकर एआई क्लोन को पहचानना इंसानों के लिए काफी मुश्किल पाया गया।

शोधकर्ताओं ने यह भी पाया कि छोटी रिकॉर्डिंग में लोगों के लिए एआई आवाज पहचानना ज्यादा मुश्किल था। ज्यादा लंबी और सामान्य बातचीत में पहचान की क्षमता बेहतर हो सकती है। रिसर्च के मुताबिक, बातचीत को लंबा करने और सामने वाले से खुले सवाल पूछने से फर्जी एआई आवाज पहचानने में मदद मिल सकती है।

इंदौर में जनवरी में एक प्ले स्कूल की प्रमुख को उनके रिश्तेदार की क्लोन की गई आवाज में फोन आया। कॉल करने वाले ने सर्जरी के लिए पैसे मांगे और उन्होंने करीब 97,500 रुपये ट्रांसफर कर दिए।

महाराष्ट्र के नासिक में अगस्त में पुलिस ने 26 वर्षीय संकेत सचिन चव्हाण को कथित 11.8 लाख रुपये की मैट्रिमोनियल धोखाधड़ी के मामले में गिरफ्तार किया। आरोप है कि इसमें एआई वॉयस क्लोनिंग का इस्तेमाल किया गया।

इसी महीने में कोलकाता में 67 वर्षीय व्यक्ति को परिचित व्यक्ति की आवाज में फोन आया। कॉल करने वाले ने रिश्तेदार के अस्पताल में भर्ती होने की बात कही और करीब 95,990 रुपये ठग लिए।

एआई से तैयार फर्जी ऑडियो, वीडियो और दूसरे सिंथेटिक कंटेंट के बढ़ते इस्तेमाल के बीच केंद्र सरकार ने 6 अक्तूबर को नई गाइडलाइन जारी की। इसमें सोशल मीडिया और दूसरे ऑनलाइन प्लेटफॉर्म को एआई से बनाए गए भ्रामक और गैरकानूनी कंटेंट को लेकर सतर्क रहने और नियमों का पालन सुनिश्चित करने को कहा गया है। वॉयस क्लोनिंग के जरिए किसी की आवाज की नकल कर धोखाधड़ी या प्रतिरूपण करना भी इसी तरह के एआई के दुरुपयोग का हिस्सा हो सकता है।

दरअसल, सरकार इससे पहले भी एआई और डीपफेक से जुड़े खतरों को देखते हुए नियमों में बदलाव कर चुकी है। 10 फरवरी 2026 को आईटी नियम 2021 में संशोधन किया गया था। इसका मकसद सिंथेटिकली जेनरेटेड इंफॉर्मेशन यानी एसजीआई से होने वाले नुकसान को रोकना है। इसमें डीपफेक और एआई से बनाए गए ऑडियो, वीडियो और दूसरे कंटेंट को शामिल किया गया। ये संशोधन 20 फरवरी 2026 से लागू हुए।

एसजीआई ऐसे ऑडियो, विजुअल या ऑडियो-विजुअल कंटेंट को कहा गया है, जिसे कंप्यूटर संसाधनों और एल्गोरिदम की मदद से कृत्रिम तरीके से बनाया या बदला गया हो और जो देखने या सुनने में किसी वास्तविक व्यक्ति या घटना जैसा लगे।

नियमों के तहत एआई से बनाए गए कंटेंट के लिए स्पष्ट लेबल और ट्रेस किए जा सकने वाले मेटाडेटा की व्यवस्था की गई है। इसका मकसद यूजर को यह पहचानने में मदद करना है कि कोई कंटेंट एआई या दूसरी सिंथेटिक तकनीक की मदद से तैयार किया गया है।

आईटी एक्ट 2000 की धारा 66सी पहचान की चोरी और धारा 66डी कंप्यूटर संसाधन का इस्तेमाल कर प्रतिरूपण के जरिए धोखाधड़ी से जुड़ी है। निजी जानकारी के उल्लंघन से जुड़े मामलों में धारा 66ई और अश्लील या यौन रूप से स्पष्ट कंटेंट से जुड़े मामलों में धारा 67 और 67ए लागू हो सकती हैं।

भारतीय न्याय संहिता की धारा 319 किसी व्यक्ति का प्रतिरूपण कर धोखाधड़ी से जुड़ी है। धारा 336 जालसाजी और गलत इलेक्ट्रॉनिक रिकॉर्ड से जुड़े अपराधों पर लागू होती है। संगठित साइबर अपराध के मामलों में धारा 111 भी लागू हो सकती है।

एआई डीपफेक और वॉयस क्लोनिंग से निपटने के लिए सरकार ने इंडिया एआई मिशन के सेफ एंड ट्रस्टेड एआई कार्यक्रम के तहत तकनीकी समाधान विकसित करने पर भी काम किया है। इसमें आईआईटी जोधपुर और आईआईटी मद्रास का साक्ष्य डीपफेक डिटेक्शन फ्रेमवर्क, एआई विश्लेषक और आईआईटी खड़गपुर का रियल टाइम वॉयस डीपफेक डिटेक्शन सिस्टम शामिल है।

अगर एआई वॉयस क्लोनिंग के जरिए ठगी हो जाए तो तुरंत 1930 साइबर क्राइम हेल्पलाइन पर शिकायत की जा सकती है। राष्ट्रीय साइबर क्राइम रिपोर्टिंग पोर्टल पर भी शिकायत दर्ज कराई जा सकती है।

अगर किसी इंटरमीडियरी के शिकायत अधिकारी से शिकायत का समाधान नहीं होता है, तो यूजर ग्रिवांस अपीलेट कमेटी के सामने अपील कर सकता है।

सरकार इससे पहले 9 फरवरी 2026 को धार्मिक मामलों से जुड़े गैरकानूनी सिंथेटिक कंटेंट को लेकर इंटरमीडियरी के लिए एडवाइजरी जारी कर चुकी है। इसके बाद 16 मार्च 2026 को अपमानजनक, मानहानिकारक, आपत्तिजनक और भ्रामक सिंथेटिक कंटेंट को बनाने, होस्ट करने, प्रकाशित करने और शेयर करने को लेकर भी एडवाइजरी जारी की गई थी।

गृह मंत्रालय के मुताबिक, 2025 में भारत में साइबर फ्रॉड से 22,495 करोड़ रुपये का नुकसान दर्ज हुआ और 28.15 लाख शिकायतें सामने आईं। सरकार ने एआई वॉयस-क्लोनिंग फ्रॉड को भी उभरते साइबर खतरों में शामिल किया है। 2021 से 2025 के बीच राष्ट्रीय साइबर क्राइम रिपोर्टिंग पोर्टल पर 65.89 लाख से ज्यादा वित्तीय धोखाधड़ी की शिकायतें दर्ज हुईं, जिनमें 55,050 करोड़ रुपये से ज्यादा की रकम रिपोर्ट की गई।