क्या सुप्रिया सुले की वायरल वॉइस हुई एआई से क्लोन? जानिए क्या है एआई वॉइस क्लोनिंग और इसके समाज पर खतरे?
AI Voice Cloning: जनरेटिव एआई तकनीक पर काम करने वाले वॉइस क्लोनिंग और डीपेफेक एआई टूल्स का बड़े पैमाने पर इस्तेमाल धोखाधड़ी, जालसाजी या किसी का अश्लील वीडियो बनाने के लिए किया जा रहा है।
खबरें लगातार पढ़ने के लिए अमर उजाला एप डाउनलोड करें
या
वेबसाइट पर पढ़ना जारी रखने के लिए वीडियो विज्ञापन देखें
अगर आपके पास प्रीमियम मेंबरशिप है तो
विस्तार
Add as a preferredAI Voice Cloning: महाराष्ट्र चुनावों के बीच NCP नेता सुप्रिया सुले और गौरव मेहता की वॉइस क्लिप सोशल मीडिया पर काफी तेजी से वायरल हो रही है। बताया जा रहा है कि NCP नेता बिटकॉइन के बदले पैसों की मांग कर रही थीं। वॉइस क्लिप में उनकी आवाज को भी सुना जा सकता है। हालांकि, दावा किया जा रहा है कि सोशल मीडिया पर जो ये वॉइस क्लिप वायरल हो रही है उसे वॉइस क्लोनिंग करने वाले एआई टूल की मदद से बनाया गया था।
एआई वॉइल क्लोनिंग टूल जनरेटिव एआई तकनीक पर काम करते हैं। जनरेटिव एआई तकनीक आने के बाद बिजनेस, एजुकेशन, मीडिया, एंटरटेनमेंट, हेल्थकेयर आदि विभिन्न क्षेत्रों में क्रांतिकारी बदलाव आया है। वहीं दूसरी तरफ इसके कई नकारात्मक पहलू भी सामने निकलकर आ रहे हैं। जनरेटिव एआई तकनीक पर काम करने वाले वॉइस क्लोनिंग और डीपेफेक एआई टूल्स का बड़े पैमाने पर इस्तेमाल धोखाधड़ी, जालसाजी या किसी का अश्लील वीडियो बनाने के लिए किया जा रहा है।
क्या है एआई वॉइस क्लोनिंग तकनीक?
एआई वॉइस क्लोनिंग में आर्टिफिशियल इंटेलिजेंस की मदद से किसी सिस्टम या मशीन को व्यक्ति विशेष का सैंपल वॉइस देकर ट्रेन्ड किया जाता है। इसके बाद वह तकनीक उस व्यक्ति विशेष की आवाज, टोन और पैटर्न की हूबहू नकल करने लगती है। इसके बाद एआई टूल की मदद से उस व्यक्ति विशेष की आवाज में कुछ भी बुलवाया जा सकता है।
आज के समय बड़े पैमाने पर इस तकनीक का इस्तेमाल ब्लैकमेलिंग, साइबर धोखाधड़ी, फिशिंग, फेकन्यूज, डिसइंफोर्मेशन फैलाने आदि चीजों में किया जा रहा है। यही नहीं लोकप्रिय सेलिब्रिटी और राजनेताओं की सामाजिक और राजनीतिक छवि को खराब करने के उद्देश्य से भी इस तकनीक का इस्तेमाल किया जा रहा है।
फिशिंग अटैक में किया जा रहा वॉइस क्लोनिंग का इस्तेमाल
एआई वॉइस क्लोनिंग का सबसे गलत इस्तेमाल फिशिंग अटैक में किया जा रहा है। इसमें जालसाज पहले एआई की मदद से किसी व्यक्ति विशेष की आवाज की नकल करते हैं। इसके बाद जालसाज परिवार के सदस्यों को उस व्यक्ति की आवाज में फोन कॉल करके किसी झूठी परेशानी का हवाला देकर पैसों की मांग करता है। इस झांसे में कई लोग आसानी से फंस जाते हैं।
वॉइस क्लोनिंग के कई नैतिक और सामाजिक समस्याएं सामने निकलकर आ रही हैं। इसमें किसी व्यक्ति विशेष की अनुमति के बिना उसकी आवाज का दुरुपयोग किया जा रहा है।
