Deepfake: स्कूलों में बढ़ता 'डीपफेक' का आतंक; क्या एआई तकनीक बन रही है बच्चों के लिए सबसे बड़ा खतरा?

अमेरिका के स्कूलों में एक बहुत गंभीर और डराने वाली समस्या सामने आ रही है। कुछ छात्र अब आर्टिफिशियल इंटेलिजेंस (एआई) की मदद से अपने सहपाठियों की तस्वीरों को नकली और अश्लील डीपफेक तस्वीरों या वीडियो में बदल रहे हैं। इन तस्वीरों के सोशल मीडिया पर फैलने से पीड़ित बच्चों की जिंदगी पर बहुत बुरा असर पड़ता है।

लुइसियाना का मामला

लुइसियाना के एक मिडिल स्कूल में एआई से बनाई गई अश्लील तस्वीरें वायरल हो गई। इस मामले में दो लड़कों पर आरोप लगे, लेकिन इससे पहले ही पीड़ित लड़की को स्कूल से निकाल दिया गया। स्थानीय पुलिस का कहना था कि पहले फोटो से छेड़छाड़ करना मुश्किल था, लेकिन अब एआई की वजह से कोई भी बिना ट्रेनिंग के यह काम कर सकता है। यही बात माता-पिता के लिए सबसे बड़ी चिंता है।

डीपफेक पर सख्त कानून

अमेरिका में 2025 तक आधे से ज्यादा राज्यों ने एआई के गलत इस्तेमाल पर कानून बना दिए हैं। कुछ राज्यों में छात्रों पर केस भी दर्ज हुए हैं। कई छात्रों को स्कूल से निष्कासित किया गया है। यहां तक कि एक शिक्षक पर भी ऐसी तस्वीरें बनाने का आरोप लगा। यानी सरकारें अब इस खतरे को गंभीरता से ले रही हैं।

लगातार बढ़ रहे हैं डीपफेक के मामले

पहले डीपफेक बनाने के लिए तकनीकी जानकारी चाहिए होती थी, लेकिन अब मोबाइल एप और सोशल मीडिया से यह काम मिनटों में हो जाता है। एक रिपोर्ट के मुताबिक 2023 में एआई से बनी बच्चों की आपत्तिजनक तस्वीरों की करीब 4,700 शिकायतें थीं। 2025 के सिर्फ 6 महीनों में यह संख्या बढ़कर 4,40,000 हो गई।

स्कूलों की लापरवाही पर उठा बड़ा सवाल

विशेषज्ञों का कहना है कि कई स्कूल इस समस्या को नजरअंदाज कर रहे हैं। वे मानकर चल रहे हैं कि हमारे स्कूल में ऐसा नहीं होता, जबकि सच्चाई इसके उलट है।

बच्चों की मानसिक सेहत पर पड़ रहा है गहरा असर

डीपफेक सिर्फ मजाक या बुलिंग नहीं है। जब कोई नकली फोटो या वीडियो इंटरनेट पर आ जाता है, तो वह बार-बार सामने आता रहता है। इससे बच्चे डिप्रेशन, घबराहट (एंग्जायटी), शर्म और डर के शिकार हो जाते हैं। क्योंकि वे यह साबित नहीं कर पाते कि तस्वीर नकली है।

माता-पिता और बच्चों के लिए SHIELD फॉर्मूला

विशेषज्ञ सलाह देते हैं ऐसी किसी स्थिति में कि माता-पिता बच्चों से खुलकर बात करें। अगर कोई परेशानी हो, तो बच्चा बिना डरे बताए। इसके विशेषज्ञ SHIELD तरीका अपनाने की सलाह देते हैं:

S (Stop)- उस फोटो/वीडियो को आगे न भेजें

H (Huddle)- किसी भरोसेमंद बड़े (माता-पिता या टीचर) से बात करें

I (Inform)- सोशल मीडिया प्लेटफॉर्म पर रिपोर्ट करें

E (Evidence)- स्क्रीनशॉट लें, लेकिन डाउनलोड न करें

L (Limit)- कुछ समय के लिए सोशल मीडिया से दूरी बनाएं

D (Direct)- पीड़ित को सही मदद तक पहुंचाएं

डीपफेक तस्वीरों को लगातार होता दुरुपयोग बच्चों की सुरक्षा और मानसिक सेहत के लिए बहुत बड़ा खतरा है। इससे बचने के लिए माता-पिता और बच्चों को समय रहते जागरूकता, बातचीत और सही कदम उठाने चाहिए।