3 घंटे में हटाना होगा AI कंटेंट: डीपफेक पर सरकार का बड़ा एक्शन, सोशल मीडिया कंपनियों के लिए नई गाइडलाइंस जारी

सोशल मीडिया पर तेजी से फैल रहे एआई-जनरेटेड डीपफेक और भ्रामक कंटेंट को लेकर केंद्र सरकार ने सख्त कदम उठाया है। सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने फेसबुक, इंस्टाग्राम, यूट्यूब सहित सभी सोशल मीडिया इंटरमीडियरीज के लिए संशोधित गाइडलाइंस जारी की हैं। नए नियमों के तहत अब एआई से बने हर कंटेंट को स्पष्ट रूप से लेबल करना और उसमें पहचान से जुड़ा मेटाडेटा जोड़ना अनिवार्य होगा।

सरकार की नई गाइडलाइंस सोशल मीडिया प्लेटफॉर्मस जैसे- X (ट्विटर), यू-ट्यूब, स्नैपचैट, फेसबुक और इंस्टाग्राम पर शेयर किए जाने वाले एआई जनरेटेड कंटेंट पर लागू होगा। बदले हुए नियम 20 फरवरी से लागू होंगे। इसका ड्राफ्ट सरकार ने 22 अक्टूबर 2025 को जारी किया था। आइए जानते हैं नए नियमों के तहत सोशल मीडिया कंपनियों को किन-किन आदेशों का पालन करना होगा।

नई गाइडलाइंस से जुड़े अहम आदेश

3 घंटे में हटाना होगा आपत्तिजनक डीपफेक

सरकार ने स्पष्ट किया है कि यदि किसी एआई-जनरेटेड या डीपफेक कंटेंट को सरकार या किसी अदालत द्वारा आपत्तिजनक करार दिया जाता है, तो संबंधित प्लेटफॉर्म को 3 घंटे के भीतर उसे हटाना होगा। तय समयसीमा का पालन नहीं करने पर सख्त कार्रवाई की जा सकती है।

AI लेबल से छेड़छाड़ पर पूरी तरह रोक

नई गाइडलाइंस के तहत सोशल मीडिया प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि एआई से तैयार की गई किसी भी सामग्री पर स्पष्ट रूप से “एआई जनरेटेड” या समान चेतावनी लेबल लगाया जाए। ये लेबल विजुअल में कम से कम 10% एरिया कवर करेगा या ऑडियो में पहले 10% टाइम में सुनाई देगा।

यह भी पढ़ें: Meta-Google पर ऐतिहासिक ट्रायल शुरू: कोर्ट ने कहा- ड्रग की तरह है इंस्टाग्राम, सीक्रेट प्रोजेक्ट का हुआ जिक्र

साथ ही, ऐसे कंटेंट में तकनीकी पहचान (मेटाडेटा) भी एम्बेड करनी होगी, ताकि भविष्य में उसकी सत्यता की जांच की जा सके। एक बार यह लेबल या पहचान जोड़ दी गई, तो उसे हटाया, बदला या छिपाया नहीं जा सकेगा।

अवैध और भ्रामक कंटेंट रोकने के लिए ऑटोमैटिक टूल्स अनिवार्य

निर्देशों के मुताबिक, सोशल मीडिया कंपनियों को उन्नत तकनीकी उपाय और ऑटोमैटेड टूल्स तैनात करने होंगे। इनका उद्देश्य अवैध, धोखाधड़ी वाले, भ्रामक या यौन शोषण से जुड़े एआई कंटेंट की पहचान कर उसे फैलने से रोकना है। विशेष रूप से बच्चों से जुड़े मामलों में अतिरिक्त सतर्कता बरतने के निर्देश दिए गए हैं।

हर तीन महीने में यूजर्स को देनी होगी जानकारी

सरकार ने प्लेटफॉर्म्स को यह भी निर्देश दिया है कि वे कम से कम हर तीन महीने में अपने यूजर्स को एआई के दुरुपयोग से जुड़े नियमों और संभावित कार्रवाई के बारे में सूचित करें। यह जानकारी नियम एवं शर्तें, प्राइवेसी पॉलिसी या यूजर एग्रीमेंट के माध्यम से सरल भाषा में दी जानी चाहिए।

यदि किसी प्लेटफॉर्म को यह जानकारी मिलती है कि कोई एआई कंटेंट भारतीय कानूनों का उल्लंघन कर रहा है, चाहे वह बनाने, एडिट करने, अपलोड करने, शेयर करने या स्टोर करने से जुड़ा हो तो उसे तुरंत प्रभाव से उचित कार्रवाई करनी होगी।

यूजर्स को करनी होगी घोषणा

ड्राफ्ट नियमों में यह भी प्रस्ताव रखा गया है कि यूजर्स जब भी एआई-जनरेटेड या एआई-मॉडिफाइड कंटेंट पोस्ट करें, तो उन्हें इसकी स्पष्ट घोषणा करनी होगी। इससे फर्जी दावों और छुपी हुई एआई सामग्री को पहचानना आसान होगा।

इन कानूनों का करना होगा पालन

अपडेटेड गाइडलाइंस के तहत सोशल मीडिया कंपनियों को सुनिश्चित करना होगा कि कोई भी यूजर ऐसा एआई कंटेंट पोस्ट न करे जो मौजूदा भारतीय कानूनों के खिलाफ हो। इसमें भारतीय न्याय संहिता 2023, पॉक्सो एक्ट 2012 और विस्फोटक पदार्थ अधिनियम 1908 जैसे प्रमुख कानून का उल्लेख किया गया है।

क्यों जरूरी था यह कदम?

पिछले कुछ समय में डीपफेक वीडियो के जरिए राजनीतिक बयानबाजी, सेलिब्रिटीज के फर्जी वीडियो, वित्तीय ठगी और महिलाओं के खिलाफ साइबर अपराध के मामलों में तेजी आई है। एआई तकनीक जितनी ताकतवर होती जा रही है, उतना ही जरूरी है कि उसके इस्तेमाल को नियंत्रित करने के लिए स्पष्ट नियम बनाए जाएं।

यह भी पढ़ें: एपल ₹50,000 के बजट में ला सकता है iPhone 17e: लेटेस्ट A19 चिप से होगा लैस, मार्च में लॉन्च की तैयारी

सरकार का यह कदम डिजिटल स्पेस में पारदर्शिता, जवाबदेही और यूजर्स की सुरक्षा सुनिश्चित करने की दिशा में एक महत्वपूर्ण प्रयास माना जा रहा है।

उपयोगकर्ताओं और इंडस्ट्री पर क्या होगा असर?

नए नियम लागू होने के बाद आम यूजर्स के लिए सोशल मीडिया पर फर्जी और एआई से बने कंटेंट की पहचान करना आसान हो जाएगा। हर एआई-जनरेटेड पोस्ट पर स्पष्ट लेबल और पहचान संबंधी जानकारी होने से मिसइनफॉर्मेशन और भ्रम फैलने की संभावना कम होगी।

हालांकि, कंटेंट क्रिएटर्स को अब अतिरिक्त सावधानी बरतनी होगी। एआई टूल्स से तैयार या मॉडिफाई किए गए कंटेंट को पोस्ट करते समय उन्हें स्पष्ट रूप से इसकी घोषणा करनी होगी। यानी पोस्ट करने की प्रक्रिया में एक अतिरिक्त चरण जुड़ जाएगा।

क्या है डीपफेक?

डीपफेक एक उन्नत एआई तकनीक पर आधारित फर्जी डिजिटल कंटेंट होता है, जिसमें किसी व्यक्ति के चेहरे, आवाज या हाव-भाव को कृत्रिम रूप से बदल दिया जाता है। एआई और मशीन लर्निंग टूल्स की मदद से वीडियो या ऑडियो में इतनी बारीकी से एडिटिंग की जाती है कि असली और नकली के बीच फर्क कर पाना आम लोगों के लिए बेहद मुश्किल हो जाता है।

डीपफेक का इस्तेमाल कभी-कभी मनोरंजन या क्रिएटिव प्रयोग के लिए किया जाता है, लेकिन इसका दुरुपयोग गलत सूचना फैलाने, छवि खराब करने, वित्तीय ठगी या साइबर अपराध जैसे मामलों में भी किया जा सकता है।