एल्गोरिदम की दुनिया का दूसरा पहलू: एआई, डेटा और नियंत्रण से बढ़ रहा है डिजिटल रंगभेद का खतरा

भारत में इंटरनेट अब एक ऐसा ‘अदृश्य डिजिटल पिंजरा’ बन चुका है, जो बैकएंड एल्गोरिदम, डाटा व एआई के जरिये एक नई सामाजिक-आर्थिक वर्गीय व्यवस्था को जन्म दे रहा है। इसे हम ‘एल्गोरिद्मिक रंगभेद’ या ‘डिजिटल अछूतों का निर्माण’ कह सकते हैं, जहां उपयोगकर्ता को बिना बताए उसकी पहुंच, रोजगार और सामाजिक हैसियत को एक गुप्त कोड से नियंत्रित किया जा रहा है। सूचना साम्राज्यवाद के दौर में इंटरनेट एक ऐसा आभासी मायाजाल रचता है, जिसका सबसे हिंसक असर समाज के कमजोर व असुरक्षित तबके पर पड़ता है। इसकी पुष्टि वैश्विक मानवाधिकार संस्थाओं के दस्तावेज भी करते हैं।

एमनेस्टी इंटरनेशनल और वैश्विक मानवाधिकार संगठनों की हालिया ‘सुरक्षा और तकनीक’ रिपोर्टों के अनुसार, दुनियाभर की सरकारें और सीमा सुरक्षा बल अब प्रवासियों की पात्रता तथा आयु की जांच के लिए ‘एआई फेशियल रिकग्निशन’ तकनीकों को बड़े पैमाने पर लागू कर रहे हैं। रिपोर्टों के अनुसार, ये एल्गोरिदम अश्वेतों, महिलाओं और प्रवासियों के प्रति पूर्वाग्रही हैं। भारतीय संदर्भ में यह एल्गोरिद्मिक रंगभेद सामाजिक और भौगोलिक विभाजनों को और गहरा कर रहा है। राष्ट्रीय परिवार स्वास्थ्य सर्वेक्षण और जीएसएमए मोबाइल जेंडर गैप रिपोर्ट के अनुसार, पुरुषों में इंटरनेट उपयोग दर लगभग 57 फीसदी है, जबकि महिलाओं में महज 33 प्रतिशत। डिजिटल कौशल में भी पुरुषों की भागीदारी 22.78 प्रतिशत है, जबकि महिलाओं की केवल 13.91 फीसदी। यह अंतर दर्शाता है कि डिजिटल पहुंच में लैंगिक असमानता भारत की सबसे बड़ी चुनौतियों में से एक बनी हुई है।

वहीं, वर्ल्ड इकनॉमिक फोरम की ग्लोबल रिस्क रिपोर्ट 2025 व 2026 के अनुसार, एआई द्वारा संचालित भ्रामक सामग्री और डीपफेक आज वैश्विक लोकतंत्रों के लिए सबसे बड़ा खतरा बन चुके हैं। रिसेंबल डॉट एआई की रिपोर्ट (2025) के अनुसार, 2019 की तुलना में 2025 में डीपफेक वीडियो की संख्या में करीब 571 गुना, जबकि 2025 की तीसरी तिमाही तक हर तिमाही में 2023 की तुलना में डीपफेक घटनाओं में 1,500 फीसदी की बढ़ोतरी हुई। अगर कोई उपयोगकर्ता इन घटनाओं को लेकर अपनी असहमति दर्ज कराता है, तो उसके ‘शैडो-बैनिंग’ किए जाने का खतरा बना रहता है। दरअसल, वर्चुअल मंचों पर वैचारिक विरोध को दबाने के लिए ‘शैडो-बैनिंग’ जैसी अदृश्य सेंसरशिप का सहारा लिया जाता है। इसमें उपयोगकर्ता के अकाउंट को ब्लॉक नहीं किया जाता, बल्कि उसकी पहुंच को शून्य कर दिया जाता है। उसे लगता है कि वह चर्चा का हिस्सा है, पर उसकी आवाज को एक तकनीकी पिंजरे में कैद कर दिया जाता है, जहां कोई उसे सुन ही नहीं पाता। यह ‘सूचना साम्राज्यवाद’ का सबसे सूक्ष्म व हिंसक रूप है। अभिव्यक्ति को कुचलने वाली इस अदृश्य सेंसरशिप और सिलिकॉन वैली के कारण बढ़ते ध्रुवीकरण और व्यावसायिक स्वार्थों को लेकर वैश्विक संस्थाएं भी चिंतित हैं। इसीलिए, यूनेस्को लगातार ‘एथिक्स ऑफ एआई’ पर वैश्विक नियम जारी कर रहा है। पर, जब तक एआई और एल्गोरिदम के विकास में नैतिक मानदंडों और सामाजिक सुरक्षा को शामिल नहीं किया जाएगा, तब तक यह तकनीक शक्तिशाली देशों और वैश्विक कंपनियों के हितों को साधने वाली ‘डिजिटल रंगभेद’ ही बनी रहेगी।

इस वैश्विक विमर्श के आलोक में, भारत को स्वीकार करना होगा कि कोई भी एल्गोरिदम या तकनीक कभी ‘न्यूट्रल’ या निष्पक्ष नहीं होती। यदि इंटरनेट को इस ‘अदृश्य डिजिटल पिंजरे’ और वैचारिक रंगभेद से मुक्त कराना है, तो भारत के ‘डिजिटल पर्सनल डाटा प्रोटेक्शन एक्ट’ जैसे विनियामक कानून नाकाफी होंगे। इसके लिए हमें तकनीकी कंपनियों के बैकएंड कोड्स की सार्वजनिक ऑडिटिंग, स्वदेशी डाटा संप्रभुता और एआई प्रणालियों में सामाजिक न्याय के अंतर्निहित सिद्धांतों को अनिवार्य रूप से लागू करना होगा। समय आ गया है कि हम तकनीक के इस उपभोगवादी और दमनकारी तंत्र के सामने मूक दर्शक या केवल ‘उपभोक्ता’ बनने के बजाय, एक सचेत, प्रश्नकर्ता और प्रतिरोधी ‘डिजिटल नागरिक’ की भूमिका का निर्वाह करें।