निजी नौकरियों की चयन प्रक्रिया में एआई अनजाने में ही भेदभाव बढ़ा सकता है। इसका असर भारत में रोजगार के समान अवसरों पर पड़ सकता है। बीएचयू और महात्मा गांधी काशी विद्यापीठ के संयुक्त अध्ययन में बताया गया है कि भारत की कॉरपोरेट कंपनियों में एआई आधारित एप्लीकेंट ट्रैकिंग सिस्टम (एटीएस) और ऑटोमैटिक बायोडेटा स्क्रीनिंग टूल का इस्तेमाल तेजी से बढ़ा है। 73 फीसदी बड़ी और 56 फीसदी मझली कंपनियां कई पदों पर नौकरियों के लिए एआई आधारित बायोडेटा का स्क्रीनिंग का इस्तेमाल कर रही हैं। इससे एग्लोरिद्म भेदभाव (बायस) का खतरा मंडरा रहा है, क्योंकि पुराने भर्ती आंकड़ों के आधार पर प्रशिक्षित होते हैं।
पूर्वाग्रहों से बचने के लिए एआई का इस्तेमाल
बीएचयू और काशी विद्यापीठ के विशेषज्ञों की ओर से किया गया यह अध्ययन इंटरनेशनल जर्नल ऑफ मॉडर्न इंजीनियरिंग एंड मैनेजमेंट में प्रकाशित हुआ है। नम्रता सिंह और राजीव कृष्णास्वामी ने मिलकर 2400 बायोडेटा और कंपनियों के साथ मिलकर रिसर्च किया है। बताया गया है कि एआई आधारित स्क्रीनिंग इसलिए अपनाई जा रही है, क्योंकि इस भर्ती प्रक्रिया में मानवीय सोच से पैदा होने वाले पूर्वाग्रह नहीं होंगे।
बड़ी संख्या में आवेदनों की छंटनी को ज्यादा तेज और कारगर बनाया जा सकता है। जबकि मानवीय चयन प्रक्रिया में अकसर उम्मीदवार की किसी एक विशेषता से प्रभावित होकर निर्णय लेता है। कई बार व्यक्तिगत समानता के आधार पर प्राथमिकता देता है या कभी-कभी अपने जैसे लोगों को चुनने की प्रवृत्ति या पूर्वाग्रह देखने को मिल जाते हैं।
पुराने आंकड़ों के साथ मिल सकता है भेदभाव
एआई आधारित भर्ती सिस्टम के सामने भी गंभीर चुनौतियां आ गईं हैं। पुराने आंकड़ों में पहले से मौजूद सामाजिक और संस्थागत भेदभाव भी इनके सिस्टम में शामिल हो सकते हैं। खासकर, जाति, लिंग और शैक्षणिक संस्थानों की प्रतिष्ठा के आधार पर उम्मीदवारों के साथ भेदभाव हो सकता है। भेदभाव को पकड़ने के लिए दो चरणों मेंं 2400 बायोडेटा का अध्ययन किया गया।