सोशल मीडिया पर हिंदी और अंग्रेजी भाषा मिलाकर लिखी जाने वाली भ्रामक और नस्लीय कमेंट की पहचान कृत्रिम बुद्धिमत्ता की मदद से आसान हो सकती है। भारतीय सूचना प्रौद्योगिकी संस्थान (ट्रिपलआईटी) प्रयागराज के शोधकर्ताओं डॉ. वृजेंद्र सिंह और अशोक यादव ने बाकोहॉक्स नामक एआई मॉडल विकसित किया है। यह शोध लैंग्वेज टेक्नोलॉजी फॉर इक्विलिटी, डाइवर्सिटी, इन्क्लूशन अंतरराष्ट्रीय प्रतियोगिता -2025 में प्रस्तुत किया गया। इसमेंं मॉडल ने सातवां स्थान हासिल किया।
क्या है बाकोहॉक्स
बाकोहॉक्स एक निष्पक्ष एआई सिस्टम है। इसे खासतौर पर हिंदी-अंग्रेजी मिक्सड सोशल मीडिया पोस्ट समझने के लिए तैयार किया गया है। यह मॉडल यह पहचानने का प्रयास करता है कि कोई पोस्ट सामान्य है या उसमें किसी जाति, समुदाय या धर्म को लेकर झूठी और भड़काऊ जानकारी फैलाई जा रही है। शोधकर्ताओं के अनुसार सामान्य एआई मॉडल केवल गाली, धार्मिक शब्द या राजनीतिक संदर्भ देखकर निर्णय लेते हैं पर बाकोहॉक्स संदर्भ और भाषा की बारीकियों को भी समझने की कोशिश करता है।
पांच हजार से ज्यादा कमेंट्स पर हुआ परीक्षण
इस मॉडल ने 5105 कमेंट को पढ़ा। कमेंट को हॉक्स और नॉन-हॉक्स श्रेणियों में बांटा गया था। मॉडल ने विशेष रूप से उन पोस्टों की पहचाना जिनमें किसी समुदाय के खिलाफ झूठी बात फैलाई गई थी।
एआई खुद सीखता है नए पक्षपातपूर्ण शब्द
इसका डायनेमिक बायस डिस्कवरी सिस्टम समय के साथ नए विवादित और भ्रामक शब्दों को खुद पहचानता है। यह केवल तयशुदा शब्दों पर निर्भर नहीं रहता बल्कि किसी शब्द का इस्तेमाल किस संदर्भ में किया गया है इस पर ध्यान देता है।
अब भी मौजूद है चुनौतियां
शोधकर्ताओं ने माना कि मॉडल कई बार सामान्य राजनीतिक आलोचना या धार्मिक चर्चा को भी गलत तरीके से पक्षतापूर्ण मान लेता है। इसके बावजूद यह शोध बहुभाषी सोशल मीडिया में गलत सूचना पहचानने की दिशा में एक महत्वपूर्ण कदम माना जा रहा है।