सोशल मीडिया के दौर में हेट स्पीच पर नियंत्रण अपने आप में चुनौती है। इसी चुनौती से पार पाने के लिए सरकार भी प्रयासरत है, लेकिन सोशल मीडिया प्लेटफार्म की भरमार में मजबूत निगरानी तंत्र नहीं बन पाया है। एनआईटी हमीरपुर में आयोजित माइंड 2023 अंतरराष्ट्रीय सेमिनार में अजय कुमार गर्ग इंजीनियरिंग कॉलेज गाजियाबाद की सहायक प्रोफेसर सोनम गुप्ता ने इस तकनीक को मजबूत करने के लिए रिसर्च पेपर प्रस्तुत किया है। इस रिसर्च पेपर में डॉ. सोनम गुप्ता ने हेट स्पीच डिटेक्शन में आर्टिफिशियल इंटेलिजेंस (एआई) के इस्तेमाल को सुझाया है।
सोनम गुप्ता ने साथी सहायक प्रोफेसर रेखा बघेल और एमटेक स्टूडेंट दिव्या के साथ मिलकर एआई तकनीक के इस्तेमाल से हेट स्पीच डिटेक्शन की उच्चस्तरीय तकनीक पर कार्य किया है। 40 हजार सोशल मीडिया पोस्ट के डाटा सेट का इस्तेमाल करते हुए अलागरिथम के जरिये एआई की मदद से हेट स्पीच के लेवल को तय किया है। एडवांस्ड कंप्यूटर पर प्रोग्रामिंग की मदद इस डाटा सेट पर किए प्रयोग से 90 फीसदी सटीक नतीजे सामने आए हैं। ऐसे में हेट स्पीच डिटेक्शन को लेकर पोस्ट वायरल होने से पहले ही रियल टाइम एक्शन होगा। इस टूल की मदद से घुमाफिरा कर अथवा ताना मार कर किसी धर्म या जाति विशेष पर किए गए पोस्ट को डिडेक्ट करने की क्षमता होगी। मसलन तानों और उलहानों की भाषा को एआई की मदद से एपीआई निगरानी तंत्र बेहतर ढंग से समझ कर डिडेक्ट करेगा।
कैसे करता है सरकार का निगरानी तंत्र
सोशल मीडिया पर हेट स्पीच की वजह से किसी की धार्मिक भावना आहत न हो इसके लिए सरकार की तरफ से एप्लीकेशन प्रोग्रेमिंग इंटरफेस (एपीआई) की मदद ली जाती है। एआई की मदद से एपीआई तंत्र को अधिक मजबूत बनाने का प्रयास किया गया है। इससे सोशल मीडिया पर हेट स्पीच का रियल टाइम अपडेट होगा। वर्तमान में सीधे शब्दों में लिखे गए वाक्यों को समझ कर सोशल मीडिया पर निगरानी तंत्र ब्लाक कर देता है या इस तरह के कंटेंट को छुपा दिया जाता है। लेकिन घुमाफिराकर पोस्ट किए गए कंटेंट को पकड़ने की क्षमता अभी तक विकसित हो रही है। ऐसे में अंतरराष्ट्रीय सेमिनार पर पेश रिसर्च पेपर ने इसकी नई संभावनाओं को जन्म दिया है।
डाटा सेट पर सटीक नतीजे : गुप्ता
सहायक प्राफेसर सोनम गुप्ता का कहना है कि एआई की मदद हेट स्पीच डिडेक्टशन को अधिक मजबूत बनाया जा सकता है। एपीआई के जरिये किसी भी सोशल मीडिया प्लेटफार्म पर कंटेट की निगरानी इस तकनीक से अधिक बेहतर हो सकती है। 40 हजार सोशल मीडिया पोस्ट के डाटा सेट में इस तकनीक के इस्तेमाल से 90 फीसदी सटीक नतीजे आए हैं। इस तकनीक में कंटेट को रियल टाइम में डिडेक्ट करने की क्षमता होगी।