Uses Of AI: सामाजिक कार्यों में इस तरीके से हो रहा एआई का इस्तेमाल, लेकिन खतरे भी कम नहीं

टेक डेस्क, अमर उजाला, नई दिल्लीप्रदीप पाण्डेय

Mon, 10 Feb 2025 11:22 AM IST

सार

एआई के कारण होने वाले आघात या अन्य नुकसान को कम करने के लिए, सामाजिक सेवा प्रदाताओं को किसी भी एआई प्रणाली के उपयोग से पहले सावधानीपूर्वक उसका मूल्यांकन करना चाहिए। जो एआई सिस्टम पहले से उपयोग में हैं, उनकी नियमित समीक्षा की जानी चाहिए ताकि उनकी सुरक्षा सुनिश्चित हो सके।

AI is being used in social services but we must make sure it doesnt traumatise clients — AI Tool - फोटो : Freepik

विस्तार

वॉट्सऐप चैनल फॉलो करें

पिछले साल विक्टोरिया (ऑस्ट्रेलिया) में एक बाल संरक्षण अधिकारी ने दस्तावेज तैयार करने के लिए चैटजीपीटी का उपयोग किया, हालांकि एक बड़ी गलती करते हुए चैटजीपीटी ने यौन उद्देश्यों के लिए उपयोग की जाने वाली "गुड़िया" को एक "उम्र-उपयुक्त खिलौना" के रूप में वर्णित कर दिया। इस त्रुटि के बाद विक्टोरियन सूचना आयुक्त ने बाल संरक्षण सेवाओं में जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) के उपयोग पर प्रतिबंध लगा दिया, लेकिन एआई का बेहतर इस्तेमाल कई अन्य सामाजिक क्षेत्रों जैसे रोजगार, बेघर सहायता या घरेलू हिंसा में हो सकता है, हालांकि इन सेवा प्रदाताओं को एआई के सुरक्षित उपयोग के बारे में पूरी जानकारी होनी चाहिए, क्योंकि इसमें खतरे भी बहुत हैं।

एआई ने वैश्विक स्तर पर बेहतर सेवा वितरण का वादा किया है। सामाजिक सेवा क्षेत्र में एआई के उपयोग से लंबित कार्यों को तेजी से निपटाने, प्रशासनिक बोझ को कम करने और संसाधनों के कुशल आवंटन की संभावनाएं बढ़ी हैं। यही कारण है कि कई सामाजिक सेवा प्रदाता विभिन्न तरीकों से एआई का उपयोग कर रहे हैं।

1. चैटबॉट्स का उपयोग-

चैटबॉट्स टेक्स्ट, वॉइस या इमेज के माध्यम से इंसानों के बीच होने वाली बातचीत की नकल कर सकते हैं। इन्हें मानसिक स्वास्थ्य सहायता देने, रोजगार संबंधी सलाह प्रदान करने, डेटा प्रोसेसिंग को तेज करने और रिपोर्ट तैयार करने में इस्तेमाल किया जाता है, लेकिन गलत या हानिकारक जवाब देने की संभावना बनी रहती है। उदाहरण के लिए, अमेरिकी नेशनल ईटिंग डिसऑर्डर एसोसिएशन द्वारा उपयोग किए गए चैटबॉट "टेसा" को तब हटा दिया गया जब पाया गया कि वह ग्राहकों को हानिकारक वजन घटाने की सलाह दे रहा था।

और पढ़ें...