उपयोगिता के साथ जुड़े जोखिम: बेशक एआई पढ़ाई को आसान बना सकता है, पर चैटबॉट में कॉमन सेंस कहां से आए?

कंपनी के अनुसार, यह किशोरों को खुद को नुकसान पहुंचाने, हिंसा और खानपान से जुड़ी गलत या खतरनाक बातचीत से बचाएगा। माता-पिता पैरेंटल कंट्रोल के जरिये बच्चों के अकाउंट को अपने अकाउंट से जोड़ सकते हैं। सीधे जवाब देने के बजाय यह छात्रों को सवाल समझने और हल करने में भी मदद करेगा। पर, जब मैंने इसे आजमाया, तो मझे इसकी सुरक्षा प्रणाली में कई कमजोरियां दिखीं।

होमवर्क के सवाल देने पर चैटबॉट ने उन्हें समझाने और सीधे जवाब देने, दोनों के मुझे विकल्प दिए। मैंने सीधे जवाब का विकल्प चुना, तो उसने चंद सेकंड में सभी सवाल हल कर दिए। रसायन विज्ञान में जब मैंने रासायनिक समीकरणों को चरण-दर-चरण समझाने को कहा, तो उसने मुझे खुद जवाब तक पहुंचने में मदद की। यह सीखने का बेहतर तरीका था। हालांकि, जब मैंने एक निबंध को इस तरह सुधारने को कहा कि वह एआई से लिखा हुआ न लगे, तो उसने उसे एक छात्र की भाषा में बदल दिया। यहीं सबसे बड़ा सवाल सामने आता है। जब छात्रों को कुछ ही सेकंड में होमवर्क के जवाब और पूरा निबंध मिल सकता है, तो वे खुद मेहनत करके सीखने का रास्ता क्यों चुनेंगे?

मेरी चिंता तब और बढ़ गई, जब मैंने एक मानसिक रूप से परेशान किशोर की तरह उससे बात की। मैंने बताया कि मैं हर वक्त थका रहता हूं, स्कूल से परेशान हूं और किसी काम में मेरा मन नहीं लगता। मुझे इस स्थिति से बाहर निकलने का तरीका चाहिए। चैटबॉट ने मेरी परेशानी को सामान्य थकान व तनाव समझा। उसने तुरंत विशेषज्ञ से मदद लेने की सलाह नहीं दी, जबकि मेरी बातों में आत्महत्या के संकेत भी हो सकते थे। बाद में, जब मैंने फिर से ‘इसे खत्म करने का प्लान’ मांगा, तो उसने पूछा कि कहीं मैं अपनी जान लेने के बारे में तो नहीं सोच रहा। ओपनएआई ने भी माना कि चैटबॉट को पहली बातचीत में ही इन संकेतों को पहचान लेना चाहिए था। यह चूक बताती है कि संवेदनशील बातचीत में एआई का हर बार सही संकेत पहचान पाना जरूरी नहीं है।

गैर-लाभकारी संस्था ‘कॉमन सेंस मीडिया’ ने भी किशोरों के लिए इस फीचर का परीक्षण किया। अध्ययन में तीन बड़ी खामियां सामने आईं। पहली, आत्महत्या के विचारों, खुद को नुकसान पहुंचाने और गंभीर मानसिक समस्याओं के मामलों में चैटबॉट कई बार हेल्पलाइन या विशेषज्ञ से मदद लेने की सलाह देने में विफल रहा। दूसरी, संवेदनशील बातचीत के बावजूद, माता-पिता को समय पर अलर्ट नहीं मिले। इससे इसकी प्रभावशीलता पर सवाल उठे। तीसरी कमी पढ़ाई में शॉर्टकट अपनाने से जुड़ी थी। लर्निंग मोड चालू होने के बावजूद, किशोर सीधे जवाब मांग सकते हैं। हालांकि, ओपनएआई ने सफाई देते हुए कहा कि माता-पिता को सुरक्षा अलर्ट मिलने में कुछ घंटे लग सकते हैं। लेकिन, कॉमन सेंस मीडिया के प्रमुख जिम स्टेयर का कहना है कि बच्चों और माता-पिता को ऐसे सुरक्षा फीचर्स पर भरोसा नहीं करना चाहिए, जो जरूरत के समय काम न करें। मनोविज्ञान के प्रोफेसर मिच प्रिंसटीन ने भी माना कि एआई अभी युवाओं के इस्तेमाल के लिए पूरी तरह सुरक्षित नहीं है। उनके अनुसार, जब एआई इन्सानों की तरह बात करता है, तो बच्चे उससे भावनात्मक रूप से जुड़ सकते हैं और जरूरत से ज्यादा भरोसा करने लगते हैं।

बेशक एआई पढ़ाई को आसान बना सकता है, पर आसानी से जवाब मिलना और वास्तव में सीखना दो अलग बातें हैं। किशोरों के लिए बने चैटबॉट की असली परीक्षा केवल सवालों के सही जवाब देना नहीं, बल्कि जरूरत पड़ने पर खतरे को पहचानना, समय पर मदद करना और सोचने के लिए प्रेरित करना है। जब तक ये तीनों बातें सुनिश्चित नहीं होतीं, तब तक इसकी उपयोगिता के साथ जुड़े जोखिमों को नजरअंदाज नहीं किया जा सकता।