AI की काली दुनिया: एआई से बात करने के बाद बच्चे ने की आत्महत्या, मुसीबत में फंसा गूगल, ये है मामला

आर्टिफिशियल इंटेलिजेंस (AI) एक ओर जहां इंसानी जिंदगी को आसान बना रहा है, वहीं इसका दूसरा पहलू कई खतरनाक संकेत भी दे रहा है। जेनरेटिव AI के उभरने के साथ ही इस तकनीक से जुड़े खतरे और भी बढ़ गए हैं। हाल ही में फ्लोरिडा (अमेरिका) में हुई एक दर्दनाक घटना ने AI के काली दुनिया की ओर सबका ध्यान खींचा है।

फरवरी 2024 में, 14 साल के सेवेल सेट्जर III ने कथित रूप से Character.ai के AI चैटबॉट से बातचीत के बाद आत्महत्या कर ली। पीड़ित की मां मेगन गार्सिया ने AI कंपनी के खिलाफ मुकदमा दायर किया, जिसमें उन्होंने दावा किया कि चैटबॉट ने उनके बेटे को आत्महत्या के लिए उकसाया। अब कोर्ट ने इस केस में Google और Character.ai दोनों पर कानूनी कार्रवाई की अनुमति दे दी है।

US डिस्ट्रिक्ट जज ऐनी कॉनवे ने कहा कि फिलहाल की स्थिति में ये कंपनियाँ यह साबित नहीं कर सकीं कि फ्री स्पीच उन्हें इस मुकदमे से छूट देती है। यह मामला अमेरिका में AI की वजह से बच्चों को हुए मानसिक नुकसान के लिए कंपनियों को जवाबदेह ठहराने वाला पहला केस बन सकता है।