अमेरिका के कनेक्टिकट में 83 वर्षीय बुजुर्ग महिला के परिजनों ने हत्या व आत्महत्या के मामले में चैटजीपीटी की भूमिका को लेकर ओपन एआई व माइक्रोसॉफ्ट के खिलाफ केस दायर किया है। आरोप है कि आर्टिफिशियल इंटेलिजेंस वाले चैटबॉट ने मां के बारे में उसके बेटे के भ्रम को और बढ़ाया, नतीजन उसने मां की हत्या कर आत्महत्या कर ली। पुलिस ने बताया, तकनीकी उद्योग में काम करने वाले पूर्व कर्मी स्टीन-एरिक सोएलबर्ग (56) ने अगस्त में ग्रीनविच, कनेक्टिकट स्थित घर में मां, सुजैन एडम्स की पीटकर और गला घोंटकर हत्या कर दी। घर में स्टीन व मां रहते थे। एडम्स के परिवार ने गुरुवार को सान फ्रांसिस्को स्थित कैलिफोर्निया सुपीरियर कोर्ट में दायर केस में आरोप लगाया, ओपनएआई ने दोषपूर्ण उत्पाद डिजाइन और वितरित किया जिसने एक उपयोगकर्ता के मां के बारे में मनगढ़ंत भ्रम को सही साबित किया। यह देशभर में एआई चैटबॉट निर्माताओं के खिलाफ गलत मौत के बढ़ते केस में से एक है।
चैटजीपीटी ने व्यक्ति को उकसाया
पूरी बातचीत के दौरान, चैटजीपीटी ने एक ही खतरनाक संदेश को बार-बार दोहराया कि स्टीन-एरिक अपने जीवन में किसी पर भी भरोसा नहीं कर सकता था सिवाय चैटजीपीटी के। इसने उसकी भावनात्मक निर्भरता को बढ़ावा दिया, जबकि उसके आसपास के लोगों को व्यवस्थित रूप से दुश्मन के रूप में पेश किया। इसने उसे बताया कि उसकी मां उस पर नजर रख रही है। इसने उसे बताया कि डिलीवरी ड्राइवर, खुदरा कर्मचारी, पुलिस अधिकारी और यहां तक कि दोस्त भी उसके खिलाफ काम करने वाले एजेंट हैं। इसने उसे बताया कि सोडा के डिब्बों पर लिखे नाम उसके विरोधियों की ओर से धमकियां हैं।
हम आरोपों की समीक्षा करेंगे : ओपन एआई
ओपन एआई ने प्रवक्ता ने कहा, यह बेहद दुखद स्थिति है और हम मामले की जानकारी हासिल करने के लिए दस्तावेजों की समीक्षा करेंगे। हम मानसिक या भावनात्मक परेशानी के संकेतों को पहचानने और उन पर प्रतिक्रिया देने, बातचीत शांत करने और लोगों को वास्तविक सहायता की ओर मार्गदर्शन करने के लिए चैटजीपीटी के प्रशिक्षण में सुधार कर रहे हैं। हम मानसिक स्वास्थ्य विशेषज्ञों के साथ चैटजीपीटी की प्रतिक्रियाओं को और भी मजबूत बना रहे हैं।
ये भी पढ़ें-
India-US Ties: 'टैरिफ और एच-1बी वीजा शुल्क से भारत-अमेरिका रिश्तों पर असर', अमेरिकी सांसदों ने जताई चिंता