OpenAI: संभल कर करें ChatGPT से बात, कुछ गड़बड़ की तो AI बुला लेगा पुलिस, ओपनएआई ने खुद किया खुलासा

OpenAI ने इस हफ्ते अपने ब्लॉग पोस्ट में बड़ा खुलासा किया है। कंपनी ने माना है कि ChatGPT पर की गई यूजर चैट्स की निगरानी की जाती है और अगर बातचीत में हिंसा या किसी को नुकसान पहुंचाने की योजना झलकती है, तो इन चैट्स को स्पेशल रिव्यू टीम के पास भेजा जाता है। कंपनी के मुताबिक, अगर यह टीम मानती है कि खतरा गंभीर और तत्काल है, तो ऐसी स्थिति में लॉ इन्फोर्समेंट एजेंसियों को यह जानकारी साझा की जा सकती है।

यह खुलासा कई सवाल खड़े करता है, क्योंकि अब तक लोग मानते थे कि एआई के साथ बातचीत निजी और सुरक्षित होती है। आलोचकों का कहना है कि अगर किसी बातचीत के इरादे और टोन की व्याख्या इंसान करेंगे, तो ChatGPT के पूरी तरह स्वायत्त होने का दावा कमजोर पड़ जाता है।

OpenAI ट्रैक करता है यूजर्स की लोकेशन

एक और बड़ी चिंता यह है कि OpenAI किस तरह यूजर्स की लोकेशन पहचानता है ताकि आपातकालीन सेवाओं को सूचना दी जा सके। विशेषज्ञों का कहना है कि इसका दुरुपयोग भी संभव है। उदाहरण के तौर पर, “स्वाटिंग (swatting)” जैसे मामलों में कोई शख्स किसी निर्दोष व्यक्ति की पहचान लेकर झूठा हिंसक संदेश भेज सकता है, जिसके बाद पुलिस उस व्यक्ति के घर छापा मार सकती है।

यह कदम OpenAI के CEO सैम ऑल्टमैन के हालिया बयानों से मेल नहीं खाता। उन्होंने कहा था कि ChatGPT का इस्तेमाल करने में उतनी ही निजता है जितना किसी वकील, डॉक्टर या थेरपिस्ट से बात करने में मिलती है। लेकिन अगर बातचीत को इंसान पढ़ सकते हैं और पुलिस तक भेज सकते हैं, तो यह तुलना सही नहीं बैठती।

क्या यूजर्स पर चल रहा टेस्ट?

टेक्नोलॉजी जगत के आलोचक इसे इस बात का सबूत मानते हैं कि एआई कंपनियां तेजी से शक्तिशाली सिस्टम्स लॉन्च कर रही हैं, लेकिन उनके परिणामों को पूरी तरह समझ नहीं पा रही हैं। ऐसे में यूजर्स अनजाने में “टेस्ट सब्जेक्ट्स” बन जाते हैं और कंपनियां बाद में खामियों को भरने की कोशिश करती हैं।

आम यूजर्स के लिए सबक साफ है कि ChatGPT निजी बातचीत का अहसास जरूर देता है, लेकिन यह पूरी तरह निजी नहीं है। आपकी चैट्स की समीक्षा की जा सकती है और गंभीर मामलों में पुलिस तक भी पहुंचाई जा सकती है।