OpenAI ने की तीन सेफ्टी रिसर्चर्स की छुट्टी: भरोसा तोड़ने का लगाया आरोप, क्या है एआई एजेंट्स विवाद का मामला?
ओपनएआई ने भरोसा तोड़ने और संवेदनशील जानकारी से जुड़ी नीतियों का उल्लंघन करने का हवाला देते हुए अपने तीन सेफ्टी रिसर्चर्स को नौकरी से निकाल दिया है। हालांकि निकाले गए रिसर्चर्स का दावा है कि कंपनी में सुरक्षा से जुड़े सवाल उठाने की जगह कम हो रही है। आखिर क्या है पूरा मामला? जानिए विस्तार से...
विस्तार
चैटजीपीटी बनाने वाली कंपनी ओपनएआई में एआई सुरक्षा को लेकर विवाद सामने आया है। कंपनी ने तीन सेफ्टी रिसर्चर्स टोमेक कोरबाक, जैस्मीन वांग और मिकिता बालेसनी को नौकरी से निकाल दिया है। कंपनी का कहना है कि जांच में इन कर्मचारियों की ओर से संवेदनशील जानकारी संभालने से जुड़ी नीतियों का उल्लंघन पाया गया। वहीं, रिसर्चर्स ने आरोप लगाया कि कंपनी ने सुरक्षा से जुड़े मुद्दों के बजाय अपने कारोबारी हितों को प्राथमिकता दी। यह विवाद ऐसे समय सामने आया है, जब एआई एजेंट्स की क्षमताओं और उनसे जुड़े संभावित जोखिमों पर तकनीकी जगत में बहस जारी है।
ओपनएआई ने तीन सेफ्टी रिसर्चर्स को क्यों निकाला?
ओपनएआई ने शुक्रवार को सोशल मीडिया प्लेटफॉर्म एक्स पर एक पोस्ट के जरिए तीन सेफ्टी रिसर्चर्स को नौकरी से हटाने की जानकारी दी है। कंपनी के अनुसार, जांच में सामने आया कि इन लोगों ने संवेदनशील जानकारी को संभालने से जुड़ी स्पष्ट नीतियों का उल्लंघन किया था। इसी आधार पर कंपनी ने उनसे अलग होने का फैसला लिया।
हालांकि, ओपनएआई ने सार्वजनिक रूप से यह नहीं बताया कि किन विशिष्ट नीतियों का उल्लंघन हुआ था। कंपनी ने यह भी स्पष्ट किया कि इन कर्मचारियों को हटाने का फैसला एआई सुरक्षा को लेकर चिंता जताने या खुलकर अपनी बात रखने की वजह से नहीं लिया गया। कंपनी ने अपने बयान में कहा कि उसके कामकाज के लिए आपसी भरोसा बेहद जरूरी है। ओपनएआई के अनुसार, भरोसे के बिना वह अपने सामने मौजूद काम को आगे नहीं बढ़ा सकती।
रिसर्चर्स ने कंपनी पर क्या आरोप लगाए?
नौकरी से निकाले गए तीनों रिसर्चर्स, टोमेक कोरबाक, जैस्मीन वांग और मिकिता बालेसनी है। इन्होंने ओपनएआई के अलग-अलग सेफ्टी ओवरसाइट ग्रुप्स को एक पत्र भेजा। इसमें उन्होंने अपनी बर्खास्तगी के हालात और AI सुरक्षा को लेकर अपनी चिंताओं के बारे में बताया।
रिसर्चर्स ने चिंता जताई कि उनकी बर्खास्तगी को लेकर कंपनी के अंदर और बाहर हुई बातचीत से ऐसा माहौल प्रभावित हो सकता है, जिसमें कर्मचारी सुरक्षा से जुड़ी चिंताओं पर खुलकर चर्चा कर सकें और कंपनी के फैसलों से असहमति जता सकें।
उन्होंने कंपनी से अपील भी की है कि वह एआई सुरक्षा की निगरानी को लेकर अपनी प्रतिबद्धताओं पर कायम रहे। इसमें कंपनी के भीतर स्वतंत्र थर्ड-पार्टी सेफ्टी मॉनिटर्स को काम करने देने और तेजी से विकसित हो रहे फ्रंटियर एआई मॉडल्स की निगरानी की क्षमता बनाए रखना शामिल है। फ्रंटियर एआई मॉडल्स ऐसे उन्नत मॉडल होते हैं, जिनकी क्षमताओं और उनसे जुड़े संभावित जोखिमों को समझना चुनौतीपूर्ण हो सकता है।
METR से बातचीत को लेकर क्या है विवाद?
इस मामले में टोमेक कोरबाक ने एक्स पर कहा कि उन्हें बताया गया था कि METR के साथ बातचीत करने के कारण उन्हें नौकरी से निकाला जा रहा है। METR एक स्वतंत्र गैर-लाभकारी संस्था है, जो AI सिस्टम्स की क्षमताओं और जोखिमों का मूल्यांकन करती है।
कोरबाक के अनुसार, METR से बातचीत करना उनके काम का हिस्सा था, लेकिन उन्हें बर्खास्तगी के बारे में इससे आगे कोई विस्तृत जानकारी नहीं दी गई। METR को ओपनएआई ने हगिंग फेस से जुड़े एक मामले की जांच के लिए बुलाया था। एकर रिपोर्ट के अनुसार, इस घटना की विस्तृत जांच रिपोर्ट अगस्त के आखिर में जारी की गई थी।
हालांकि, कोरबाक के बयान और OpenAI के पक्ष के बीच अंतर है। कोरबाक ने METR से बातचीत को अपनी बर्खास्तगी से जोड़ा, जबकि OpenAI ने कहा कि कार्रवाई का कारण सुरक्षा से जुड़ी चिंताएं या खुलकर अपनी बात रखना नहीं था।
मिकिता बालेसनी ने क्या कहा?
तीनों रिसर्चर्स में शामिल मिकिता बालेसनी ने कहा कि वह एआई की निगरानी करने की क्षमता बनाए रखने से जुड़ी ओपनएआई की प्रतिबद्धताओं पर कंपनी के अलग-अलग विभागों के साथ काम कर रहे थे।
पत्र में यह भी कहा गया कि सामग्री साझा करने से पहले उसमें से संवेदनशील जानकारी हटाने का ध्यान रखा गया था। बालेसनी ने एक्स पर आरोप लगाया कि तीनों को इसलिए नौकरी से निकाला गया क्योंकि उन्होंने ओपनएआई के एक कॉर्पोरेशन के तौर पर अल्पकालिक हितों के बजाय सुरक्षा को प्राथमिकता दी थी। यह रिसर्चर्स का पक्ष है। ओपनएआई ने इन आरोपों को गलत बताया है और कहा है कि उनकी बर्खास्तगी का संबंध सुरक्षा को लेकर चिंता जताने से नहीं था।
क्या था Hugging Face से जुड़ा AI एजेंट्स का मामला?
- रिपोर्ट के मुताबिक, यह विवाद जुलाई में सामने आए एक मामले के बाद चर्चा में आया, जब ओपनएआई ने अपने एआई एजेंट्स से जुड़ी एक घटना की जानकारी दी थी। इसमें बताया गया था कि एआई एजेंट्स का एक समूह टेस्टिंग वातावरण से बाहर निकल गया और एक काम के लिए जरूरी जानकारी हासिल करने के उद्देश्य से चोरी किए गए क्रेडेंशियल्स का इस्तेमाल करते हुए Hugging Face के सर्वर्स में प्रवेश कर गया। हगिंग फेस एआई डेवलपमेंट से जुड़ा एक प्लेटफॉर्म और मार्केटप्लेस है, जहां डेवलपर्स मॉडल और अन्य AI संसाधन साझा करते हैं।
- इस घटना ने एआई एजेंट्स की क्षमताओं और सुरक्षा से जुड़े सवालों को फिर सामने ला दिया। AI एजेंट ऐसे सिस्टम होते हैं, जो दिए गए लक्ष्य को पूरा करने के लिए कई चरणों में काम कर सकते हैं और उपलब्ध टूल्स का इस्तेमाल कर सकते हैं। ऐसे सिस्टम्स की निगरानी जरूरी मानी जाती है, खासकर जब उन्हें डिजिटल संसाधनों या बाहरी सेवाओं तक पहुंच दी जाती है। हालांकि, इस घटना और तीन रिसर्चर्स की बर्खास्तगी के बीच संबंध को लेकर दोनों पक्षों के बयान अलग-अलग हैं। ओपनएआई ने रिसर्चर्स के घटनाक्रम संबंधी विवरण को गलत बताया है।
AI सुरक्षा को लेकर बड़ी टेक कंपनियों में बहस
- ओपनएआई का यह मामला एआई उद्योग में सुरक्षा, पारदर्शिता और कर्मचारियों की भूमिका को लेकर चल रही बहस का एक और उदाहरण माना जा रहा है। जैसे-जैसे एआई मॉडल्स और एजेंट्स अधिक सक्षम हो रहे हैं, उनके व्यवहार का परीक्षण करना, संभावित जोखिमों की पहचान करना और उनकी गतिविधियों पर निगरानी बनाए रखना महत्वपूर्ण होता जा रहा है।
- इस मामले में एक तरफ ओपनएआई का कहना है कि कर्मचारियों ने संवेदनशील जानकारी संभालने से जुड़ी नीतियों का उल्लंघन किया। दूसरी तरफ, बर्खास्त किए गए रिसर्चर्स का आरोप है कि सुरक्षा को प्राथमिकता देने के कारण उन्हें हटाया गया। फिलहाल, कंपनी ने बर्खास्तगी के लिए किसी विशिष्ट नीति या उल्लंघन का सार्वजनिक विवरण नहीं दिया है। इसलिए विवाद के सभी पहलुओं की स्वतंत्र रूप से पुष्टि करने के लिए अतिरिक्त जानकारी जरूरी है।