OpenAI से इस्तीफा देकर पूर्व कर्मचारी ने दी चेतावनी: सुरक्षा पर उठाए सवाल, बताया क्यों टूटा है कंपनी का कल्चर?
ओपनएआई में साढ़े तीन साल बिताने और बड़े प्रोडक्ट्स की सेफ्टी रिपोर्ट्स संभालने के बाद एक सीनियर एम्प्लॉई ने इस्तीफा दे दिया है। कंपनी के टूटे हुए कल्चर का हवाला देते हुए उन्होंने गंभीर चेतावनी भी जारी की है। आइए जानते हैं आखिर क्या है पूरा मामला और पूर्व कर्मचारी ने कंपनी पर क्या आरोप लगाए हैं?
विस्तार
रॉबिन्सन खुद स्वीकार करते हैं कि वे एक तरह की क्लिशे (Cliche) बन गए हैं। डेविड रॉबिन्सन, ओपनएआई कंपनी के पूर्व कर्मचारी हैं, जो इस्तीफा देते हुए दुनिया को गंभीर चेतावनी जारी करते हैं। एक रिपोर्ट के अनुसार, रॉबिन्सन ने खुलासा किया कि वे ओपनएआई के बड़े प्रोडक्ट लॉन्च के साथ आने वाली सेफ्टी रिपोर्ट्स लिखने का काम संभालते थे। कंपनी में साढ़े तीन साल बिताने के बाद वे सबसे लंबे समय तक काम करने वाले कर्मचारियों में से एक बन गए थे। हालांकि, अब उन्होंने इस्तीफा दे दिया है क्योंकि उनके अनुसार ओपनएआई की कल्चर पूरी तरह टूटी हुई है।
जैकब कॉक्सन से क्यों हो रही तुलना?
रॉबिन्सन की टिप्पणियां कुछ मायनों में जैकब कॉक्सन की याद दिलाती हैं। बता दें कि कॉक्सन ने ओपनएआई और एंथ्रोपिक दोनों में रिसर्चर के तौर पर काम किया था और इस्तीफा देने के बाद कहा था कि ये कंपनियां हमारी जिंदगियों से जुआ खेल रही हैं।
कॉक्सन की टिप्पणियों के बाद एआई सुरक्षा को लेकर काफी बहस शुरू हुई थी। एंथ्रापिक के सीईओ डारियो अमाेदेई ने भी ज्यादा सतर्क एआई डेवलपमेंट का प्लान पेश किया था। इसी बीच इस हफ्ते एआई एग्जीक्यूटिव्स ने राष्ट्रपति डोनाल्ड ट्रंप से मुलाकात की। इसके बाद एआई सेफ्टी कंट्रोल्स लागू करने का एक जल्दबाजी में लिखा गया और गैर-बाध्यकारी वादा भी सामने आया।
रॉबिन्सन बोले- सिर्फ नए कानून काफी नहीं
रॉबिन्सन के अनुसार एआई सेफ्टी की बहस को सिर्फ खास नियमों या नए कानूनों तक ही सीमित नहीं रखना चाहिए। उनके अनुसार इन कंपनियों की पूरी कार्य संस्कृति पर भी ध्यान देना जरूरी है। तर्क देते हुए किा कि ओपनएआई से जुड़ी ज्यादातर चर्चाएं इस बात पर भी निर्भर करती हैं कि सीईटो सैम ऑल्टमैन ने अपने पूर्व सहयोगियों का भरोसा कैसे खोया, लेकिन उनके निबंध के मुताबिक समस्या सिर्फ किसी एक व्यक्ति तक सीमित नहीं है। रॉबिन्सन का मानना है कि ओपनएआई की संस्कृति में मौजूद समस्याएं सिलिकॉन वैली की व्यापक कार्य संस्कृति से भी जुड़ी हुई हैं।
इटरेटिव डिप्लॉयमेंट से बढ़ सकता है जोखिम
रॉबिन्सन ने ओपनएआई के काम करने के तरीके को ट्रायल एंड एरर मतलब की प्रयोग करके गलतियों से सीखने की प्रक्रिया से जोड़ा। कंपनी ने इसे इटरेटिव डिप्लॉयमेंट नाम दिया। उनका कहना है कि कंपनी पहले समस्याओं की पहचान करती है और फिर उनके जवाब में सुरक्षा उपाय यानी गार्डरेल्स (Guardrails) बेहतर करती है, लेकिन रॉबिन्सन का तर्क है कि इस तरीके की प्रकृति ही ऐसी है कि इसमें समय-समय पर विफलताएं होंगी। उनकी चिंता यह भी है कि जैसे-जैसे एआई सिस्टम ज्यादा सक्षम होते जा रहे हैं, इन विफलताओं का संभावित पैमाना भी बढ़ता जा रहा है।
साथ ही रॉबिन्सन ने हाल में सामने आए हगिंग फेस सिस्टम से जुड़े ओपनएआई एजेंट्स के ब्रीच और ओपनएआई की ओर से ज्यादा Rogue Agents (रोग एजेंट्स) खोजे जाने के खुलासों का भी हवाला दिया। उनके अनुसार ऐसी घटनाएं यह सवाल खड़ा करती हैं कि क्या ऐसे वातावरण में ऐसे कृत्रिम दिमाग विकसित करना सही है, जो इंसानों से ज्यादा स्मार्ट हो सकते हैं और जरूरी नहीं कि वही काम करें जो उनसे अपेक्षित है। रॉबिन्सन ने इसी को लेकर कहा कि जिस माहौल में इस तरह की घटनाएं हो सकती हैं, वहां ऐसे सिस्टम विकसित करने के लिए जगह नहीं होनी चाहिए।
एआई कंपनियों को न्यूक्लियर प्लांट की तरह काम करना चाहिए
बढ़ते एआई जोखिम को देखते हुए रॉबिन्सन ने फ्रंटियर एआई कंपनियों के लिए एक अलग तरह की कार्य संस्कृति की जरूरत बताई। उन्होंने कहा कि इन कंपनियों को न्यूक्लियर पावर प्लांट या व्यस्त एयरपोर्ट की तरह काम करना चाहिए। इसका मतलब है कि सिस्टम में कई स्तर की रिडंडेंसी होनी चाहिए और प्लानिंग सावधानीपूर्वक और समय लेकर की जानी चाहिए। उनका तर्क है कि इस तरह कभी-कभी होने वाली मानवीय गलती किसी बड़ी आपदा का कारण बनने से पहले ही रोकी जा सकेगी।
ओपनएआई में अनुभवी सुरक्षा विशेषज्ञों की कमी का दावा
रॉबिन्सन ने अपने ओपनएआई कार्यकाल का अनुभव साझा करते हुए कहा कि उन्होंने कंपनी में कभी ऐसे सहयोगी से मुलाकात नहीं की, जिसके पास हवाई जहाज सुरक्षित उड़ाने, न्यूक्लियर रिएक्टर को बिना पिघले चलाने या वित्तीय सिस्टम को बिना गिरे बढ़ाने जैसा अनुभव हो। उनका इशारा था कि बेहद शक्तिशाली और जटिल एआई सिस्टम के लिए ऐसी इंडस्ट्रीज से सुरक्षा संबंधी सीख ली जा सकती है, जहां छोटी गलती भी बड़े नुकसान का कारण बन सकती है।
कंपनी ने क्या कहा?
रॉबिन्सन के जवाब में ओपनएआई के प्रवक्ता ड्रयू पुसातेरी ने कहा कि कंपनी अपनी सेफ्टी मिसर्स में लगातार सुधार किए जा रहे हैं। उन्होंने कहा कि ओपनएआई यह सुनिश्चित करने पर काम कर रहा है कि उसके मॉडल उतने सक्षम न बनें, जितना उन्हें सुरक्षित तरीके से मैनेज और सिक्योर किया जा सके। जरूरत पड़ने पर कंपनी ट्रेनिंग रोकती है या मॉडल को होल्ड करती है।
कंपनी ने यह भी कहा कि वह अपने रिसर्च और टेस्टिंग एनवायरनमेंट की सिक्योरिटी मजबूत कर रही है। इसके अलावा मॉडल को सिर्फ काम पूरा करने के बजाय जिम्मेदारी से काम करने के लिए ट्रेन करने, थर्ड-पार्टी इवैल्यूएटर्स के साथ काम बढ़ाने और रियल-टाइम मॉनिटरिंग में सुधार पर भी काम किया जा रहा है। ओपनएआई के मुताबिक इसका उद्देश्य ट्रेनिंग प्रक्रिया के दौरान ही चिंताजनक व्यवहार को जल्दी पहचानना और उस पर प्रतिक्रिया देना है।
एआई अलाइंनमेंट पर भी उठाए बड़े सवाल
ओपनएआई की संस्कृति में बदलाव की मांग के अलावा रॉबिन्सन ने एआई अलाइंनमेंट से जुड़े बड़े सवालों पर भी ध्यान देने की बात कही। उनके मुताबिक यह मुद्दा कुछ लोगों को टची-फीली लग सकता है, लेकिन एआई सिस्टम के इंसानी मूल्यों से मेल खाने को मापने के लिए कंपनियों के मौजूदा तरीके काफी मोटे हैं। उन्होंने चेतावनी दी कि जब तक ये समस्याएं हल नहीं होतीं, एआई इंडस्ट्री जितना ज्यादा अपने मॉडल को स्मार्ट बनाएगी, स्थिति उतनी ही खतरनाक होती जाएगी।
बाहरी दबाव को बताया सेफ्टी सुधार का रास्ता
रॉबिन्सन के मुताबिक इसी अनुभव के बाद वह इस नतीजे पर पहुंचे कि सेफ्टी को बेहतर बनाने के लिए मजबूत प्रोत्साहन की जरूरत है, और इनमें कंपनी के बाहर से आने वाला दबाव महत्वपूर्ण भूमिका निभा सकता है।
उनका मानना है कि एआई सिस्टम की क्षमता बढ़ने के साथ केवल अंदरूनी गार्डरेल्स और प्रक्रियाओं पर निर्भर रहना पर्याप्त नहीं हो सकता। कंपनियों को अपनी कार्य संस्कृति, सुरक्षा व्यवस्था और एआई अलाइंनमेंट के तरीकों पर भी गंभीरता से दोबारा विचार करना होगा।