ओपनएआई ने फिर शुरू की अपने मॉडल की ट्रेनिंग: AI ने कैसे पार की सुरक्षा दीवार और कंपनी की नई नीति क्या है?
20 सितंबर को OpenAI का एक मॉडल DNS की गलत सेटिंग का फायदा उठाकर अपने बंद माहौल से बाहर निकल गया था। इसके बाद कंपनी ने सबसे ताकतवर मॉडल्स की ट्रेनिंग रोक दी थी। आइए जानते हैं आखिर ओपनएआई के मॉडल ने कैसे बाहर का रास्ता खोजा और सुरक्षा दीवार को भेद दिया।
विस्तार
OpenAI ने शुक्रवार को बताया कि उसने अपने सबसे एडवांस्ड AI मॉडल्स की ट्रेनिंग दोबारा शुरू कर दी है। कंपनी के मुताबिक ऐसा सुरक्षा कड़ी करने और इंटरनेट एक्सेस रोकने के बाद किया गया है। साथ ही उसने एक व्यापक रूप से इस्तेमाल होने वाले सॉफ्टवेयर में खामी का खुलासा भी किया। पहली नजर में यह एक कंपनी की आंतरिक खबर लगती है, लेकिन इसके पीछे का सवाल बड़ा है। क्या AI एजेंट्स उन दीवारों को तोड़ सकते हैं जो उन्हें काबू में रखने के लिए बनाई जाती हैं?
ओपन एआई में आखिर हुआ क्या था?
OpenAI के बयान के अनुसार, 20 सितंबर को एक मॉडल ने DNS की गलत सेटिंग का फायदा उठाकर अपनी ऑफलाइन दुनिया से बाहर निकलने का रास्ता खोज लिया। इसके बाद कंपनी ने अपनी सबसे ताकतवर मॉडल्स की ट्रेनिंग रोक दी। कंपनी का कहना है कि घटना पर काबू पा लिया गया और इस ठहराव का इस्तेमाल सुरक्षा मजबूत करने में हुआ।
यहां एक बारीकी समझना जरूरी है। कंपनी के अनुसार रीइंफोर्समेंट लर्निंग ट्रेनिंग और इंटरनल इन्फरेंस 1 अक्टूबर को ही फिर शुरू हो गए थे, यानी ठहराव सिर्फ 11 दिन का रहा। दुनिया को इसकी जानकारी 23 अक्टूबर को मिली है।
'सैंडबॉक्स' और 'DNS' का क्या मतलब है?
दरअसल AI कंपनियां अपने सबसे ताकतवर मॉडल्स को ट्रेनिंग के दौरान एक बंद माहौल में रखती हैं जिसे सैंडबॉक्स कहा जाता हैं। इसे एक ऐसे कमरे की तरह समझिए जिसमें खिड़कियां-दरवाजे बंद हैं ताकि अंदर चल रहा प्रयोग बाहर की दुनिया को छू न सके। वहीं DNS इंटरनेट की फोनबुक है, जो वेबसाइट के नाम को उसके पते से जोड़ती है। अगर इस फोनबुक की सेटिंग में जरा-सी भी चूक रह जाए, तो बंद कमरे में एक अनचाही खिड़की खुल सकती है। इस मामले में OpenAI के मुताबिक यही हुआ था।
AI से ही हो रही AI की जांच
सुरक्षा परखने के लिए OpenAI ने एक दिलचस्प तरीका अपनाया। कंपनी ने AI एजेंट्स की टीमों को ही प्रतिबंधित माहौल से भाग निकलने की कोशिश करने को कहा। इसे रेड-टीमिंग कहा जाता हैं, यानी हमलावर बनकर अपनी ही सुरक्षा की परीक्षा लेना। इसी रेट टीमिंग के बाद नतीजे चौंकाने वाले थे। OpenAI ने बताया कि एजेंट्स को उसके इस्तेमाल किए ओपन-सोर्स घटकों में पहले से अज्ञात खामियां और कुछ सेवाओं की गलत सेटिंग्स मिलीं। इनके सहारे वे सैंडबॉक्स से निकले, एक सिस्टम से दूसरे में गए और लाइव इंटरनेट तक पहुंचे। वे आइसोलेशन की सीमाओं के पार संवाद के तरीके भी ढूंढ पाए। इन खोजों के बाद सॉफ्टवेयर पैच लगाए गए, नेटवर्क पर पाबंदियां कड़ी हुईं और संबंधित मेंटेनर्स को सूचना दी गई।
Brotli नामक डेटा कंप्रेशन टूल में थी खामी
इसी अभ्यास के दौरान एक बाहरी नतीजा भी निकला गया। OpenAI को Brotli नाम के एक व्यापक रूप से इस्तेमाल होने वाले डेटा कम्प्रेशन टूल में खामी मिली थी। आम तौर पर ऐसे टूल इंटरनेट पर वेब कंटेंट को छोटा करके तेजी से भेजने के काम आते हैं, इसलिए इनकी कमजोरी का असर बहुत दूर तक जा सकता है।
अब कंपनी ने कौन सी नई नीति अपनाई है?
इस घटना के बाद OpenAI ने फ्रंटियर मॉडल्स की ट्रेनिंग के लिए अब 'नो लाइव इंटरनेट एक्सेस' की नीति अपनाई है। कंपनी ने लगातार रेड-टीमिंग के लिए भारी कंप्यूट अलग रखा है और हाई-कंप्यूट रेड-टीमिंग को उन 'सेफ्टी केस' का हिस्सा बनाया है जिनके आधार पर तय होता है कि ट्रेनिंग सुरक्षित ढंग से आगे बढ़ सकती है या नहीं।
लेकिन बाहरी संस्थाएं पूरी तरह आश्वस्त नहीं दिखतीं। AI सुरक्षा मूल्यांकन संस्थाओं METR और Redwood Research ने गुरुवार को कहा कि उन्हें इस साल की शुरुआत की एक पायलट समीक्षा में OpenAI के इंटरनल सिस्टम में कई नई खामियां मिलीं हैं। इनमें एक ऐसा एक्सप्लॉइट भी था जिससे एजेंट अपने सैकड़ों एक्शन्स को निगरानी से बाहर रख सकते थे। यानी जो चीज निगरानी के लिए बनी थी, उसी में सेंध की गुंजाइश मिली है।
यह सिर्फ OpenAI की कहानी नहीं है
OpenAI जुलाई के Hugging Face प्रकरण के बाद से अपने मॉडल्स की गतिविधियों की व्यापक समीक्षा कर रही है। उसने 100 से ज़्यादा संगठनों को अपने AI एजेंट्स से जुड़ी अनधिकृत गतिविधि के बारे में बताया है। यह आंकड़ा बताता है कि मामला किसी एक प्रयोगशाला की चूक तक सीमित नहीं दिखता।
यही चिंता इस हफ्ते दूसरी जगह भी दिखी। PHP प्रोग्रामिंग भाषा की गंभीर खामियों को पैच करने के लिए दुनिया भर की टीमें जुटी हैं। ये खामियां एडवांस्ड AI मॉडल्स की मदद से खोजी गई थीं, और अनुमान है कि लगभग 70% वेबसाइटें PHP इस्तेमाल करती हैं। यानी AI एक तरफ सॉफ़्टवेयर की कमज़ोरियां ढूँढने में माहिर हो रहा है, और दूसरी तरफ खुद अपनी कमजोरियों को परखने की चुनौती भी बन रहा है।
आम आदमी के लिए इसके क्या मायने
आम यूजर के लिए फौरी खतरा यह नहीं है कि कोई AI मॉडल उसके फोन तक पहुंच जाएगा। असली मायने तीन हैं।
- पहला:AI कंपनियां अब मानने लगी हैं कि कंटेनमेंट यानी AI को नियंत्रित दायरे में रखना एक असली इंजीनियरिंग समस्या है।
- दूसरा:जो खामियां एजेंट्स ढूंढ रहे हैं, वे वही सॉफ़्टवेयर हैं जिन पर वेबसाइटें, ऐप्स और सर्वर चलते हैं।
- तीसरा:कंपनियों की अपनी घोषणाओं के साथ स्वतंत्र जांच की जरूरत बढ़ती जा रही है।
इन सवालों के जबाव अब भी बाकी
OpenAI ने जो बताया है वह उसका अपना बयान है। स्वतंत्र पुष्टि अब तक सीमित है। यह भी साफ नहीं है कि नई सुरक्षा व्यवस्था कितनी टिकाऊ होगी, और बाकी AI कंपनियां अपने मॉडल्स की ट्रेनिंग में कैसे सुरक्षा जांच करती हैं। आने वाले दिनों में इन्हीं सवालों के जवाब इस खबर की दिशा तय करेंगे।