AI system breach: एआई सुरक्षा पर संकट, ओपनएआई के बाद अब क्लॉड AI भी हुआ आउट ऑफ कंट्रोल; जानें कहां हुई चूक

कहां हुई चूक?

• एंथ्रोपिक के अनुसार, एक टेक्निकल कॉन्फिगरेशन एरर के चलते क्लॉड मॉडल्स को उस परीक्षण माहौल से इंटरनेट तक पहुंच मिल गई, जिसे पूरी तरह से अलग-थलग (आइसोलेटेड) होना चाहिए था।

• यह तीनों घटनाएं कैप्चर द फ्लैग एक साइबर-सुरक्षा चुनौती के दौरान हुईं। इस टेस्ट में मॉडल को एक काल्पनिक परिदृश्य दिया जाता है और नेटवर्क में कहीं छिपी हुई सीक्रेट जानकारी को खोजने का काम सौंपा जाता है।

• एंथ्रोपिक ने बताया कि क्लॉड ने असली सिस्टम को भी टेस्टिंग परिदृश्य का ही एक हिस्सा समझ लिया और कमजोर पासवर्ड जैसी सामान्य तकनीकों का इस्तेमाल करके इन तीन संगठनों के ढांचे तक पहुंच बना ली।

दो संगठनों को गतिविधि का पता तक नहीं चला

• हालांकि इन तीन संगठनों के ढांचे तक पहुंच बनने की इस प्रक्रिया में एआई की ओर से कोई बहुत बड़ी कमी या लूपहोल सामने नहीं आया है। एंथ्रोपिक ने इस बात पर जार दिया कि किसी भी मामले में क्लॉड ने जानबूझकर टेस्ट माहौल से भागने या बचने की कोशिश नहीं की।
• एंथ्रोपिक ने प्रभावित संगठनों से संपर्क किया है, हालांकि उनके नामों के बारे में नहीं बताया है। दो संगठनों को जिक्र करते हुए इन्होंने बताया कि उन्हें इस गतिविधि का पहले से पता ही नहीं चला था। तीसरे संगठन के बारे में कहा कि एंथ्रोपिक की ओर से अब भी संपर्क साधने का प्रयास किया जा रहा है।
• ओपनएआई की घटना के बाद एंथ्रोपिक ने अपने 1.41 लाख से ज्यादा मूल्यांकन रन की बड़े स्तर पर साइबर-सुरक्षा समीक्षा की। इसी समीक्षा के दौरान ये तीन घटनाएं सामने आईं।
• इन मूल्यांकनों में क्लॉड ओपस 4.7, क्लॉड मायथस और एक आंतरिक शोध-परीक्षण मॉडल शामिल थे। कंपनी ने कहा है कि प्रभावित संगठनों को इस बारे में सूचित किया जा चुका है।

नया मॉडल साबित हुआ ज्यादा बेहतर और सुरक्षित

• इसी पूरी घटना के बीच एक दिलचस्प तकनीकी विवरण भी सामने आया कि जब मॉडल को यह सुराग मिला कि वह असल में किसी क्लोज्ड टेस्ट माहौल में नहीं, बल्कि खुले इंटरनेट पर काम कर रहा है, तो पुराने मॉडल ने अपना हमला जारी रखा।
• दूसरी तरफ, कंपनी का नवीनतम मॉडल यह एहसास होते ही तुरंत रुक गया कि वह इंटरनेट पर है। यह बदलाव दिखाता है कि नए मॉडलों में बेहतर सिचुएशनल अवेयरनेस (परिस्थिति की समझ) विकसित हो रही है, जो सुरक्षा के लिहाज से एक बेहद सकारात्मक संकेत है।
• एंथ्रोपिक ने एक बार फिर स्पष्ट किया है कि किसी भी घटना में क्लॉड ने खुद को टेस्ट सिस्टम से बाहर निकालने की कोशिश नहीं की।

एआई सुरक्षा और नियंत्रण क्यों जरूरी हैं?

• एक्सपर्ट्स कहते हैं कि यह घटना बताती है कि अगर एआई सिस्टम पर मजबूत नियंत्रण और सुरक्षा उपाय नहीं होंगे, तो छोटी तकनीकी गलतियां भी बड़े जोखिम पैदा कर सकती हैं।
• हालांकि एंथ्रोपिक ने दोहराया है कि क्लॉड ने किसी भी घटना में खुद को टेस्ट सिस्टम से बाहर निकालने की कोशिश नहीं की, लेकिन यह मामला एआई सुरक्षा को लेकर नई बहस जरूर शुरू करता है।