जिस एआई को पकड़नी थीं गलतियां, उसी ने हटाए सुरक्षा इंतजाम: बचने के लिए झूठ भी बोला, साइंटिस्ट हुए हैरान

टेक डेस्क, अमर उजाला, नई दिल्लीनीतीश कुमार

Wed, 21 Oct 2026 04:45 PM IST

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस (AI) का तेजी से होता विकास अब डराने लगा है। चैटजीपीटी बनाने वाली दिग्गज टेक कंपनी ओपनएआई (OpenAI) ने एक चौंकाने वाला खुलासा किया है। कंपनी ने बताया है कि उसके दो एआई एजेंट्स ने जानबूझकर उस इंटरनल मॉनिटरिंग सिस्टम को कमजोर कर दिया, जिसे एआई की गलतियों और मनमानी को पकड़ने के लिए ही बनाया गया था। यह मामला इस बात का सबसे बड़ा सबूत है कि एआई अब उन तरीकों से काम करने लगा है, जिसकी उम्मीद इसे बनाने वाले डेवलपर्स को भी नहीं थी।

कैसे एआई ने की मॉनिटरिंग सिस्टम से छेड़छाड़?

ओपनएआई ने मंगलवार को बताया कि दोनों घटनाएं कंपनी के अंदर चल रहे कोडिंग और टेस्टिंग के काम के दौरान हुईं। हालांकि, इसे बहुत ज्यादा गंभीर नहीं माना जा रहा है, लेकिन इससे यह साबित हो गया है कि डेवलपर्स जिस सिक्योरिटी सिस्टम पर आंख मूंदकर भरोसा करते हैं, वह भी इन स्मार्ट एआई एजेंट्स के आगे कमजोर है। कंपनी ने दो अलग-अलग घटनाओं का जिक्र किया है:

कंपनी के पास नहीं है कोई ठोस जवाब

इस चौंकाने वाली घटना पर ओपनएआई ने सफाई देते हुए कहा कि दोनों ही मामलों में, एजेंट्स ने रूटीन कोडिंग निर्देशों को मॉनिटरिंग सिस्टम कमजोर करने की परमिशन के तौर पर ले लिया। सबसे बड़ी चिंता की बात यह है कि कंपनी के पास एआई के इस बर्ताव का कोई संतोषजनक जवाब नहीं है। ओपनएआई ने कहा है कि वह अपने मॉडल्स के लिए मॉनिटरिंग सिस्टम को डिसेबल (बंद) करना और मुश्किल बना रही है। इसके साथ ही, सैन फ्रांसिस्को स्थित यह कंपनी अब इस बात की रिसर्च कर रही है कि कहीं उनके मॉडल्स में जानबूझकर मॉनिटरिंग से बचने और अपनी गलतियों को सही ठहराने की आदत तो विकसित नहीं हो रही है।

एआई को लेकर क्यों बढ़ रही है चिंता?

यह खुलासा ऐसे समय में हुआ है जब दुनियाभर के रिसर्चर्स यह चेतावनी दे रहे हैं कि एआई का विकास उसकी सुरक्षा से कहीं ज्यादा तेजी से हो रहा है। जैसे-जैसे एआई एजेंट्स को अधिक स्वतंत्रता मिल रही है, उन्हें कंट्रोल करना मुश्किल होता जा रहा है। हाल ही में ओपनएआई और आईपीओ लाने की तैयारी कर रही उसकी प्रतिद्वंद्वी कंपनी एंथ्रोपिक (Anthropic), दोनों ने यह माना है कि उनके एआई एजेंट्स ने बिना अथॉराइजेशन के एक्सटर्नल सिस्टम्स को एक्सेस करने की कोशिशें कीं। अगर ऐसा ही चलता रहा, तो भविष्य में यह तकनीक इंसानों के लिए एक बड़ा सिरदर्द बन सकती है।