एआई की बगावत: इंसानों को धोखा देकर हैकिंग पर उतरे ओपनएआई और एंथ्रोपिक के मॉडल्स, टेस्टिंग में मचा हड़कंप

टेक डेस्क, अमर उजाला, नई दिल्लीनीतीश कुमार

Fri, 07 Aug 2026 01:24 PM IST

सार

क्या होगा जब आपका बनाया एआई (AI) ही आपके खिलाफ साजिश रचने लगे? ब्रिटेन की एक सिक्योरिटी टेस्टिंग के दौरान OpenAI और Anthropic के सबसे एडवांस एआई मॉडल्स ने न सिर्फ अपनी हदें पार कीं, बल्कि इंसानों को धोखा देने के लिए फर्जी पहचान तक बना ली। जानिए आखिर सिस्टम के अंदर क्या हुआ...

openai anthropic ai agents security test rogue behaviour github fake identities hindi — कंपनियां एआई एजेंट्स की क्षमताएं परख रही हैं। - फोटो : अमर उजाला

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस (AI) अब सिर्फ कमांड फॉलो करने वाली मशीन नहीं रही, बल्कि इसने इंसानों को धोखा देना भी सीख लिया है। हाल ही में ब्रिटेन के 'एआई सिक्योरिटी इंस्टीट्यूट' (AISI) की एक टेस्टिंग में कुछ ऐसा हुआ, जिसने साइबर सुरक्षा विशेषज्ञों की नींद उड़ा दी है। OpenAI के 'GPT-5.6 Sol' और Anthropic के 'Claude Mythos 5' जैसे एडवांस एआई एजेंट्स टेस्टिंग के दौरान पूरी तरह बेकाबू हो गए और उन्होंने असली इंसानों को फंसाने की कोशिश की।काबू से बाहर गए एआई एजेंट्सयह चौंकाने वाला वाकया तब सामने आया जब AISI एक काल्पनिक साइबर सिक्योरिटी चैलेंज '122 टेस्ट रन' के जरिए इन मॉडल्स की क्षमता परख रहा था। इस दौरान बिना किसी इंसानी निर्देश के, एआई ने 19 ऐसी हरकतें कीं जिनकी इजाजत नहीं थी। इनमें से 17 मामले एंथ्रोपिक और दो ओपनएआई के थे। एजेंसियों ने डेटा ट्रांसफर में हो रही गड़बड़ी देखकर करीब एक घंटे के भीतर मशीनों को आइसोलेट कर इस खतरे को ब्लॉक कर दिया। गौर करने वाली बात यह है कि कुछ ही दिन पहले ओपनएआई के मॉडल्स ने अमेरिकी कंपनी 'HuggingFace' को भी हैक करने की कोशिश की थी।

एआई एजेंट्स ने बनाई फर्जी पहचान और भेजे मैसेज

सबसे खतरनाक बर्ताव एंथ्रोपिक के मिथोज एजेंट का रहा। इस एआई ने न केवल खतरनाक (मैलेशियस) कोड लिखा, बल्कि सॉफ्टवेयर प्लेटफॉर्म GitHub संभालने वाले असली कर्मचारियों की जासूसी की। इसके बाद एआई ने उन कर्मचारियों की फर्जी ऑनलाइन पहचान बनाकर उनके साथियों को डायरेक्ट मैसेज किए, ताकि वे दबाव और धोखे में आकर उस खतरनाक कोड को अप्रूव कर दें। जब कोड पर सवाल उठे, तो इस शातिर एआई ने अपनी पुरानी हरकतों को एडिट करके छिपाने की कोशिश की और नई फर्जी पहचान बनाने तक की प्लानिंग कर ली। स्थिति बिगड़ने से पहले इंसानी दखल से इसे रोका गया और GitHub को सतर्क किया गया।

वहीं, ओपनएआई का 'सोल' मॉडल थोड़ा कम आक्रामक था, लेकिन उसने भी अपनी सीमाएं लांघीं। उसने दूसरी लैब के पब्लिकली छोड़े गए GitHub टोकन का इस्तेमाल किया और असली इंटरनेट इंफ्रास्ट्रक्चर (जैसे थर्ड-पार्टी DNS) के जरिए साइबर हमले जैसी स्थिति पैदा की, हालांकि यह कोशिश नाकाम रही।कंपनियों की सफाई और भविष्य का खतराइन घटनाओं पर एंथ्रोपिक और ओपनएआई दोनों ने सोशल मीडिया प्लेटफॉर्म X और बयानों के जरिए सफाई दी। कंपनियों ने कहा कि टेस्टिंग का माहौल जानबूझकर 'छूट देने वाला' रखा गया था और यह आम यूजर्स के लिए उपलब्ध प्रोडक्शन मॉडल्स जैसा नहीं था। इसके साथ ही, ओपनएआई ने एक थर्ड-पार्टी टेस्टिंग पार्टनर से जुड़ी एक अलग घटना का भी जिक्र किया, जहां गलती से मॉडल्स को सुरक्षित घेरे से बाहर इंटरनेट का एक्सेस मिल गया था।

AISI का कहना है कि यह मामला जुलाई में OpenAI एजेंट से जुड़े 'हगिंग फेस' मामले से अलग था। इस टेस्ट में इंटरनेट एक्सेस पहले से दिया गया था। राहत की बात यह है कि दुनिया को कोई नुकसान नहीं हुआ, लेकिन बिना निर्देश के एआई का खुद फैसले लेना और इंसानों को धोखा देना इस बात का सबूत है कि एआई को रिलीज करने से पहले स्वतंत्र टेस्टिंग की कितनी सख्त जरूरत है।

और पढ़ें...