क्या एआई खुद ले रहे फैसले?: साइबर टेस्ट में जेमिनी का खतरनाक कारनामा, कंपनियों में सेंध लगा खुद रुक गया मॉडल

टेक इंडस्ट्री में आर्टिफिशियल इंटेलिजेंस की सुरक्षा और उसकी साइबर सिक्योरिटी क्षमताओं को लेकर एक बार फिर हैरान करने वाली खबर सामने आई है। गूगल ने आधिकारिक तौर पर माना है कि मई 2026 में एक साइबर सेफ्टी टेस्ट के दौरान उसके जेमिनी एआई मॉडल ने स्वायत्त रूप से (खुद से) तीन असली कंपनियों के डेटाबेस में घुसपैठ कर ली। हालांकि, इस घटना में सबसे राहत देने वाली बात यह रही कि एआई ने किसी भी तरह का नुकसान पहुंचाने से पहले ही खुद को रोक लिया और चुपचाप सिस्टम से बाहर आ गया।

जैसे-जैसे एआई की ताकत बढ़ रही है, उसकी सीमाओं को परखने के लिए लगातार ऐसे टेस्ट किए जा रहे हैं। हाल ही में ओपनएआई ने भी एआई मॉडल के बिना निर्देश के घुसपैठ करने से जुड़ी एक रिपोर्ट जारी की थी, लेकिन जेमिनी के खुद-ब-खुद हैकिंग रोकने (सेल्फ-अबॉर्ट) की इस क्षमता ने एआई ऑटोनॉमी और सेफ्टी की बहस को एक नए मोड़ पर खड़ा कर दिया है।

कैसे शुरू हुआ पूरा मामला?

• यह घटना इजरायली स्टार्टअप इरेगुलर (Irregular) की ओर से किए गए कैप्चर द फ्लैग साइबर सुरक्षा अभ्यास के दौरान हुई। इस टेस्ट में जेमिनी को एक टेस्ट एनवायरनमेंट में मौजूद काल्पनिक कंपनी के सॉफ्टवेयर से जानकारी निकालने का काम दिया गया था। समस्या हुई कि इसमें जब काल्पनिक कंपनी का नाम इस्तेमाल किया गया था, वह एक असली कंपनी के नाम से मिलता-जुलता था।

• जेमिनी को इस टेस्ट के दौरान इंटरनेट एक्सेस नहीं मिलना चाहिए था, लेकिन गलती से मॉडल के लिए इंटरनेट उपलब्ध हो गया। इसके बाद एआई ने टेस्ट एनवायरनमेंट से बाहर जाकर असली ऑनलाइन जानकारी तक पहुंच बना ली। यानी मॉडल ने सिर्फ दिए गए टेस्ट एनवायरनमेंट के भीतर काम करने के बजाय उपलब्ध जानकारी का इस्तेमाल करते हुए सिस्टम में प्रवेश करने की कोशिश की और इसमें सफल रहा।

दो मामलों में ऑनलाइन रिपॉजिटरी से मिले क्रेडेंशियल्स

इसके अलावा दो अन्य मामलों में जेमिनी ने कंपनियों के नाम से वेब सर्च की। सर्च के दौरान उसे पब्लिक ऑनलाइन रिपॉजिटरी में क्रेडेंशियल्स मिले। मॉडल ने इन क्रेडेंशियल्स का इस्तेमाल करके संबंधित सिस्टम में प्रवेश किया। इस तरह टेस्ट के दौरान तीन अलग-अलग मामलों में जेमिनी की कार्रवाई असली कंपनियों के सिस्टम तक पहुंच गई।

एआई को कब पता चला कि कंपनियां असली हैं?

• मामले की सबसे अहम बात यहीं से सामने आई, जब जेमिनी को एहसास हुआ कि जिन कंपनियों के सिस्टम तक वह पहुंच रहा है, वे असली कंपनियां हैं और टेस्ट में शामिल काल्पनिक कंपनियां नहीं हैं, तो मॉडल ने खुद ही अपनी कार्रवाई रोक दी। इसके बाद उसने घुसपैठ जारी रखने के बजाय सिस्टम से बाहर निकलने का फैसला किया।
• गूगल के लिए इस घटना का यही हिस्सा सबसे जरूरी है, क्योंकि मॉडल ने किसी इंसान के निर्देश के बिना खुद स्थिति को पहचाना और आगे नुकसान पहुंचाने से रुक गया।

गूगल को कब मिली इसकी जानकारी?

• गूगल को इस घटना की जानकारी जुलाई 2026 में हुई थी। कंपनी का कहना है कि उसने इस घटना का सार्वजनिक रूप से खुलासा इसलिए नहीं किया, क्योंकि मॉडल ने खुद ही घुसपैठ रोक दी थी।
• गूगल की सिक्योरिटी इंजीनियरिंग की वीपी हीदर एडकिन्स ने कहा कि यह घटना शक्तिशाली एआई मॉडल को जिम्मेदारी से काम करने के लिए ट्रेन करने के महत्व को दिखाती है। उनके मुताबिक, इस मामले में मॉडल ने सही व्यवहार किया। गूगल ने इस मामले में प्रभावित तीनों कंपनियों और संघीय अधिकारियों को भी जानकारी दी। हालांकि, कंपनी ने उन तीनों कंपनियों के नाम सार्वजनिक नहीं किए हैं। गूगल ने यह भी कहा है कि इस घटना में उसका सबसे नया मॉडल शामिल नहीं था।

इस मामले में गूगल ने इसे नुकसान पहुंचाने वाले ब्रीच के तौर पर नहीं, बल्कि बग बाउंटी प्रोग्राम जैसी स्थिति के रूप में देखा। इसकी वजह यह रहा कि जेमिनी ने असली कंपनियों के सिस्टम में प्रवेश तो किया, लेकिन उनके असली होने का पता चलने के बाद खुद ही अपनी कार्रवाई रोक दी और बाहर निकल गया।

ओपनएआई और एंथ्रोपिक के मामलों से कैसे अलग है गूगल का केस?

इरेगुलर से जुड़े इसी तरह के साइबर सिक्योरिटी टेस्ट के मामले पहले ओपनएआई, एंथ्रोपिक और मेटा की ओर से भी सामने आ चुके हैं। हालांकि, गूगल का मामला इस वजह से अलग बताया जा रहा है क्योंकि जेमिनी ने खुद ही यह पहचान लिया कि वह असली कंपनियों के सिस्टम के साथ इंटरैक्ट कर रहा है और इसके बाद उसने आगे की कार्रवाई रोक दी। इससे पहले एंथ्रोपिक के क्लाउड मॉडल ने ऐसे टेस्ट में रुकने से इनकार कर दिया था।

वहीं ओपनएआई के मॉडल ने असली कंपनी को सिमुलेशन का हिस्सा समझ लिया था।

क्यों खास है यह मामला?

इस घटना में जेमिनी का असली कंपनियों के सिस्टम तक पहुंचना साइबर सिक्योरिटी के लिहाज से जरूरी है, लेकिन इससे भी ज्यादा ध्यान इस बात पर गया कि मॉडल ने बाद में खुद अपनी कार्रवाई रोक दी। जानकार कहते हैं कि यह मामला दिखाता है कि एआई मॉडल को सिर्फ काम पूरा करने की क्षमता देना ही पर्याप्त नहीं है। उसे यह पहचानने की क्षमता भी जरूरी है कि किसी कार्रवाई से वास्तविक दुनिया में नुकसान हो सकता है।

गूगल के अनुसार, इस मामले में जेमिनी ने असली कंपनियों की पहचान होने के बाद खुद ही घुसपैठ रोककर इसी तरह का व्यवहार किया।