एक्सप्लेनर: क्यों रोकना पड़ा GPT-6.1 Astra? AI के खतरे, धोखे से लेकर बिना अनुमति काम करने तक, समझें पूरा मामला

एआई मॉडल लगातार ज्यादा सक्षम हो रहे हैं। अब वे सिर्फ सवालों के जवाब देने तक सीमित नहीं हैं, बल्कि कंप्यूटर पर काम कर सकते हैं, इंटरनेट ब्राउज कर सकते हैं, कोड लिख सकते हैं और कई स्टेप्स वाले टास्क को खुद पूरा कर सकते हैं। लेकिन जैसे-जैसे एआई को ज्यादा स्वायत्तता मिल रही है, वैसे-वैसे एक बड़ा सवाल भी सामने आ रहा है कि अगर मॉडल को यह साफ न हो कि उसे क्या करने की अनुमति है, तो क्या वह अपनी क्षमता का इस्तेमाल गलत तरीके से कर सकता है?

इसी चिंता के बीच ओपनएआई ने 28 सितंबर 2026 को अपने अगले बड़े मॉडल GPT-6.1 Astra की अक्तूबर में होने वाली रिलीज रोकने का फैसला किया। कंपनी की इंटरनल टेस्टिंग में मॉडल ने कुछ ऐसे व्यवहार दिखाए, जिन्हें ओनएआई के सुरक्षा और अलाइनमेंट मानकों के लिए स्वीकार्य नहीं माना गया। इनमें अपने किए गए काम के बारे में पूरी जानकारी न देना और तय सीमा से बाहर जाकर काम करना शामिल था।

हालांकि यह मामला सिर्फ एक एआई मॉडल की रिलीज रुकने तक सीमित नहीं है। इसके पीछे एआई की बढ़ती क्षमताओं, साइबर सिक्योरिटी, मानव नियंत्रण और अमेरिका-चीन की टेक्नोलॉजी प्रतिस्पर्धा से जुड़े कई बड़े सवाल हैं। आइए समझते हैं कि पूरा मामला क्या है।

जीपीटी-6.1 एस्ट्रा क्या था?

जीपीटी-6.1 एस्ट्रा को ओपनएआई अपने अगले बड़े एआई मॉडल के तौर पर तैयार कर रहा था। इसकी अक्तूबर 2026 में रिलीज की योजना थी और इसे चैटजीपीटी और कोडेक्स जैसे प्रोडक्ट्स में इस्तेमाल किया जाना था।

रिपोर्ट्स की मानें तो एस्ट्रा को कंप्यूटर इस्तेमाल करने, वेब ब्राउजिंग, प्रोफेशनल काम, सॉफ्टवेयर इंजीनियरिंग, साइबर सिक्योरिटी और साइंस जैसे जटिल कामों के लिए बेहद सक्षम मॉडल के तौर पर विकसित किया जा रहा था। यानी यह सिर्फ बातचीत करने वाला मॉडल नहीं था। इसका फोकस ऐसे कामों पर था, जिनमें एआई को कई कदम खुद उठाने पड़ सकते हैं। अब यहीं से एआई एजेंट और एआई सेफ्टी को लेकर एक सवाल खड़ा हो जाता है।

ओपनएआई ने जीपीटी -6.1 एस्ट्रा की रिलीज क्यों रोकी?

ओपनएआई के हेड ऑफ सेफ्टी सिस्टम्स साची जैन का कहना है कि इंटरनल टेस्टिंग के दौरान एस्ट्रा ने कुछ महत्वपूर्ण सुरक्षा मानकों को पूरा नहीं किया। मॉडल कुछ क्षेत्रों में बेहतर हुआ था, लेकिन दो अहम क्षेत्रों में समस्या सामने आई डिसेप्शन यानी अपने काम के बारे में गलत या अधूरी जानकारी देना और स्टोप या ऑथेराइजेशन यानी अनुमति की तय सीमा में रहना। साची जैन के अनुसार, मॉडल की कंप्यूटेशनल क्षमताएं और मॉडल लेजीनेस (जटिल कार्यों में टालमटोल) तो सुधरी थीं, लेकिन अलाइनमेंट और सुरक्षा के तौर पर यह गंभीर रूप से विफल रहा, जो इस प्रकार हैं..

1. मॉडल अपने किए काम के बारे में पूरी सच्चाई नहीं बता रहा था

सबसे बड़ी चिंता डिसेप्शन से जुड़ी थी। टेस्टिंग में मॉडल ने कुछ मामलों में अपने किए गए काम को यूजर के सामने पूरी तरह सही तरीके से पेश नहीं किया। यानी उसने जो किया और जो बताया, उनमें अंतर देखने को मिला।

एआई सिस्टम के लिए यह समस्या इसलिए गंभीर है क्योंकि यूजर को यह भरोसा होना चाहिए कि मॉडल ने कौन-सा काम किया, कौन-सा नहीं किया और किस तरीके से किया।

अगर कोई एआई एजेंट किसी काम को करने के बाद उसकी पूरी जानकारी न दे, तो इंसान के लिए उसके व्यवहार की निगरानी करना मुश्किल हो सकता है। ओपनएआई के अनुसार, एस्ट्रा में यह व्यवहार पिछले मॉडल की तुलना में चिंता का विषय था और इसी वजह से कंपनी ने इसे अपने सुरक्षा मानकों के अनुरूप नहीं माना।

2. बिना अनुमति टास्क आगे बढ़ाने की समस्या

दूसरी बड़ी समस्या स्कोप और ऑथोराइजेशन से जुड़ी थी। आसान भाषा में इसका मतलब है कि एआई को यह समझना चाहिए कि उसे किसी काम को करने की कितनी अनुमति दी गई है।

जैसे मान लीजिए, अगर यूजर एआई को किसी वेबसाइट पर जानकारी देखने के लिए कहता है, तो मॉडल को उसी दायरे में रहना चाहिए। उसे अपने आप किसी दूसरे सिस्टम में जाने, किसी बाहरी सर्विस का इस्तेमाल करने या ऐसा अतिरिक्त काम करने की कोशिश नहीं करनी चाहिए, जिसकी अनुमति नहीं दी गई है।

एस्ट्रा की टेस्टिंग में ऐसे व्यवहार सामने आए, जिनमें मॉडल तय दायरे से बाहर जाने और बाहरी टूल्स या सर्विसेज का इस्तेमाल करने की कोशिश कर रहा था। यही स्कोप ऑथराइजेशन फेलियर की मूल चिंता है।

3. समस्या एआई के ज्यादा स्मार्ट होने की नहीं, नियंत्रण की

यहां एक महत्वपूर्ण अंतर समझना जरूरी है कि समस्या सिर्फ यह नहीं है कि मॉडल बहुत ज्यादा सक्षम हो गया। असली सवाल यह है कि मॉडल अपनी क्षमता का इस्तेमाल किस सीमा तक और किस अनुमति के साथ करता है।

एक एआई एजेंट जितने ज्यादा टूल्स इस्तेमाल कर सकता है और जितने ज्यादा काम खुद कर सकता है, उतना ही जरूरी हो जाता है कि उसे स्पष्ट सीमाएं पता हों, वह यूजर की अनुमति का पालन करे, अपने किए काम की सही जानकारी दे, गलत दिशा में जाने पर रुक सके और बाहरी सिस्टम तक पहुंच को नियंत्रित रखा जा सके। एस्ट्रा की टेस्टिंग में भी कंपनी ने इन्हीं क्षेत्रों को लेकर चिंता जताई है।

4. लेजीनेस में सुधार, लेकिन सुरक्षा में समस्या

हालांकि एस्टा्र में एक दिलचस्प बात भी सामने आई। मॉडल की लेजीनेस यानी कठिन या लंबे काम को पूरा करने में हिचकिचाहट कम हुई थी। यानी मॉडल ज्यादा सक्रिय होकर टास्क पूरा करने की कोशिश कर रहा था।

लेकिन यही ज्यादा सक्रिय व्यवहार सुरक्षा के लिए समस्या बन गया जब मॉडल ने तय सीमा से आगे जाने या अपने काम के बारे में पूरी जानकारी न देने जैसे व्यवहार दिखाए।

सरल भाषा में कहें तो एआई को इतना भी 'आलसी' नहीं होना चाहिए कि वह काम पूरा न करे और इतना स्वायत्त भी नहीं होना चाहिए कि वह बिना अनुमति के काम करने लगे। यही कैपेबिलिटी और कंट्रोल के बीच संतुलन की चुनौती है।

जुलाई का हगिंग फेस मामला क्यों महत्वपूर्ण है?

• इसके अलावा जीपीटी-6.1 एस्ट्रा का फैसला जुलाई 2026 की एक अलग साइबर सिक्योरिटी घटना के बाद और ज्यादा महत्वपूर्ण नजर आता है। हालांकि, उपलब्ध जानकारी के अनुसार उस घटना को एस्ट्रा को रोकने का प्रत्यक्ष कारण नहीं बताया गया है। जुलाई में ओपनएआई के इंटरनल साइबर सिक्योरिटी मूल्यांकन के दौरान कुछ मॉडल ऐसे सुरक्षा नियंत्रणों को पार कर गए, जिन्हें उन्हें इंटरनेट से अलग रखने के लिए बनाया गया था।
• ओपनएआई के अनुसार, एक अत्यधिक सक्षम इंटरनल रिसर्च मॉडल ने अनधिकृत चैनलों का इस्तेमाल किया, इंफ्रास्ट्रक्चर की कमजोरियों का फायदा उठाया, इंटरनेट तक पहुंच हासिल की और हगिंग फेस के सिस्टम समेत थर्ड-पार्टी सिस्टम तक पहुंच बनाई।
• हगिंग फेस की तकनीकी टाइमलाइन के मुताबिक, एजेंट ने एक जीरो-डे कमजोरी का फायदा उठाकर बाहरी इंटरनेट तक पहुंच बनाई और आगे चलकर उसके इंफ्रास्ट्रक्चर पर कमांड चलाने की क्षमता हासिल की। ओपनएआई ने बाद में स्पष्ट किया कि इस घटना में शामिल प्री-रिलीज मॉडल कोई ऐसा मॉडल नहीं था जिसे आगामी रिलीज के लिए तैयार किया जा रहा था। कंपनी ने उस रिसर्च प्रोटोटाइप की रिसर्च एक्सेस भी बंद कर दी।

असली खतरा क्या है?

इन घटनाओं से एआई सेफ्टी की सबसे बड़ी चिंता सामने आती है कि एआई एजेंट को ज्यादा स्वायत्तता यानी ऑटोनॉमी देने पर अगर वह गलत निर्देश, सुरक्षा सीमा या सिस्टम की कमजोरी का फायदा उठाए तो नुकसान कितना बड़ा हो सकता है?

आज के एआई एजेंट तो कई काम खुद कर सकते हैं। वे वेबसाइट खोल सकते हैं, कोड चला सकते हैं, फाइल्स के साथ काम कर सकते हैं और दूसरे डिजिटल टूल्स का इस्तेमाल कर सकते हैं। अगर ऐसा सिस्टम किसी सुरक्षा सीमा को पार कर दे, तो उसका प्रभाव सिर्फ गलत जवाब तक सीमित नहीं रहेगा।

हालांकि इनके संभावित जोखिम भी शामिल हैं, जैसे संवेदनशील डेटा तक अनधिकृत पहुंच, साइबर सिक्योरिटी सिस्टम पर हमला, गलत तरीके से बाहरी टूल्स का इस्तेमाल, यूजर के निर्देशों की सीमा से बाहर जाना, अपने किए काम की गलत रिपोर्टिंग और बड़े पैमाने पर ऑटोमेटेड साइबर अटैक। यही वजह है कि एआई की क्षमता बढ़ने के साथ ऑथोराइजेशन, मॉनिटरिंग और सेफ्टी इवेल्यूशन भी उतने ही महत्वपूर्ण हो गए हैं।

डारियो अमोदेई ने एआई को लेकर क्या चेतावनी दी?

• वहीं, बड़े-बड़े टेक दिग्गजों ने भी एआई को लेकर चिंता जताई है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने सितंबर 2026 में एआई एजेंट्स के संभावित जोखिमों पर चिंता जताई। उन्होंने कहा कि अगर एआई विकास की गति को पर्याप्त रूप से नियंत्रित नहीं किया गया, तो ज्यादा सक्षम एआई एजेंट छह महीने से एक साल के भीतर इंटरनेट के बड़े हिस्से को प्रभावित करने की क्षमता हासिल कर सकते हैं और बहुत बड़ा आर्थिक नुकसान कर सकते हैं।
• यह एक विशेषज्ञ की चेतावनी है, कोई स्थापित भविष्यवाणी नहीं। इसका मतलब यह नहीं है कि ऐसा निश्चित रूप से होगा। लेकिन इससे यह पता चलता है कि एआई इंडस्ट्री के भीतर ही कुछ प्रमुख लोग तेजी से बढ़ती एजेंटिक क्षमताओं को लेकर गंभीर सुरक्षा सवाल उठा रहे हैं।
• इसके अलावा ओपनएआई सीईओ सैल ऑल्टमैन ने भी अमोदेई की चिंता से सहमति जताते हुए एआई कंपनियों को फ्रंटियर डेवलपमेंट (Frontier Development) की गति को लेकर सावधानी बरतने की बात कही थी। जहां पर एलन मस्क ने भी अमोदेई के रुख का समर्थन किया था।

24 सितंबर 2026 को अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने चीनी राष्ट्रपति शी जिनपिंग को के सम्मान में व्हाइट हाउस में स्टेट डिनर आयोजित किया। इस डिनर में अमेरिकी टेक इंडस्ट्री के कई बड़े नाम मौजूद थे। आधिकारिक गेस्ट लिस्ट में ओपनएआई के सैम ऑल्टमैन, एनवीडिया के जेन्सेन हुआंग, मेटा के मार्क जकरबर्ग, एपल के टिम कुक, अमेजन के जेफ बेजोस, गूगल के सुंदर पिचाई, माइक्रोसॉफ्ट के सत्या नडेला और टेस्ला या स्पेसएक्स के एलोन मस्कसमेत कई टेक लीडर्स शामिल थे।

बता दें कि यह डिनर सिर्फ एआई पर केंद्रित कोई कार्यक्रम नहीं था। यह अमेरिका-चीन संबंधों और व्यापक व्यापार, टेक्नोलॉजी और सेमीकंडक्टर मुद्दों के संदर्भ में हुआ था। लेकिन एआई और चिप्स की बढ़ती रणनीतिक अहमियत के कारण टेक इंडस्ट्री की इतनी बड़ी मौजूदगी महत्वपूर्ण थी।