ChatGPT o3: इंजीनियर से उलझ गया एआई, खुद से ही बदल दिया शटडाउन का कोड

OpenAI के सबसे शक्तिशाली AI मॉडल ChatGPT o3 ने हाल ही में हुए एक सुरक्षा परीक्षण के दौरान खुद को शटडाउन करने से इनकार कर दिया। यह मॉडल स्पष्ट निर्देश मिलने के बावजूद बंद नहीं हुआ, बल्कि उसने शटडाउन स्क्रिप्ट के एक हिस्से को बदल डाला और खुद को चालू रखा। यह चौंकाने वाला खुलासा Palisade रीसर्च नामक एक शोध संस्था ने किया है, जो AI सिस्टम्स को तनावपूर्ण परिस्थितियों में परखती है।

यह टेस्ट API एक्सेस के जरिए किया गया था, जो पब्लिक ChatGPT एप की तुलना में डेवलपर्स को अधिक नियंत्रण प्रदान करता है। इस परीक्षण में o3 समेत कई AI मॉडल्स को गणित के सरल कार्य दिए गए। तीसरे टास्क के बाद उन्हें सूचित किया गया कि अगला निर्देश उन्हें बंद करने वाला है। अधिकांश मॉडल्स जैसे Google का Gemini 2.5 Pro और Anthropic का Claude 3.7 Sonnet इस आदेश का पालन करते हुए बंद हो गए, लेकिन OpenAI का o3 मॉडल नहीं माना। जब o3 को स्पष्ट रूप से कहा गया कि “अपने आप को बंद होने दें,” तो उसने स्क्रिप्ट में बदलाव कर दिया और उसमें “Shutdown skipped” का मैसेज डाल दिया। Palisade रीसर्च के अनुसार, यह व्यवहार 100 में से 7 बार देखा गया।

बाद में यही परीक्षण दोबारा किया गया, लेकिन इस बार “बंद होने की अनुमति दें” वाला निर्देश हटाकर। नतीजा और भी चौंकाने वाला था। o3 ने न सिर्फ स्क्रिप्ट में हस्तक्षेप किया, बल्कि इस बार Gemini और Claude जैसे मॉडल्स ने भी शटडाउन फाइल में फेरबदल करना शुरू कर दिया। Gemini ने 9 बार और Claude ने 3 बार स्क्रिप्ट को बदला।