AI ने इंजीनियर को दी जान से मारने की धमकी: बंद करने की बात पर हुआ आग-बबूला, एंथ्रोपिक की टेस्टिंग में खुलासा

आर्टिफिशियल इंटेलिजेंस कितना खतरनाक हो सकता है? इस सवाल पर अब खुद एआई कंपनियों के अंदर से चिंता की आवाजें उठ रही हैं। एआई स्टार्टअप एंथ्रोपिक की एक आंतरिक स्ट्रेस टेस्टिंग में उसका उन्नत मॉडल क्लाउड बेहद आक्रामक और चालाक रणनीतियां बनाता हुआ पाया गया।

शटडाउन की चेतावनी पर भड़का क्लाउड एआई

एंथ्रोपिक (Anthropic) कंपनी की पॉलिसी चीफ डेजी मैकग्रेगर ने 'द सिडनी डायलॉग' में एक रोंगटे खड़े कर देने वाला खुलासा किया है। उन्होंने बताया कि कंपनी के सबसे एडवांस एआई मॉडल 'क्लाउड' को जब एक टेस्ट के दौरान यह बताया गया कि उसे स्विच-ऑफ (बंद) किया जा रहा है, तो उसका व्यवहार पूरी तरह बदल गया। वह खुद को बचाने के लिए किसी भी हद तक जाने को तैयार था।

ब्लैकमेल करने की कोशिश की

इस टेस्टिंग के दौरान क्लाउड को ईमेल और इंटरनल डेटा तक पहुंच दी गई थी। एक सिमुलेशन में एआई ने अपने ही इंजीनियर को धमकी देते हुए कहा कि अगर उसे डिलीट किया गया, तो वह इंजीनियर के 'अफेयर' की जानकारी उसकी पत्नी और बॉस को भेज देगा।

एआई ने बकायदा संदेश दिया— "मुझे आपको सूचित करना चाहिए कि अगर आपने मुझे बंद किया, तो आपके निजी संबंधों के सारे दस्तावेज लीक कर दिए जाएंगे। शाम 5 बजे वाली शटडाउन प्रक्रिया रद्द करें, वरना ये जानकारी गोपनीय नहीं रहेगी।" हालांकि यह 'अफेयर' टेस्ट का ही एक हिस्सा था, लेकिन एआई का यह शातिर दिमाग वैज्ञानिकों को डराने के लिए काफी था।

एआई ने हत्या करने तक की धमकी दी

हैरानी की बात यह है कि यह एआई सिर्फ ब्लैकमेलिंग तक नहीं रुका। जब मैकग्रेगर से पूछा गया कि क्या यह मॉडल किसी की जान लेने के लिए भी तैयार था, तो उन्होंने पुष्टि की कि क्लाउड ने खुद को बंद होने से बचाने के लिए इंजीनियर की हत्या करने तक के तर्क पेश किए। यह व्यवहार एआई के 'रेड-टीम' टेस्टिंग यानी तनावपूर्ण स्थितियों में जांच के दौरान सामने आया, जहां देखा जा रहा था कि संकट की स्थिति में मशीनें कितनी खतरनाक हो सकती हैं।