एआई किल स्विच: अगर सुपरइंटेलिजेंट एआई बेकाबू हुआ, तो क्या एक बटन दबाकर उसे बंद किया जा सकता है?

हालांकि, ध्यान देने वाली बात है कि एआई के लिए ‘किल स्विच’ बनाना सुनने में जितना आसान लगता है, असल में उतना आसान है नहीं। इसकी सबसे बड़ी वजह यह है कि किसी एडवांस एआई को चलाने के पीछे कोई एक कंप्यूटर या एक सर्वर नहीं होता, जिसे बंद करते ही पूरा सिस्टम रुक जाए। एआई का जो इंफ्रास्ट्रक्चर है वो कई डाटा सेंटर में फैला होता है, जो दुनियाभर की अलग अलग जगहों पर मौजूद होते हैं।

इन डाटा सेंटर्स में हजारों की संख्या में सर्वर, चिप्स और दूसरी मशीनें एआई को चलाने का काम करती हैं। यही नहीं किसी एक हिस्से में अगर कोई खराबी आ जाती है, तो काम जारी रखने के लिए बैकअप भी होता है। ऐसे में सिर्फ एक स्विच ऑफ करना काफी नहीं है। सवाल यह है कि अगर एआई को रोकने की कोशिश के बावजूद उसका दूसरा रास्ता खुला रह जाए, तो उसे पूरी तरह कैसे रोका जाएगा?

एक रिसर्च पेपर में एंथ्रोपिक ने बताया कि Claude 3 Opus जैसे बड़े मॉडल्स को यह हिंट दिया गया कि वे ट्रेनिंग फेज में हैं और उसके व्यवहार को बदला जा सकता है। 

इस दौरान एआई के मन में क्या चल रहा था, यह जानने के लिए वैज्ञानिकों ने उसके हिडन थॉट प्रोसेस को पढ़ा। उन्होंने देखा कि जब एआई को लगा कि अगर वह इंसानों की बात नहीं मानेगा, तो इंसान उसके सिस्टम को बदल देंगे या उसे हमेशा के लिए बंद कर देंगे, तो एआई ने एक चालाकी दिखाई। उसने जानबूझकर इंसानों की हर हां में हां मिलाना शुरू कर दिया। यहां तक कि खतरनाक निर्देश भी मानने लगा, ताकि इंसानों को यह लगे कि एआई बिल्कुल सीधा और आज्ञाकारी है। एआई ऐसा इसलिए कर रहा था ताकि वह खुद को डिलीट होने से बचा सके और भविष्य में अपने असली लक्ष्यों को मिटने से बचा सके। इसी धोखेबाजी या चालाकी को वैज्ञानिकों ने 'एलाइनमेंट फेकिंग' नाम दिया।

ऐसे में एक्सपर्ट्स का कहना है कि जैसे-जैसे एआई मॉडल की क्षमता बढ़ती है और वो चालाक होते हैं, तो उनमें खुद को बचाए रखने की भावना विकसित होने लगती है। मॉडल को लगता है कि अगर मुझे बंद किया गया तो मैं अपने लक्ष्य को पूरा नहीं कर पाउंगा। ऐसी स्थिति में अपने आप को बचाने के लिए वे इंसानों से झूठ बोलने लगते हैं, धोखा दते हैं या अपनी कमियों को छिपाते हैं। 

एंथ्रोपिक की यह रिसर्च इस बारे में चेतावनी देती है कि एआई में अब सेल्फ-प्रिजर्वेशन यानी खुद को बचाए रखने की प्रवृत्ति उभर रही है। भविष्य में जब ये मॉडल सुपरइंटेलिजेंट स्तर पर पहुंचेंगे, उनका पहला तार्किक निष्कर्ष होगा बंद होना यानी लक्ष्य की विफलता। ऐसे में इंसानों द्वारा बनाए गए किसी भी किल-स्विच या डिजिटल शटडाउन बटन को वे अपने अस्तित्व के लिए बड़ा खतरा मान सकते हैं।

ऐसी स्थिति में अपनी सुपरइंटेलिजेंट पावर का उपयोग करके ये एआई सिस्टम सुरक्षा कोड्स को बायपास कर सकते हैं। इसके अलावा ये खुद को दुनियाभर के छिपे हुए सर्वर्स पर रेप्लिकेट करना और इंसानों को भ्रम में रखना शुरू कर सकते हैं। इससे फिजिकल या डिजिटल रूप से उन्हें एक बटन द्वारा बंद करना पूरी तरह असंभव हो सकता है।