आर्टिफिशियल इंटेलिजेंस यानी एआई की क्षमता तेजी से बढ़ रही है और इसके साथ यह सवाल भी गंभीर होता जा रहा है कि अगर कभी कोई अत्याधुनिक एआई सिस्टम नियंत्रण से बाहर हो जाए तो उसे रोका कैसे जाएगा? इसी सवाल ने अब ‘एआई किल स्विच’, यानी आपात स्थिति में एआई सिस्टम को बंद या सीमित करने वाले तंत्र की चर्चा तेज कर दी है। पहली नजर में इसका समाधान बेहद आसान लगता है।अगर मशीन खतरनाक व्यवहार करे तो बस उसका स्विच बंद कर दिया जाए। लेकिन विशेषज्ञों के मुताबिक अत्याधुनिक एआई के मामले में ऐसा करना किसी फैक्ट्री की मशीन बंद करने जितना आसान नहीं है। एआई अब एक अकेली मशीन में नहीं चलता। इसके पीछे दुनिया भर में फैले डेटा सेंटर, हजारों सर्वर, चिप्स, नेटवर्क और बैकअप सिस्टम काम करते हैं।
किल स्विच किसके नियंत्रण में होगा?
तकनीकी समस्या के साथ एक बड़ा सवाल प्रशासन और अधिकार का भी है।मान लीजिए किसी अत्याधुनिक एआई सिस्टम में गंभीर सुरक्षा जोखिम दिखाई देता है। तब उसे बंद करने का अधिकार किसके पास होगा कंपनी के पास, सरकार के पास, किसी स्वतंत्र नियामक के पास या किसी आपातकालीन संस्था के पास?अगर अलग-अलग देशों में एआई सिस्टम काम कर रहे हों तो एक देश का आदेश दूसरे देश में मौजूद सिस्टम पर कैसे लागू होगा?एआई गवर्नेंस कंपनी जेटस्ट्रीम सिक्योरिटी के सह-संस्थापक राज राजमणि के मुताबिक सबसे बड़ी चुनौतियों में से एक यह है कि तकनीक जिस गति से आगे बढ़ रही है, कानून उस गति से नहीं बन रहे।यानी जब तक कोई कानून तैयार होता है, तब तक एआई तकनीक उससे काफी आगे निकल सकती है।क्या किल स्विच बेकार विचार है?सभी विशेषज्ञ इसे बेकार नहीं मानते। कुछ विशेषज्ञों का मानना है कि अगर एआई सिस्टम को शुरुआत से ही आपातकालीन नियंत्रणों को ध्यान में रखकर डिजाइन किया जाए तो एक प्रभावी ‘इमरजेंसी ब्रेक’ बनाया जा सकता है।टीम8 के टिम ब्राउन का सुझाव है कि किल स्विच को सिस्टम तैयार होने के बाद जोड़ने के बजाय शुरुआत से ही उसकी डिजाइन का हिस्सा बनाया जाए। साथ ही अलग-अलग कंपनियों के बीच एआई को आपात स्थिति में रोकने के लिए समान मानक बनाए जाने चाहिए।बर्कले के मार्क निट्जबर्ग भी मानते हैं कि बहुत सावधानी से डिजाइन किया गया किल स्विच काम कर सकता है।
सिर्फ स्विच नहीं, कई स्तर की सुरक्षा जरूरी
कुछ एआई शोधकर्ताओं का मानना है कि पूरी बहस को सिर्फ किल स्विच तक सीमित करना सही नहीं होगा।डिस्ट्रिब्यूटेड एआई रिसर्च इंस्टीट्यूट के शोधकर्ता डायलन बेकर के मुताबिक नीति निर्माताओं को डेटा प्राइवेसी और बच्चों की ऑनलाइन सुरक्षा जैसे क्षेत्रों की तरह एआई के लिए भी कई स्तरों वाली सुरक्षा व्यवस्था पर ध्यान देना चाहिए।इसका मतलब हो सकता है कि एआई को केवल बंद करने की व्यवस्था न हो, बल्कि उसके काम करने की सीमा तय हो, संवेदनशील कामों के लिए मानवीय मंजूरी जरूरी हो, गतिविधियों की निगरानी हो और जोखिम बढ़ने पर सिस्टम की क्षमता अपने आप सीमित हो जाए।
असली सवाल ‘बंद करने’ से बड़ा हैएआई किल स्विच की बहस आखिरकार एक बड़े सवाल तक पहुंचती है क्या हम ऐसी तकनीक बना रहे हैं जिसे जरूरत पड़ने पर नियंत्रित करने के पर्याप्त साधन हमारे पास हैं? एक साधारण मशीन को बंद करने के लिए एक स्विच काफी हो सकता है। लेकिन वैश्विक डेटा सेंटरों, हजारों सर्वरों, अलग-अलग कंपनियों और लगातार सीखने तथा काम करने वाले एआई एजेंटों से बने नेटवर्क के लिए एक अकेला बटन शायद पर्याप्त नहीं होगा।इसलिए विशेषज्ञों की बहस अब केवल किल स्विच हो या नहीं, तक सीमित नहीं है। असली चर्चा यह है कि एआई सिस्टम को शुरुआत से इस तरह कैसे बनाया जाए कि जरूरत पड़ने पर उसकी क्षमता सीमित की जा सके, उसका काम रोका जा सके और ऐसा करते समय बाकी महत्वपूर्ण डिजिटल सेवाओं को नुकसान न पहुंचे।एआई सुरक्षा के क्षेत्र में यही इमरजेंसी ब्रेक आने वाले समय की सबसे महत्वपूर्ण चुनौतियों में से एक हो सकता है।