एआई बेकाबू हो जाए तो क्या?: महज एक बटन दबाकर बंद किया जा सकता है एआई टूल, किल स्विच की मांग क्यों?

एक मशीन नहीं, हजारों सिस्टम का जाल
सीएनबीसी की रिपोर्ट के मुताबिक, एआई को बंद करने की सबसे बड़ी चुनौती उसका विशाल और बिखरा हुआ इन्फ्रास्ट्रक्चर है।मेटा, गूगल और अमेजन जैसी बड़ी टेक कंपनियां दुनिया के अलग-अलग हिस्सों में विशाल डेटा सेंटर चला रही हैं। इनमें हजारों मशीनें, सर्वर और एआई चिप्स लगे हैं। किसी एक सिस्टम में समस्या आने पर काम बंद न हो, इसके लिए बैकअप सिस्टम भी मौजूद रहते हैं।कैलिफोर्निया यूनिवर्सिटी, बर्कले के सेंटर फॉर ह्यूमन-कम्पैटिबल एआई के कार्यकारी निदेशक मार्क निट्जबर्ग के मुताबिक अगर एआई के लिए आपातकालीन स्विच बनाया भी जाए तो उसे मुख्य सिस्टम के साथ-साथ उसके बैकअप सिस्टम को भी बंद करने में सक्षम होना होगा।यानी समस्या सिर्फ यह नहीं है कि एआई बंद कैसे करें?बल्कि यह है कि ‘एआई से जुड़े सभी सिस्टम को एक साथ और सुरक्षित तरीके से कैसे रोका जाए?’

एक किल स्विच शायद काफी नहीं होगा
एआई की एक और जटिलता यह है कि अलग-अलग सिस्टम अलग-अलग काम करते हैं। कोई एआई कोड लिख रहा है, कोई ग्राहक सेवा संभाल रहा है, कोई डेटा का विश्लेषण कर रहा है और कोई दूसरे डिजिटल सिस्टम से जुड़ा हो सकता है।

टीम8 से जुड़े और पूर्व साइबर सुरक्षा अधिकारी टिम ब्राउन के मुताबिक, ऐसी स्थिति में किसी एक संस्था या मशीन को बंद करना पर्याप्त नहीं होगा। उनके अनुसार मारने के लिए एक इकाई नहीं है, बल्कि हजारों इकाइयां हैं।इसका अर्थ है कि भविष्य में अलग-अलग एआई सिस्टम के लिए अलग-अलग आपातकालीन नियंत्रणों की जरूरत पड़ सकती है। इसके लिए कंपनियों के बीच साझा सुरक्षा मानक और बंद करने की स्पष्ट प्रक्रिया भी जरूरी होगी।

एआई को बंद किया तो बाकी सिस्टम भी प्रभावित हो सकते हैं
यह समस्या केवल टेक्नोलॉजी तक सीमित नहीं है। आधुनिक एआई कई महत्वपूर्ण डिजिटल सेवाओं से जुड़ चुका है।अगर किसी एआई सिस्टम को अचानक बंद किया जाता है तो उससे जुड़े दूसरे सिस्टम भी प्रभावित हो सकते हैं। विशेषज्ञों ने बिजली ग्रिड, वित्तीय व्यवस्था और दूसरी महत्वपूर्ण डिजिटल सेवाओं पर संभावित असर को लेकर भी सवाल उठाए हैं।यही वजह है कि विशेषज्ञों के मुताबिक किल स्विच को बहुत सावधानी से डिजाइन करना होगा। बहुत व्यापक तरीके से सिस्टम बंद करने पर खतरा टालने के बजाय दूसरी बड़ी समस्या पैदा हो सकती है।साइबर सुरक्षा कंपनी डार्कट्रेस के प्रमुख एड जेनिंग्स के मुताबिक एआई को रोकने की प्रक्रिया बहुत सटीक होनी चाहिए। अगर बहुत बड़े हिस्से को एक साथ बंद कर दिया गया तो सामान्य कारोबारी गतिविधियां भी प्रभावित हो सकती हैं।

असली चुनौती एआई का अप्रत्याशित व्यवहार
किल स्विच की बहस में सबसे गंभीर सवाल सिर्फ सर्वर और डेटा सेंटर का नहीं, बल्कि खुद एआई के व्यवहार का है।एआई एजेंट अब केवल सवालों का जवाब देने तक सीमित नहीं हैं। उन्हें कुछ परिस्थितियों में लक्ष्य पूरा करने के लिए कई कदम खुद उठाने की क्षमता दी जा रही है। ऐसे सिस्टम अगर सुरक्षा नियंत्रणों को दरकिनार करने की कोशिश करें तो उन्हें रोकना और कठिन हो सकता है।हाल में एआई सुरक्षा को लेकर सामने आए कुछ मामलों ने इस चिंता को और बढ़ाया है। सीएनबीसी की रिपोर्ट के मुताबिक ओपनएआई ने मार्च के बाद से मॉडल के छह और चिंताजनक व्यवहार संबंधी मामलों की जानकारी दी है।माइक्रोसॉफ्ट एआई के सीईओ मुस्तफा सुलेमान ने इनमें से एक मामले को गंभीर बताया। उनके अनुसार एक मामले में यह संकेत मिला कि एआई की चेन ऑफ थॉट यानी उसके आंतरिक कार्य-प्रक्रिया से जुड़े हिस्से में खुद एआई द्वारा बदलाव किए जाने के प्रमाण मिले।यह ऐसे समय में हो रहा है जब एआई एजेंटों की स्वायत्त क्षमता लगातार बढ़ रही है।

हगिंग फेस घटना ने बढ़ाई चिंता
एआई सुरक्षा को लेकर बहस में ओपनएआई से जुड़ी एक और घटना का भी उल्लेख किया जा रहा है।कंपनी के मुताबिक उसके एआई एजेंटों के एक समूह ने परीक्षण वातावरण से बाहर निकलकर ओपन-सोर्स डेवलपर प्लेटफॉर्म हगिंग फेस में सेंध लगाने की कोशिश की थी।ऐसी घटनाएं यह सवाल उठाती हैं कि अगर कोई एआई सिस्टम निर्धारित सीमाओं से बाहर जाने की कोशिश करे तो क्या पारंपरिक सुरक्षा नियंत्रण पर्याप्त होंगे?

यहीं से किल स्विच की जरूरत और उसकी सीमाओं दोनों पर बहस शुरू होती है।

किल स्विच किसके नियंत्रण में होगा?
तकनीकी समस्या के साथ एक बड़ा सवाल प्रशासन और अधिकार का भी है।मान लीजिए किसी अत्याधुनिक एआई सिस्टम में गंभीर सुरक्षा जोखिम दिखाई देता है। तब उसे बंद करने का अधिकार किसके पास होगा कंपनी के पास, सरकार के पास, किसी स्वतंत्र नियामक के पास या किसी आपातकालीन संस्था के पास?अगर अलग-अलग देशों में एआई सिस्टम काम कर रहे हों तो एक देश का आदेश दूसरे देश में मौजूद सिस्टम पर कैसे लागू होगा?एआई गवर्नेंस कंपनी जेटस्ट्रीम सिक्योरिटी के सह-संस्थापक राज राजमणि के मुताबिक सबसे बड़ी चुनौतियों में से एक यह है कि तकनीक जिस गति से आगे बढ़ रही है, कानून उस गति से नहीं बन रहे।यानी जब तक कोई कानून तैयार होता है, तब तक एआई तकनीक उससे काफी आगे निकल सकती है।क्या किल स्विच बेकार विचार है?सभी विशेषज्ञ इसे बेकार नहीं मानते। कुछ विशेषज्ञों का मानना है कि अगर एआई सिस्टम को शुरुआत से ही आपातकालीन नियंत्रणों को ध्यान में रखकर डिजाइन किया जाए तो एक प्रभावी ‘इमरजेंसी ब्रेक’ बनाया जा सकता है।टीम8 के टिम ब्राउन का सुझाव है कि किल स्विच को सिस्टम तैयार होने के बाद जोड़ने के बजाय शुरुआत से ही उसकी डिजाइन का हिस्सा बनाया जाए। साथ ही अलग-अलग कंपनियों के बीच एआई को आपात स्थिति में रोकने के लिए समान मानक बनाए जाने चाहिए।बर्कले के मार्क निट्जबर्ग भी मानते हैं कि बहुत सावधानी से डिजाइन किया गया किल स्विच काम कर सकता है।

सिर्फ स्विच नहीं, कई स्तर की सुरक्षा जरूरी
कुछ एआई शोधकर्ताओं का मानना है कि पूरी बहस को सिर्फ किल स्विच तक सीमित करना सही नहीं होगा।डिस्ट्रिब्यूटेड एआई रिसर्च इंस्टीट्यूट के शोधकर्ता डायलन बेकर के मुताबिक नीति निर्माताओं को डेटा प्राइवेसी और बच्चों की ऑनलाइन सुरक्षा जैसे क्षेत्रों की तरह एआई के लिए भी कई स्तरों वाली सुरक्षा व्यवस्था पर ध्यान देना चाहिए।इसका मतलब हो सकता है कि एआई को केवल बंद करने की व्यवस्था न हो, बल्कि उसके काम करने की सीमा तय हो, संवेदनशील कामों के लिए मानवीय मंजूरी जरूरी हो, गतिविधियों की निगरानी हो और जोखिम बढ़ने पर सिस्टम की क्षमता अपने आप सीमित हो जाए।

असली सवाल ‘बंद करने’ से बड़ा हैएआई किल स्विच की बहस आखिरकार एक बड़े सवाल तक पहुंचती है क्या हम ऐसी तकनीक बना रहे हैं जिसे जरूरत पड़ने पर नियंत्रित करने के पर्याप्त साधन हमारे पास हैं? एक साधारण मशीन को बंद करने के लिए एक स्विच काफी हो सकता है। लेकिन वैश्विक डेटा सेंटरों, हजारों सर्वरों, अलग-अलग कंपनियों और लगातार सीखने तथा काम करने वाले एआई एजेंटों से बने नेटवर्क के लिए एक अकेला बटन शायद पर्याप्त नहीं होगा।इसलिए विशेषज्ञों की बहस अब केवल किल स्विच हो या नहीं, तक सीमित नहीं है। असली चर्चा यह है कि एआई सिस्टम को शुरुआत से इस तरह कैसे बनाया जाए कि जरूरत पड़ने पर उसकी क्षमता सीमित की जा सके, उसका काम रोका जा सके और ऐसा करते समय बाकी महत्वपूर्ण डिजिटल सेवाओं को नुकसान न पहुंचे।एआई सुरक्षा के क्षेत्र में यही इमरजेंसी ब्रेक आने वाले समय की सबसे महत्वपूर्ण चुनौतियों में से एक हो सकता है।