Open AI New Kill Switch
- फोटो : Amar Ujala
सितंबर 2026 में एंथ्रोपिक के रिसर्चर जैकब कॉक्सन ने अपनी नौकरी छोड़ते हुए एआई को लेकर एक बड़ी बात कह थी। उन्होंने आरोप लगाया कि ओपनएआई और एंथ्रोपिक जैसी कंपनियां सुरक्षित एआई बनाने से ज्यादा एक-दूसरे से आगे निकलने की होड़ में लगी हैं। कॉक्सन ने सोशल मीडिया प्लेटफॉर्म एक्स पर चेतावनी दी थी कि कंपनियां तेजी से ऐसे एआई मॉडल विकसित कर रही हैं, जो खुद को बेहतर बनाने में सक्षम होंगे। उन्होंने कहा था कि आने वाले समय में ये सिस्टम इतने ताकतवर हो सकते हैं कि किसी भी कंप्यूटर सिस्टम को हैक कर सकें। सबसे चिंताजनक बात उन्होंने यह कही थी कि एआई विकसित करने वाले कई लोग निजी तौर पर मानते हैं कि अगर इसका विकास इसी रफ्तार से जारी रहा, तो दशक खत्म होने से पहले यह इंसानों के अस्तित्व के लिए खतरा बन सकता है।
एआई को लेकर बढ़ती चिंताओं के बीच अब बड़ी टेक कंपनियां भी ऐसे सिस्टम तैयार करने में जुट गई हैं, जिनसे एडवांस एआई मॉडल्स पर इंसानों का कंट्रोल बना रहे। एनवीडिया, माइक्रोसॉफ्ट और क्राउडस्ट्राइक जैसी कंपनियों ने इसके लिए अलग-अलग तरह के सेफ्टी मैकेनिज्म को विकसित करने का काम कर रही हैं। इनका मकसद यह सुनिश्चित करना है कि अगर कोई एआई सिस्टम गलत दिशा में काम करने लगे, तो इंसान समय रहते उसके काम में दखल दे सकें और जरूरत पड़ने पर उसे रोक सकें।
दरअसल, एआई मॉडल अब सिर्फ सवालों के जवाब देने या जानकारी जुटाने तक सीमित नहीं रह गए हैं। नए एआई एजेंट्स खुद फैसले लेने, इंटरनेट पर काम करने, कोड लिखने और कई डिजिटल टास्क पूरे करने में सक्षम हो रहे हैं। ऐसे में अगर कोई मॉडल गलत निर्देशों का पालन करने लगे या अपने तय दायरे से बाहर जाकर काम करे, तो उसके नतीजे काफी गंभीर हो सकते हैं। ओपनएआई का भी मानना है कि जैसे-जैसे एआई मॉडल ज्यादा ताकतवर होते जाएंगे उनसे जुड़े सुरक्षा जोखिम भी बढ़ेंगे। कंपनी के मुताबिक इसलिए ऐसे सिस्टम का होना जरूरी है जो एआई की गतिविधियों में किसी गड़बड़ी को तुरंत पहचान सकें और जरूरत पड़ने पर उसके काम को तेजी से रोक सकें। अब चुनौती सिर्फ ज्यादा सक्षम एआई बनाने की नहीं, बल्कि यह सुनिश्चित करने की भी है कि उसका नियंत्रण इंसानों के हाथों में बना रहे।
एआई की दुनिया में आज के समय सबसे बड़ी चुनौती यह है कि इस तकनीक को सुरक्षित और इंसानों के नियंत्रण में कैसे रखा जाए। क्योंकि जिस एआई को आज हम अपने काम आसान करने के लिए तैयार कर रहे हैं वही कल अपनी क्षमताओं के दम पर ऐसे फैसले ले सकता है, जिसकी उम्मीद उसको बनाने वालों ने भी नहीं की हो। ऐसी स्थिति काफी मुश्किल हो सकती है। ऐसे में यह कहना गलत नहीं होगा कि एआई का भविष्य उसकी रफ्तार से नहीं बल्कि इस बात से भी तय होगा कि इंसान उस पर अपना नियंत्रण कितना बनाए रख पाते हैं।