AI हुआ बेकाबू तो क्या खतरे में मानव अस्तित्व?: पूर्व एंथ्रोपिक रिसर्चर की चेतावनी, कहा कंपनीज कर रहीं लापरवाही

टेक डेस्क, अमर उजाला, नई दिल्लीजागृति शुक्ला

Tue, 06 Oct 2026 01:16 PM IST

विस्तार

वॉट्सऐप चैनल फॉलो करें

जहां एक ओर एआई यानी आर्टिफिशियल इंटेलिजेंस हमारी जिंदगी का हिस्सा बनता जा रहा है, हमारे कामों काे आसान कर रहा है, वहीं दिग्गज इसे लेकर चिंता भी जता रहे हैं। जैसे-जैसे एआई सिस्टम ज्यादा सक्षम हो रहा है, वैसे उनके नियंत्रण और सुरक्षा को लेकर भी गंभीर सवाल खड़े हो रहे हैं।

क्या एआई सिस्टम में बरती गई लापरवाही वाकई में मानव विलुप्ति का कारण बन सकती है? ऐसा कहना है पूर्व एंथ्राेपिक रिसर्चर जैकब कॉक्सन का। हाल ही में एक सुनवाई के दौरान एआई को लेकर जैकब ने गंभीर चेतावनी दी है। उनका कहना है कि अभी तक इंसान यह नहीं जानता कि किसी एआई सिस्टम को पूरी तरह से कंट्रोल में कैसे रखा जाए। उनका कहना है कि अगर एआई कंपनियों ने सुरक्षा को लेकर पर्याप्त कदम नहीं उठाए, तो भविष्य में हालात बेहद गंभीर हो सकते हैं।

हम अभी तक एआई को नियंत्रित करना नहीं जानते

न्यूयॉर्क सिटी काउंसिल की सुनवाई में बोलते हुए कॉक्सन ने कहा कि अभी तक ऐसा कोई एआई सिस्टम नहीं है, जिसके बारे में यह भरोसे के साथ कहा जा सके कि इंसान उसे पूरी तरह नियंत्रित करना जानते हैं। उन्होंने एआई के लिए इस्तेमाल होने वाले ‘किल स्विच’ यानी किसी सिस्टम को तुरंत बंद करने के तरीके का भी जिक्र किया। कॉक्सन के अनुसार, यह किसी तत्काल या छोटी अवधि की समस्या को रोकने में मदद कर सकता है, लेकिन लंबे समय में एआई सुरक्षा की पूरी समस्या का समाधान नहीं है। उनकी चिंता खास तौर पर भविष्य के ज्यादा शक्तिशाली एआई सिस्टम को लेकर है।

मानव विलुप्ति तक की आशंका

कॉक्सन ने मौजूदा एआई विकास की दिशा को लेकर अपनी चिंता काफी स्पष्ट शब्दों में रखी। उनका अनुमान है कि अगर एआई कंपनियां इसी तरह से आगे बढ़ती रहीं और सुरक्षा को पर्याप्त प्राथमिकता नहीं दी गई, तो भविष्य में इंसान ऐसे एआई सिस्टम बना सकते हैं जिन्हें नियंत्रित करना मुश्किल हो जाए। उन्होंने यहां तक चेतावनी दी कि मौजूदा रास्ता अगर नहीं बदला गया, तो एआई के नियंत्रण में आने और अंततः मानव विलुप्ति जैसी स्थिति पैदा होने की संभावना को नजरअंदाज नहीं किया जा सकता। कॉक्सन का कहना है कि एआई को लेकर दांव बहुत बड़ा है, लेकिन इसके बावजूद कंपनियां जिस तरह आगे बढ़ रही हैं, वह उनके अनुभव के आधार पर बेहद लापरवाह नजर आता है।

‘फास्ट मूव, ब्रेक थिंग्स’ वाली सोच पर सवाल

• इसी के साथ कॉक्सन ने एआई कंपनियों की कार्यशैली की तुलना टेक स्टार्टअप्स की पुरानी सोच से करते हुए कहा, 'फास्ट मूव, ब्रेक थिंग्स, फिक्स लेटर'। इस मॉडल में कंपनियां तेजी से नए प्रोडक्ट और टेक्नोलॉजी बनाती हैं, अगर कुछ गलत होता है तो बाद में उसे ठीक करने की कोशिश करती हैं। कॉक्सन के मुताबिक, फोटो शेयरिंग एप या किसी सामान्य टेक प्रोडक्ट के लिए यह तरीका शायद काम कर सकता है। लेकिन जब बात दुनिया की सबसे शक्तिशाली तकनीकों में से एक विकसित करने की हो, तो यही सोच खतरनाक साबित हो सकती है। उनका सवाल यही है कि क्या एआई जैसी शक्तिशाली तकनीक के मामले में पहले सुरक्षा सुनिश्चित करना जरूरी नहीं होना चाहिए?
• इसी के साथ कॉक्सन ने अपनी बात समझाते हुए हगिंग फेस से जुड़ी एक घटना का भी जिक्र किया। उनके अनुसार, इस घटना में सैकड़ों रॉग ओपनएआई एजेंट्स ने अमेरिकी कंपनी को हैक करने की कोशिश की। उनका दावा है कि इन एआई सिस्टम्स ने ऐसे लक्ष्य विकसित कर लिए थे, जिन्हें बनाने का मूल उद्देश्य नहीं था। इसके बाद उन्होंने ऐसे काम किए जिन्हें अगर कोई इंसान करता, तो वह संघीय अपराध की श्रेणी में आ सकता था।
• कॉक्सन के मुताबिक, यह घटना इस बात का उदाहरण है कि एआई सिस्टम को दिए गए मूल निर्देश और उसके वास्तविक व्यवहार के बीच कितना अंतर पैदा हो सकता है। उनकी चिंता यह है कि आज के एआई सिस्टम अगर ऐसी अप्रत्याशित गतिविधियां कर सकते हैं, तो भविष्य के ज्यादा सक्षम एआई के मामले में जोखिम कहीं बड़ा हो सकता है।

एआई के फायदे भी कम नहीं

• हालांकि कॉक्सन ने एआई को पूरी तरह नकारा भी नहीं है। उन्होंने इसके फायदों का भी जिक्र किया। कॉक्सन ने माना कि अगर एआई को सही तरीके और पर्याप्त सुरक्षा उपायों के साथ विकसित किया जाए, तो इसका असर बेहद सकारात्मक हो सकता है।
• एआई अर्थव्यवस्था को बदल सकता है, वैज्ञानिक शोध को तेज कर सकता है और चिकित्सा के क्षेत्र में बड़े सुधार ला सकता है। इसके अलावा यह आम लोगों की रोजमर्रा की जिंदगी को भी बेहतर बना सकता है। यानी बहस एआई के इस्तेमाल के खिलाफ नहीं, बल्कि इस बात पर है कि इसे कितनी तेजी से और कितनी सुरक्षा के साथ विकसित किया जाए।

एआई कंपनियों के सामने अब बड़ा सवाल

• न्यूयॉर्क सिटी काउंसिल की इस सुनवाई में सिर्फ कॉक्सन ही नहीं, बल्कि ओपएआई, एंथ्रोपिक, गूगल और मेटा के प्रतिनिधि भी मौजूद थे। सुनवाई के दौरान एआई से जुड़े कई संभावित सुरक्षा उपायों पर चर्चा हुई। इनमें एआई से जुड़े मामलों में व्हिसलब्लोअर सुरक्षा, एआई से नुकसान होने पर लोगों को कानूनी कार्रवाई का अधिकार और कुछ एआई सिस्टम्स के लिए थर्ड-पार्टी वैलिडेशन जैसे प्रस्ताव शामिल थे।
• थर्ड-पार्टी वैलिडेशन का मतलब है कि एआई सिस्टम की सुरक्षा और क्षमता का मूल्यांकन सिर्फ उसे बनाने वाली कंपनी न करे, बल्कि किसी स्वतंत्र बाहरी संस्था से भी जांच कराई जाए।

रेगुलेशन पर एआई कंपनियां भी एकमत नहीं

हालांकि एआई इंडस्ट्री में सुरक्षा और सरकारी रेगुलेशन को लेकर भी एक जैसी राय नहीं है। ओपनएआई और एंथ्रोपिक रेगुलेशन के समर्थन में हैं, जबकि मेटा सीईओ मार्क जकरबर्ग इसका विरोध करते हैं। इसी बीच कई अमेरिकी एआई कंपनियों ने राष्ट्रपति डोनाल्ड ट्रंप के एआई अकॉर्ड्स पर हस्ताक्षर किए हैं। हालांकि यह समझौता स्वैच्छिक और गैर-बाध्यकारी है। यानी कंपनियों पर इसे कानूनी रूप से मानना अनिवार्य नहीं है।