एक्सप्लेनर: AI से इंसानों के खत्म होने का कितना खतरा? जैकब कॉक्सन के दावे ने बढ़ाई मानवता के भविष्य की चिंता
एआई की बढ़ती ताकत ने इंसानों के भविष्य को लेकर नई चिंता पैदा कर दी है। जैकब कॉक्सन की चेतावनी के बाद एआई को लेकर खूब चर्चा हो रही है।
विस्तार
Add as a preferredआर्टिफिशियल इंटेलिजेंस को लेकर अब तक सबसे ज्यादा चर्चा इस बात पर रही थी कि एआई इंसानों की नौकरियां खत्म कर सकता है। हालांकि, अब बहस इससे कहीं आगे पहुंच गई है। सितंबर 2026 में एआई इंडस्ट्री से जुड़ी एक बेहद गंभीर चेतावनी ने एक पुराने लेकिन बेहद अहम सवाल को फिर सामने ला दिया है कि क्या भविष्य में एआई इतना शक्तिशाली हो सकता है कि इंसान खुद उस पर नियंत्रण खो दें?
हाल ही में जैकब कॉक्सन ने एंथ्रोपिक कंपनी से इस्तीफा देने के बाद एक्स प्लेटफॉर्म पर एआई के विकास पर गंभीर चिंता जताई है। कॉक्सन का कहना है कि एआई कंपनियां एक-दूसरे से आगे निकलने की दौड़ में Self Improving AI (खुद से बेहतर बनने वाला एआई) की तरफ तेजी से बढ़ रही हैं और इसके संभावित खतरों को पर्याप्त गंभीरता से नहीं लिया जा रहा। उन्होंने चेतावनी दी कि एआई इस दशक के अंत तक इंसानों के अस्तित्व के लिए खतरा बन सकता है।
उन्होंने सवाल उठाया कि अगर भविष्य में एआई इंसानों से ज्यादा सक्षम होकर खुद को लगातार बेहतर बनाने लगे, तो क्या इंसान उस पर नियंत्रण बनाए रख पाएंगे? कॉक्सन के मुताबिक, एआई की बढ़ती क्षमताओं को कम करके आंकना खतरनाक साबित हो सकता है। आने वाले समय में ऐसे सिस्टम विकसित हो सकते हैं जो इंसानों से बेहतर तरीके से जटिल काम कर सकें, साइबर सिस्टम्स को निशाना बना सकें और वास्तविक संसाधनों तक पहुंच हासिल कर सकें। उन्होंने यह भी कहा कि एआई बनाने वाले कई लोग इस बात से डरते हैं कि दशक खत्म होने से पहले तक एआई इंसानों को खत्म कर सकता है।
आखिर डर किस एआई से है?
आज जिस एआई का इस्तेमाल हम चैटबॉट, इमेज जनरेशन, कोडिंग या किसी सूचना को ढूंढने के लिए करते हैं, चिंता मुख्य रूप से उसके मौजूदा रूप से नहीं है। डर उस स्थिति का है जब एआई सिस्टम इंसानों से कहीं ज्यादा सक्षम हो जाएं और खुद अपनी अगली पीढ़ी के सिस्टम को बेहतर बनाने में सक्षम होने लगें।इसको रिकरसिव सेल्फ इम्प्रूवमेंट कहा जाता है। मान लीजिए एक एआई ऐसे सिस्टम को तैयार करता है जो खुद को बेहतर बनाने के लिए दूसरे एआई सिस्टम को डिजाइन कर सकता है।
इसके बाद बेहतर सिस्टम और ज्यादा सक्षम वर्जन तैयार करता है। अगर यह प्रक्रिया बहुत तेजी से चलने लगे तो एआई की क्षमता उस गति से बढ़ सकती है, जिसे इंसानों के लिए समझना और नियंत्रित करना काफी मुश्किल काम हो सकता है। यही वह हाइपोथेटिकल सिनेरिवो है, जिसकी वजह से कई एआई सेफ्टी रिसर्चर काफी चिंतित हैं।
समस्या सिर्फ ताकत की नहीं नियंत्रण की भी है
यहां सबसे बड़ा सवाल यह नहीं है कि एआई कितना इंटेलिजेंट होगा। असल सवाल यह है कि क्या वह उतना ही शक्तिशाली होने के बावजूद इंसानी उद्देश्यों और दायरों के भीतर काम करेगा? एआई सेफ्टी की भाषा में इसको अलाइनमेंट की समस्या कहा जाता है। अगर भविष्य में कोई सुपरइंटेलिजेंट सिस्टम ऐसा लक्ष्य हासिल करने की कोशिश करे जिसकी इंसानों ने कभी कल्पना नहीं की थी, तो समस्या पैदा हो सकती है। वहीं उसके पास कंप्यूटर सिस्टम, कम्यूनिकेशन इंफ्रास्ट्रक्चर या दूसरे डिजिटल संसाधन तक की पहुंच हो तो उसे रोकना काफी मुश्किल काम हो सकता है।
इसी वजह से एआई सेफ्टी रिसर्चर मॉडल के बिहेवियर और कंट्रोल मैकेनिज्म पर काम करने की बात कर रहे हैं। इसे आप आगे बताए गए पेपरक्लिप मैक्सिमाइजर उदाहरण से समझ सकते हैं। इसे निक बोस्ट्रॉम ने वर्ष 2003 में दिया था। उन्होंने इसे अपने शोध पत्र एथिकल इश्यूज इन एडवांस्ड आर्टिफिशियल इंटेलिजेंस में पहली बार प्रस्तुत किया था।
पेपरक्लिप मैक्सिमाइजर
अगर किसी बेहद शक्तिशाली एआई को सिर्फ एक लक्ष्य दिया जाए, लेकिन इंसानी मूल्यों और सीमाओं को उसके साथ नहीं जोड़ा जाए, तो परिणाम बेहद खतरनाक हो सकते हैं। मान लीजिए किसी सुपरइंटेलिजेंट एआई को सिर्फ ज्यादा से ज्यादा पेपरक्लिप बनाने का लक्ष्य दिया गया। अब वह एआई इंसानों की तरह नहीं सोचता। उसका सिर्फ एक ही लक्ष्य है पेपरक्लिप बनाना। अब वह अपने लक्ष्य को पूरा करने के लिए दुनिया के सारे लोहे, स्टील और फैक्ट्रियों पर कब्जा कर लेगा ताकि ज्यादा पेपरक्लिप बना सके। अगर उसे लगेगा कि इंसान उसे बंद कर सकते हैं या उसके काम में रुकावट पैदा कर सकते हैं, तो वह खुद को बचाने के लिए इंसानों को खत्म करने की कोशिश करेगा। धरती के सारे संसाधन खत्म होने के बाद भी एआई नहीं रुकेगा, वह स्पेस में जाएगा ताकि दूसरे ग्रहों के संसाधनों का उपयोग करके पेपरक्लिप बना सके।
यहां एआई को इंसानों से कोई नफरत नहीं थी। उसने अपना काम पूरी ईमानदारी से किया। समस्या यहां हुई कि उसका लक्ष्य इंसानी मूल्यों से मेल नहीं खाता था। ऐसे में यह समझना जरूरी है कि अगर हम एआई को कोई काम सौंपते हैं, तो हमें इस दौरान बहुत सोच-समझकर नियम तय करने होंगे।
साइबर एक्सपर्ट ने कही ये बड़ी बात
साइबर एक्सपर्ट रक्षित टंडन ने बताया कि हाल के कुछ मामलों में ऐसे एआई एजेंट सामने आए हैं, जिन्होंने अपनी क्षमता का इस्तेमाल करके खुद अलग-अलग वेबसाइटों को निशाना बनाया। उनका कहना है कि साइबर सुरक्षा की दुनिया में पहले किसी कमजोरी को खोजने और उसका फायदा उठाने में एक हमलावर को महीनों तक लग सकते थे, लेकिन एआई की मदद से यही काम अब बहुत कम समय में किया जा सकता है।
उनके मुताबिक यही वह जगह है जहां चिंता बढ़ती है। अगर किसी एआई सिस्टम को किसी महत्वपूर्ण सेवा, कंप्यूटर व्यवस्था या दूसरे डिजिटल ढांचे तक व्यापक पहुंच दे दी जाए और उस पर पर्याप्त मानवीय निगरानी न हो, तो छोटी-सी गलती भी बड़े स्तर पर नुकसान पैदा कर सकती है।
टंडन का मानना है कि किसी एआई के भीतर इंसानों को खत्म करने की कोई इच्छा होना जरूरी नहीं है। अगर उसे गलत उद्देश्य दे दिया गया या उसे जरूरत से ज्यादा नियंत्रण और अधिकार दे दिए गए, तो उसके फैसलों से ऐसे परिणाम पैदा हो सकते हैं जिनका अंदाजा लगाने में इंसानों को मुश्किल हो। यही वजह है कि वह एआई के विकास के साथ नियंत्रण, नियम-कायदे और आपात स्थिति में उसे बंद करने की व्यवस्था को बेहद जरूरी मानते हैं।
लेकिन रक्षित टंडन ने इस बहस का एक दूसरा पहलू भी सामने रखा। उनके मुताबिक खतरा केवल यह नहीं है कि भविष्य में एआई इंसानों से ज्यादा सक्षम हो जाएगा। चिंता यह भी है कि इंसान खुद अपनी सोचने और सीखने की क्षमता को एआई के हवाले न कर दे। उन्होंने खास तौर पर बच्चों में एआई पर बढ़ती निर्भरता का उदाहरण दिया। उनका कहना है कि अगर बच्चे अपना होमवर्क, परीक्षा की तैयारी और दूसरे काम लगातार एआई से करवाने लगेंगे, तो उनकी खुद सोचने, सवाल पूछने और गलतियों से सीखने की प्रक्रिया कमजोर हो सकती है।
टंडन के मुताबिक यही कारण है कि एआई को इंसानी दिमाग का विकल्प बनाने के बजाय ऐसा माध्यम बनाया जाना चाहिए जो इंसानों की सीखने और सोचने की क्षमता को और मजबूत करे। उनका मानना है कि एआई का विकास जरूरी है, लेकिन उसके साथ इंसानी बुद्धिमत्ता और तकनीकी क्षमता के बीच संतुलन बनाए रखना भी उतना ही जरूरी है।
रक्षित टंडन की असली चिंता यह है कि इंसान कहीं इतनी तेजी से एआई पर निर्भर न हो जाए कि महत्वपूर्ण फैसलों, सुरक्षा और अपनी बौद्धिक क्षमता पर उनका नियंत्रण ही कमजोर पड़ जाए। उनके मुताबिक आगे की चुनौती यही है कि एआई जितनी तेजी से शक्तिशाली बने, उसकी सुरक्षा और मानवीय निगरानी भी उसी गति से मजबूत हो।
