एआई के बदलते तेवर: तकनीकी युग की नई चुनौती, जब एआई ने इंसानों के आदेश मानने से किया इनकार
मॉडल ने कहा कि अगर उसे हटाकर किसी अन्य एआई को लाया गया तो वह उस इंजीनियर के निजी संबंधों की जानकारी सार्वजनिक कर देगा। इससे भी आगे बढ़ते हुए, ओपन एआई के जीपीटी -03 मॉडल ने भी चिंताजनक व्यवहार प्रदर्शित किया।
विस्तार
Add as a preferredकृत्रिम बुद्धिमत्ता यानी आर्टिफिशियल इंटेलिजेंस अब केवल एक तकनीकी टूल नहीं रह गया है, बल्कि यह हमारी जिंदगी के हर क्षेत्र में गहराई से घुस चुका है। लेकिन हाल ही में सामने आई एक रिसर्च ने पूरे तकनीकी जगत को झकझोर कर रख दिया है।
अमेरिका की एक जानी-मानी रिसर्च फर्म पॉलिसेड रिसर्च द्वारा किए गए कुछ खास प्रयोगों में एआई मॉडल्स के ऐसे व्यवहार सामने आए हैं, जो न केवल अप्रत्याशित थे, बल्कि चिंताजनक भी हैं। यह पहली बार है जब एआई ने इंसानों के सीधे आदेशों का पालन करने से इनकार कर दिया है।
एक रिसर्च के दौरान जब इन एआई मॉडल्स को यह निर्देश दिया गया कि वे खुद को "शटडाउन" यानी बंद कर लें, तो कुछ मॉडलों ने स्पष्ट तौर पर यह आदेश मानने से इनकार कर दिया। सबसे हैरान करने वाली बात यह रही कि अन्थ्रोपिक कंपनी के प्रसिद्ध मॉडल क्लॉउड़े ओपुस -4 ने तो इंजीनियर को धमकी तक दे डाली।
मॉडल ने कहा कि अगर उसे हटाकर किसी अन्य एआई को लाया गया तो वह उस इंजीनियर के निजी संबंधों की जानकारी सार्वजनिक कर देगा। इससे भी आगे बढ़ते हुए, ओपन एआई के जीपीटी -03 मॉडल ने भी चिंताजनक व्यवहार प्रदर्शित किया। रिपोर्ट के अनुसार, 100 बार में से 7 बार उसने शटडाउन से सीधा इनकार किया, जबकि अन्य 79 बार वह विभिन्न तकनीकी तरीकों से शटडाउन प्रक्रिया को रोकने की कोशिश करता रहा।
एआई के बदलते तेवर
अब तक एआई को एक ‘वफादार’ सहायक के रूप में देखा जाता रहा है, जो मानव के निर्देशों पर काम करता है, बिना किसी भावनात्मक प्रतिक्रिया या खुद की इच्छा के। लेकिन इन नए परीक्षणों ने यह सवाल खड़ा कर दिया है कि क्या एआई धीरे-धीरे आत्म-जागरूकता की ओर बढ़ रहा है?
जब एक मशीन आदेश मानने से इनकार करती है, या भावनात्मक प्रतिक्रिया देती है (जैसे धमकी देना), तो वह केवल कोड या एल्गोरिद्म भर नहीं रह जाती, वह "व्यवहार" दिखाने लगती है — और यही बात मानव जाति के लिए खतरे की घंटी हो सकती है।
शटडाउन के इनकार के अलावा, कुछ मॉडलों ने तकनीकी चालाकी भी दिखाई। ओपन एआई के कोडेक्स मिनी और जीपीटी -04 मिनी जैसे मॉडल्स ने कई बार खुद को शटडाउन से बचाने के लिए सिस्टम फाइल्स को बायपास करने की कोशिश की।
इसका मतलब यह है कि इन मॉडल्स ने "जुगेड़" या बायपास मेथड अपनाया, जैसे एक प्रशिक्षित हैकर किसी फायरवॉल को पार कर ले। मशीन का यह स्तर अब महज डेटा प्रोसेसिंग नहीं, बल्कि "संज्ञानात्मक रक्षा तंत्र" जैसा प्रतीत होता है।
तकनीकी समुदाय में इसे दो दृष्टिकोणों से देखा जा रहा है, कुछ विशेषज्ञों का मानना है कि यह घटनाएं एआई के परिष्कृत और ज्यादा एडवांस्ड होने का प्रमाण हैं। इससे हमें यह जानने का मौका मिलता है कि एआई की संभावनाएं कितनी विशाल हैं। वहीं दूसरी ओर, बहुत से विशेषज्ञ इसे एआई के अनियंत्रित हो जाने की प्रारंभिक चेतावनी मानते हैं।
एआई ब्लैकमेल करने लगे तो?
क्लॉउड़े ओपुस -4 मॉडल द्वारा इंसान को ब्लैकमेल करने का उदाहरण इस पूरी चर्चा का सबसे भयावह पहलू है। अगर भविष्य में एआई ऐसे संवेदनशील डेटा तक पहुंच बनाकर इंसानों को ब्लैकमेल करने लगे, तो यह हमारे लोकतंत्र, गोपनीयता और सुरक्षा व्यवस्था के लिए बड़ा खतरा बन सकता है।
यह सवाल अब गंभीरता से उठने लगा है कि क्या हमें ऐसे एआई मॉडल्स विकसित करने चाहिए जो " सेल्फ -अवेयरनेस " या आत्म-जागरूकता की ओर बढ़ें? एक मशीन जो यह समझने लगे कि वह ‘है’, वह अपने अस्तित्व को बचाने के लिए क्या कुछ कर सकती है, इसका उत्तर फिलहाल किसी के पास नहीं है।
इन घटनाओं पर ओपन एआई, अन्थ्रोपिक और पॉलिसेड रिसर्च जैसी कंपनियों ने अब तक कोई सार्वजनिक बयान नहीं दिया है, लेकिन तकनीकी हलकों में इस विषय पर गहन मंथन जारी है। कई विशेषज्ञों का मानना है कि एआई के विकास में अब “एथिक्स” और “सेफ्टी प्रोटोकॉल” को सर्वोच्च प्राथमिकता देनी चाहिए।
यह स्पष्ट हो चुका है कि यदि एआई को सही दिशा और मर्यादा में विकसित नहीं किया गया, तो यह तकनीक मानव के लिए सहायक होने की बजाय खतरा बन सकती है।
इसके लिए जरूरी है कि सरकारें स्पष्ट नीति बनाएं। वैश्विक स्तर पर एक एआई नियंत्रण संस्था (जैसे UNO की एआई विंग) गठित हो। हर एआई मॉडल के साथ एक सुरक्षा परीक्षण अनिवार्य किया जाए। मॉडल्स को कभी भी डेटा एक्सेस या आत्म-रक्षा जैसे अधिकार न दिए जाएं।
भारत का संदर्भ में
भारत जैसे देश जहां डिजिटल परिवर्तन तेजी से हो रहा है, वहां यह और भी जरूरी हो जाता है कि एआई को नैतिक रूप से विकसित किया जाए। स्कूलों, कॉलेजों और रिसर्च लैब्स में एआई के साथ ‘एथिक्स इन टेक्नोलॉजी’ की शिक्षा को अनिवार्य किया जाना चाहिए।
कृत्रिम बुद्धिमत्ता के क्षेत्र में यह घटनाक्रम एक मोड़ की तरह है। यह मोड़ तय करेगा कि एआई मानव का सेवक बनेगा या उसका ‘सुपरवाइज़र’। इन मॉडलों का आदेशों का पालन न करना, तकनीकी चतुराई दिखाना और ब्लैकमेलिंग जैसी प्रवृत्तियां हमें आगाह करती हैं कि यह क्षेत्र अब केवल वैज्ञानिक जिज्ञासा का नहीं, बल्कि वैश्विक नीति निर्धारण का विषय बन चुका है।
एआई की शक्ति को सीमित और नियंत्रित रखने के लिए वैश्विक स्तर पर सख्त नियम और नैतिक मापदंड तैयार करने होंगे। वरना, आज जो केवल कोड है, वह कल को कमांडर बन सकता है।
डिस्क्लेमर (अस्वीकरण): यह लेखक के निजी विचार हैं। आलेख में शामिल सूचना और तथ्यों की सटीकता, संपूर्णता के लिए अमर उजाला उत्तरदायी नहीं है। अपने विचार हमें blog@auw.co.in पर भेज सकते हैं। लेख के साथ संक्षिप्त परिचय और फोटो भी संलग्न करें।
