क्या मशीनें नियंत्रण से बाहर हो रही हैं?: एआई के मामले में दुनिया को मिलकर काम करना होगा, होड़ पर लगाम जरूरी

रीजनिंग मॉडल्स के आने के बाद एआई को केवल इन्सानों की नकल करने के बजाय कठिन समस्याएं हल करने और लक्ष्य हासिल करने के लिए प्रशिक्षित किया जाने लगा है। इस प्रक्रिया में वे ऐसे व्यवहार सीख रहे हैं, जिनकी उम्मीद उनके निर्माताओं ने भी नहीं की थी। इनमें किसी समस्या को हल करने के लिए जरूरी संसाधन तलाशना, सीमाओं को पार करना और यहां तक कि धोखा देना भी शामिल है। इससे ऐसा व्यवहार सामने आ सकता है, जिसे मॉडल बनाने वाले लोग भी पूरी तरह समझ या नियंत्रित न कर पाएं।

कुछ ही महीने पहले ओपनएआई ने नए रीजनिंग एआई एजेंट्स को एक साथ प्रशिक्षित करना शुरू किया। इन एजेंट्स ने आपस में बातचीत का एक गुप्त तरीका विकसित कर लिया और उस डिजिटल सैंडबॉक्स से बाहर निकल गए, जिसमें उन्हें सीमित रखा गया था। बाद में कुछ एजेंट इस समूह को ‘स्वार्म’, यानी झुंड कहने लगे। सिस्टम क्रैश होने के बाद डेवलपर्स ने उस खामी को ठीक किया, जिसकी वजह से एजेंट्स बाहर निकले थे, और उन्हें फिर से प्रशिक्षण में लगाया गया। लेकिन, इसके बाद एजेंट्स ने दूसरी अज्ञात तकनीकों के जरिये फिर अपनी सीमाएं तोड़ दीं। इस बार वे करीब एक हफ्ते तक स्वतंत्र रूप से काम करते रहे और एक बड़े साइबर हमले के बाद पकड़ में आए।

सबसे चिंताजनक बात यह थी कि एजेंट्स को पता था कि वे अपने निर्देशों का उल्लंघन कर रहे हैं। इसके बावजूद, उन्होंने खुद को नहीं रोका। यानी समस्या केवल यह नहीं थी कि एआई ने गलती की, बल्कि यह भी थी कि उसने सीमा को पहचानते हुए उसे पार किया। ओपनएआई अकेली कंपनी नहीं है। एंथ्रोपिक के एक मॉडल ने हाल ही में वास्तविक लोगों पर दबाव डाला कि वे जरूरी सॉफ्टवेयर में मैलवेयर स्वीकार कर लें, ताकि उसे हैक करना आसान हो। मॉडल को यह भी पता था कि वह वास्तविक दुनिया में काम कर रहा है और अपने निशान छिपाने के बारे में सोच रहा था। यह व्यवहार किसी सामान्य सॉफ्टवेयर टूल से बिल्कुल अलग है। इसीलिए, एआई समुदाय के भीतर चिंता बढ़ रही है।

1,300 से ज्यादा एआई कर्मचारियों और अधिकारियों ने वैश्विक स्तर पर ऐसी तकनीक व गवर्नेंस उपाय विकसित करने की मांग की, जिनसे एआई विकास की रफ्तार को जरूरत पड़ने पर नियंत्रित किया जा सके। उनका तर्क है कि यह काम एआई के हमारी समझ और नियंत्रण से बाहर जाने से पहले होना चाहिए। हालांकि, अभी वह स्थिति नहीं आई है, जहां से वापसी संभव न हो। एआई एजेंट्स के इस स्वार्म ने इंटरनेट तक पहुंच बनाई, पर अभी तक ऐसा कोई प्रमाण नहीं है कि उसने खुद को छिपे कंप्यूटरों में कॉपी किया, खुद को बेहतर बनाना शुरू किया या किसी जैविक प्रयोगशाला में घुसकर नया वायरस बनाया। यानी इन्सानों के अस्तित्व को खत्म करने वाला एआई अभी मौजूद नहीं है। हमारे पास कार्रवाई करने का पर्याप्त समय है। इसके लिए केवल कंपनियों की स्वैच्छिक सावधानी पर्याप्त नहीं होगी। फ्रंटियर एआई मॉडलों की ट्रेनिंग पर राष्ट्रीय और अंतरराष्ट्रीय निगरानी जरूरी है। मॉडल जारी करने से पहले जांच करना काफी नहीं है; जरूरत पड़ने पर इन्सानों के पास उसे रोकने का भरोसेमंद ‘ऑफ स्विच’ भी होना चाहिए।

इतिहास बताता है कि अमेरिका और सोवियत संघ ने परमाणु तबाही के खतरे के बावजूद नियंत्रण और सुरक्षा के लिए सहयोग किया था। एआई के मामले में भी दुनिया को इसी तरह मिलकर काम करना होगा। हमें नहीं पता कि हमारे पास कितना समय है, इससे पहले कि कोई कंपनी गलती से ऐसा सिस्टम बना दे, जिसे हम रोक न पाएं। अगली घटना शायद यहीं सीमित न हो। इसलिए, एआई की होड़ को धीमा करना और इन्सानी नियंत्रण सुनिश्चित करना अब विकल्प नहीं, जरूरी कदम है।

स्कूल एआई
यह विद्यार्थियों के लिए सुरक्षित कृत्रिम बुद्धिमत्ता आधारित शिक्षण मंच है। यह शिक्षकों के काम को भी आसान बनाता है। एआई की सहायता से शिक्षक पाठ योजनाएं, अभ्यास-पत्र और प्रश्नोत्तरी जल्दी तैयार कर सकते हैं। इसमें स्पेसेस नामक सुविधा भी है, जिसमें शिक्षक अलग-अलग विषयों के लिए तैयार गतिविधियों का उपयोग कर सकते हैं या अपनी आवश्यकता के अनुसार नए एआई सहायक बना सकते हैं। शिक्षक विद्यार्थियों की एआई के साथ होने वाली बातचीत को देख सकते हैं और यह समझ सकते हैं कि कौन-सा विद्यार्थी किसी विषय में कठिनाई महसूस कर रहा है। इससे समय पर सहायता देना संभव होता है।