एआई खुद अपनी अगली पीढ़ी बनाएगा तो कौन रोकेगा?: ओपनएआई ने सुरक्षा मानकों की मांग की, क्या है मामला?

ओपनएआई ने अपने नए प्रस्ताव में एआई अलाइनमेंट रिसर्च और रिकर्सिव सेल्फ-इम्प्रूवमेंट (आरएसआई) को प्रमुख मुद्दा बनाया है। कंपनी का कहना है कि एआई की क्षमताओं के साथ-साथ यह सुनिश्चित करना भी जरूरी है कि ये सिस्टम मानव मूल्यों के अनुरूप रहें और उनके विकास पर इंसानों का नियंत्रण बना रहे।

आरएसआई क्या है और इससे चिंता क्यों?
सीएनबीसी के अनुसार रिकर्सिव सेल्फ-इम्प्रूवमेंट का मतलब ऐसी प्रक्रिया से है जिसमें एआई सिस्टम अपनी क्षमताओं को बेहतर बनाने में मदद कर सके और उसके बाद बेहतर हुआ सिस्टम आगे और सुधार की प्रक्रिया को तेज कर सके। सरल शब्दों में कहें तो एआई ऐसा सिस्टम विकसित कर सके जो अपनी अगली पीढ़ी को और अधिक सक्षम बनाने में योगदान दे।यही क्षमता एआई के विकास की गति को बहुत तेज कर सकती है। लेकिन इसके साथ एक बड़ा सवाल भी जुड़ा है,अगर एआई सिस्टम लगातार अधिक जटिल और सक्षम होते गए तो क्या इंसान उनके काम करने के तरीके को पूरी तरह समझ और नियंत्रित कर पाएंगे?ओपनएआई ने अपने प्रस्ताव में स्पष्ट कहा है कि पूरी तरह ऑटोनॉमस आरएसआई अभी संभव नहीं है और इसे तब तक आगे नहीं बढ़ाया जाना चाहिए, जब तक इसे सुरक्षित तरीके से करने की क्षमता विकसित न हो जाए।कंपनी के मुताबिक पर्याप्त सावधानी के बिना आरएसआई ऐसी स्थिति पैदा कर सकता है जिसमें इंसान एआई के विकास पर व्यावहारिक नियंत्रण खो दें और उन रिसर्च प्रक्रियाओं की निगरानी करने में सक्षम न रहें जिन्हें वे खुद पूरी तरह समझ नहीं पा रहे हों।

एआई के लिए दुनिया भर में समान नियमों की मांग
ओपनएआई ने फ्रंटियर एआई के विकास के लिए अंतरराष्ट्रीय सहयोग की जरूरत बताई है। कंपनी का सुझाव है कि दुनिया के अलग-अलग देशों में काम कर रहे एआई सेफ्टी संस्थानों के अनुभव और मौजूदा व्यवस्थाओं को आधार बनाकर साझा तकनीकी मानक तैयार किए जाएं।इन मानकों का फोकस खास तौर पर फ्रंटियर एआई मॉडल और उन्हें विकसित करने वाली कंपनियों पर होना चाहिए। साथ ही ऐसे एआई सिस्टम के लाभ और जोखिम का आकलन करने के लिए भी स्पष्ट व्यवस्था होनी चाहिए जो ऑटोमेटेड रिसर्च कर सकते हैं।यह प्रस्ताव इसलिए महत्वपूर्ण है क्योंकि एआई मॉडल अब केवल सवालों के जवाब देने या कंटेंट बनाने तक सीमित नहीं रह गए हैं। वे कोड लिख सकते हैं, रिसर्च कर सकते हैं, टूल का इस्तेमाल कर सकते हैं और कई कामों को स्वायत्त तरीके से पूरा करने की दिशा में बढ़ रहे हैं।

एआई सेफ्टी पर ओपनएआई और एंथ्रोपिक की चिंता
एआई सुरक्षा को लेकर यह बहस केवल ओपनएआई तक सीमित नहीं है। उसकी प्रतिद्वंद्वी कंपनी एंथ्रोपिक ने भी हाल में फ्रंटियर एआई मॉडल के सुरक्षित विकास के लिए कई प्रस्ताव सामने रखे हैं।एंथ्रोपिक के प्रमुख डारियो अमोडेई ने एआई मॉडल के विकास की गति को लेकर सावधानी बरतने की बात कही है। उन्होंने संभावित जोखिमों की पहचान और उन्हें कम करने के लिए कंपनियों के भीतर थर्ड-पार्टी स्वतंत्र मूल्यांकनकर्ताओं की भूमिका बढ़ाने का विचार भी रखा है। एआई सेफ्टी विशेषज्ञों के बीच यह सवाल भी उठ रहा है कि क्या एआई कंपनियों की अपनी सुरक्षा जांच पर्याप्त है या अत्यधिक सक्षम मॉडल की स्वतंत्र जांच के लिए बाहरी संस्थानों को अधिक पहुंच दी जानी चाहिए।

सबसे बड़ा सवाल,कंट्रोल किसके हाथ में रहेगा?
एआई सुरक्षा की बहस का केंद्र यही सवाल है। अभी एआई सिस्टम इंसानों द्वारा बनाए गए डेटा, कंप्यूटिंग संसाधनों और निर्देशों पर निर्भर हैं। लेकिन जैसे-जैसे एआई सिस्टम अधिक स्वायत्त होते जाएंगे, उनकी क्षमताओं और निर्णय प्रक्रियाओं को समझना और नियंत्रित करना चुनौतीपूर्ण हो सकता है।ओपनएआई ने अपने प्रस्ताव में ह्यूमन कंट्रोल यानी मानव नियंत्रण को केंद्रीय मुद्दा बनाया है। कंपनी का कहना है कि एआई की क्षमताएं बढ़ाने के साथ यह सुनिश्चित करना जरूरी है कि उसके व्यवहार को मानव मूल्यों के अनुरूप रखा जा सके।इसका मतलब यह नहीं है कि एआई आज इंसानों से स्वतंत्र होकर खुद को विकसित कर रहा है। बल्कि चिंता भविष्य की उस स्थिति को लेकर है जिसमें एआई रिसर्च और मॉडल विकास में स्वचालन का स्तर बहुत अधिक बढ़ सकता है।

सुरक्षा मानक क्यों जरूरी हो रहे हैं?
एआई के तेजी से विकास ने साइबर सुरक्षा, गलत सूचना, स्वायत्त एजेंटों और जैव सुरक्षा जैसे क्षेत्रों में संभावित जोखिमों को लेकर चिंता बढ़ाई है। ऐसे में केवल यह सवाल पर्याप्त नहीं है कि एआई क्या कर सकता है। अब यह सवाल भी महत्वपूर्ण है कि एआई को क्या करने की अनुमति दी जानी चाहिए और इसकी निगरानी कौन करेगा।इसीलिए ओपनएआई अंतरराष्ट्रीय स्तर पर साझा तकनीकी मानकों की बात कर रहा है। हालांकि अभी एआई मूल्यांकन और सुरक्षा के क्षेत्र में ऐसे वैश्विक मानकों पर व्यापक सहमति नहीं बनी है।

स्वतंत्र एआई मूल्यांकनकर्ताओं का एक समूह भी कंपनियों से अधिक पारदर्शिता और गहरी तकनीकी जांच की सुविधा देने की मांग कर रहा है, ताकि अत्यधिक सक्षम एआई मॉडल की सुरक्षा का बाहरी स्तर पर भी परीक्षण किया जा सके।

आगे की राह क्या होगी?
एआई की दौड़ अब केवल बेहतर चैटबॉट या अधिक शक्तिशाली मॉडल बनाने की प्रतिस्पर्धा नहीं रह गई है। अगला चरण ऐसे एआई सिस्टम का हो सकता है जो रिसर्च, कोडिंग और दूसरे जटिल कामों में कहीं अधिक स्वायत्त भूमिका निभाएं।

ऐसे में तकनीकी विकास और सुरक्षा के बीच संतुलन सबसे बड़ी चुनौती होगी।ओपनएआई का नया प्रस्ताव इसी बहस को अंतरराष्ट्रीय स्तर पर आगे बढ़ाने की कोशिश है।फिलहाल सबसे महत्वपूर्ण बात यह है कि एआई को अधिक सक्षम बनाने की दौड़ के साथ उसकी सुरक्षा, मानव नियंत्रण और स्वतंत्र जांच की व्यवस्था भी उसी गति से विकसित हो।

समझें: आरएसआई का मतलब क्या
रिकर्सिव सेल्फ-इम्प्रूवमेंट (आरएसआई): ऐसी प्रक्रिया जिसमें एआई अपनी क्षमताओं को बेहतर बनाने में योगदान दे और बेहतर हुई क्षमता आगे के सुधार में मदद करे। इसकी संभावित ताकत यह है कि एआई विकास की गति तेज हो सकती है। चिंता यह है कि अत्यधिक स्वायत्त और जटिल सिस्टम को इंसानों के लिए समझना और नियंत्रित करना कठिन हो सकता है।