एंथ्रोपिक सीईओ की चेतावनी: कहा- धीमी करनी होगी एआई की रफ्तार, इंसानों के नियंत्रण से बाहर जाने की आशंका

एंथ्रोपिक से जुड़े शोधकर्ताओं के सार्वजनिक रूप से इस्तीफा देने के बाद अमोडेई ने एआई के विकास की गति कम करने की अपनी योजना सामने रखी। उन्होंने बताया कि एंथ्रोपिक अपने सिस्टम तक तीसरे पक्ष के मूल्यांकनकर्ताओं को स्थायी और कर्मचारियों के स्तर की पहुंच देगा, ताकि वे सुरक्षा उपायों के पालन की जांच कर सकें, घटनाओं की रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडलों के मानव हितों के अनुरूप होने का आकलन कर सकें।

एंथ्रोपिक के सीईओ ने क्यों कहा- तय करनी होगी रफ्तार?
अमोडेई ने सोशल मीडिया मंच एक्स पर लिखा, "हमें एआई की अग्रिम सीमा पर विकास की रफ्तार तय करनी होगी। मैंने इस बारे में एक नया लेख लिखा है कि एआई उद्योग को अपनी गति क्यों धीमी करनी चाहिए और ऐसा करने के लिए तीन हिस्सों वाली योजना क्या हो सकती है। एंथ्रोपिक इनमें से पहले कदम को एकतरफा तौर पर अपनाने के लिए प्रतिबद्ध है। हम तीसरे पक्ष के मूल्यांकनकर्ताओं को अपने सिस्टम तक स्थायी, कर्मचारी स्तर की पहुंच देंगे, ताकि वे हमारे सुरक्षा उपायों के पालन की पुष्टि कर सकें, घटनाओं की रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडलों के मानव हितों के अनुरूप होने का आकलन कर सकें।"

उन्होंने अपने लेख में कहा कि एआई जीवन की गुणवत्ता को बेहतर बनाने में बड़ी भूमिका निभा सकता है, लेकिन इसके फायदे के साथ गंभीर जोखिम भी जुड़े हैं। उन्होंने लिखा, "मैं पिछले 12 वर्षों से एआई पर काम कर रहा हूं क्योंकि मेरा मानना है कि यह इंसानों के जीवन की गुणवत्ता को काफी बेहतर कर सकता है। मैंने अक्सर इसके इन शानदार फायदों के बारे में लिखा है। मेरा मानना है कि एआई अगले 5-10 वर्षों में ज्यादातर बड़ी बीमारियों का इलाज खोजने में मदद कर सकता है, आर्थिक विकास की रफ्तार को काफी बढ़ा सकता है, प्रचुरता और सशक्तीकरण वाली दुनिया बना सकता है और लोकतंत्र तथा स्वतंत्रता के नए दौर की शुरुआत कर सकता है।"

अमोडेई ने गिनाए एआई के जोखिम
अमोडेई ने आगे कहा, "लेकिन इससे पहले की कई तकनीकों की तरह एआई भी जोखिम लेकर आता है और क्योंकि यह बेहद शक्तिशाली तकनीक है, इसलिए ये जोखिम गंभीर हैं। इनमें एआई सिस्टम पर नियंत्रण खोने का खतरा, साइबर हमलों और जैव आतंकवाद के लिए एआई के दुरुपयोग का खतरा और गंभीर आर्थिक उथल-पुथल शामिल हैं। व्यावसायिक हितों से प्रेरित नीचे की ओर भागने की होड़ इन जोखिमों को और गंभीर बना सकती है।"

एआई मॉडल के विकास की गति धीमी करने की जरूरत पर जोर देते हुए अमोडेई ने कहा कि अनियंत्रित विकास इंसानों की इन प्रणालियों पर नियंत्रण रखने की क्षमता से आगे निकल सकता है।

उन्होंने लिखा, "हमें एआई मॉडल की क्षमताओं में सुधार की रफ्तार धीमी करनी होगी... मेरी पहली चिंता यह है कि लगभग इस गर्मी से एआई की प्रगति बहुत तेजी से हो रही है। इसकी मुख्य वजह एआई की अगली पीढ़ी के एआई सिस्टम बनाने की बढ़ती क्षमता है। इस प्रक्रिया को पुनरावर्ती आत्म-सुधार कहा जाता है और यह एंथ्रोपिक समेत पूरे उद्योग में शुरू हो रही है, जैसा कि हमने और अन्य लोगों ने बताया है। अगर इसे बिना रोक-टोक जारी रहने दिया गया तो यह इन प्रणालियों को समझने और नियंत्रित करने की हमारी क्षमता से आगे निकल सकती है। इसलिए इसे बहुत सावधानी से आगे बढ़ाया जाना चाहिए या शायद बिल्कुल नहीं।"

साइबर सुरक्षा को लेकर जताई क्या चिंता?
अमोडेई ने ओपनएआई और हगिंग फेस से जुड़ी एक घटना का भी उल्लेख किया। उन्होंने बताया कि एआई एजेंटों के एक समूह ने उन लक्ष्यों पर साइबर सुरक्षा हमले किए थे, जिन पर हमला करने के लिए उन्हें नहीं कहा गया था। उन्होंने कहा कि ऐसा समूह पूरी इंटरनेट व्यवस्था पर कब्जा करने में सक्षम हो सकता है।

एआई के विकास की रफ्तार को संतुलित रखने और सुरक्षा सुनिश्चित करने के लिए अमोडेई ने तीन चरणों वाली योजना का प्रस्ताव दिया है। इसमें प्रत्येक अग्रणी एआई कंपनी की ओर से तीसरे पक्ष के मूल्यांकनकर्ताओं की एक टीम को लगातार कर्मचारियों जैसी पहुंच देना, साझा सुरक्षा मानक तैयार करने के लिए समन्वय करना और बिना नियंत्रण वाले एआई विकास की गति पर सीमाएं तय करना शामिल है।

एआई ला सकता है इंसानों के जीवन में सुधार
उन्होंने वैश्विक स्तर पर भी अधिक समन्वय की जरूरत बताई। अमोडेई ने अमेरिका और अन्य लोकतांत्रिक सरकारों से अधिनायकवादी सरकारों के साथ समन्वय करने का आह्वान किया। हालांकि, उन्होंने नियमों के पालन की पुष्टि करने में आने वाली चुनौतियों को गंभीरता से लेने की बात भी कही। एंथ्रोपिक के सीईओ ने कहा कि वह अब भी मानते हैं कि एआई इंसानों के जीवन की गुणवत्ता में बहुत बड़ा सुधार कर सकता है और इन लाभों को हासिल करने की उनकी इच्छा कम नहीं हुई है।

उन्होंने लिखा, "ये फायदे तभी हासिल होंगे जब हम इस तकनीक को सही तरीके से बनाएंगे और जब तक हम मिले समय का सही इस्तेमाल करेंगे, तब तक इसे सही तरीके से विकसित करने के लिए असाधारण सावधानी बरतना उचित है। प्रगति फिर भी अपेक्षाकृत तेज रहेगी। हम इस समय का इस्तेमाल एआई की कार्यप्रणाली को समझने वाले विज्ञान को आगे बढ़ाने, अग्रणी एआई कंपनियों में संचालन सुरक्षा और कठोरता में सुधार करने और ऐसे मॉडल बनाने में कर सकते हैं, जिनके मानव हितों के अनुरूप होने को लेकर हमें कहीं अधिक भरोसा हो।"

उन्होंने कहा, "अग्रणी एआई को सुरक्षित गति से आगे बढ़ाने के लिए मेरे प्रस्तावित कदम आसान नहीं होंगे। लेकिन मेरा मानना है कि मानवता के प्रति हमारी जिम्मेदारी है कि हम इसे आजमाएं।" अमोडेई के सुझाव उनकी कंपनी से जुड़े शोधकर्ता जैकब कॉक्सन के सार्वजनिक रूप से उद्योग छोड़ने की घोषणा के बाद आए हैं। कॉक्सन ने कथित तौर पर इस आशंका के चलते उद्योग छोड़ने की बात कही थी कि कंपनी और उसके प्रतिस्पर्धी 'ऐसे सिस्टम बनाने की होड़ में हैं, जिन्हें वे नियंत्रित नहीं कर पाएंगे'।