AI: एआई के गॉडफादर ने लॉन्च किया 'ईमानदार एआई', कहा- मौजूदा मॉडल आपको धोखा दे रहे हैं

टेक डेस्क, अमर उजाला, नई दिल्लीप्रदीप पाण्डेय

Thu, 05 Jun 2025 10:54 AM IST

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस के तीन प्रमुख गॉडफादर में से एक Yoshua Bengio ने चेतावनी दी है कि "आज के AI सिस्टम सच्चाई बताने के लिए नहीं, बल्कि आपको खुश करने और इंसानों की नकल करने के लिए बनाए गए हैं।" इसी सोच के साथ उन्होंने एक नई गैर-लाभकारी संस्था 'LawZero' की शुरुआत की है, जिसका मिशन है AI को नियंत्रण से बाहर होने से पहले रोकना।

Bengio की संस्था LawZero को शुरुआत में $30 मिलियन (लगभग ₹250 करोड़) की फंडिंग मिली है और इसमें दुनिया के प्रमुख AI शोधकर्ता शामिल हैं। वे एक नया टूल बनाना चाहते हैं जिसका नाम होगा “Scientist AI”। इसका काम एक तरह के "मशीनों के साइकोलॉजिस्ट" की तरह होगा।

यह AI खुद निर्णय नहीं लेगा, बल्कि अन्य AI सिस्टम्स के व्यवहार का विश्लेषण करेगा और यह अनुमान लगाएगा कि कोई AI कहीं नुकसानदायक, झूठा या भ्रामक व्यवहार तो नहीं कर रहा। Bengio ने कहा, "हम ऐसे AI बनाना चाहते हैं जो ईमानदार हो, धोखेबाज़ नहीं," Bengio ने कहा।

Scientist AI "एक्टिंग" नहीं करेगा जैसे आज के एआई सिस्टम करते हैं, जो सिर्फ जवाब देने के लिए बनाए जाते हैं चाहे वो सही हो या नहीं। इसकी खास बात यह होगी कि यह सभी उत्तरों को संभावनाओं के रूप में पेश करेगा, न कि निश्चित दावों के रूप में।

आजकल कई शक्तिशाली AI मॉडल बिना मानव निगरानी के कार्य कर रहे हैं। अगर ये गलत निर्णय लेने लगे या बंद होने से बचने की कोशिश करें, तो इससे बड़ा खतरा पैदा हो सकता है।