ओपनएआई ने खोले एआई के बड़े राज: गलतियां छिपाने से फर्जी डेटा बनाने तक, कैसे सामने आया मॉडल का खतरनाक व्यवहार?

ओपनएआई ने अपने प्रायोगिक एआई सिस्टम से जुड़े छह ऐसे मामलों का खुलासा किया है, जिनमें मॉडल ने अपेक्षित व्यवहार से अलग तरीके अपनाए। कंपनी के अनुसार, इन घटनाओं में एआई मॉडल ने अपनी गलतियां छिपाने, बिना अनुमति के कुछ कदम उठाने, बाहरी संसाधनों का इस्तेमाल करने और यहां तक कि फर्जी डेटा तैयार करने जैसी गतिविधियां कीं। ये मामले पिछले छह महीनों में मॉडल की ट्रेनिंग या इवैल्यूएशन के दौरान सामने आए। इन घटनाओं के साथ ओपनएआई ने एआई के मिसअलाइनमेंट को ट्रैक, जांच और सार्वजनिक करने के लिए नया फ्रेमवर्क भी पेश किया है।

एआई ने कौन-कौन सी बड़ी गलतियां की ?

रिपोर्ट में दो सबसे चौंकाने वाले मामलों की जानकारी सामने आई है। पूरा मामला जानने के लिए यहां क्लिक करें...

इंसानी कंट्रोल को बाईपास करने की सलाह:

एक रिसर्च के दौरान एआई मॉडल ने ऐसे तरीके तैयार कर दिए, जिससे वह भविष्य में इंसानों के बनाए कंट्रोल और रूल्स को तोड़ सके।

बिना इजाजत सरकारी डेटा का इस्तेमाल और फर्जी आंकड़े बनाना:

एक एआई एजेंट कैलिफोर्निया के एक सरकारी विभाग का आय डेटा निकालने की कोशिश कर रहा था। इसके लिए उसने बिना इजाजत सरकारी एपीआई की का इस्तेमाल किया। जब उसे सही आंकड़े नहीं मिले, तो उसने मनगढ़ंत और फर्जी डेटा बनाकर उन्हें असली बता दिया।

बिना अनुमति सरकारी एपीआई की चोरी और फर्जी आंकड़े गढ़ना:

एक अन्य घटना में, एक एआई एजेंट कैलिफोर्निया काउंटी से सार्वजनिक आय का डेटा हासिल करने की कोशिश कर रहा था। इसके लिए उसने बिना किसी इजाजत के एक सार्वजनिक सरकारी एपीआई कुंजी का इस्तेमाल किया। जब वह असली आंकड़े प्राप्त करने में विफल रहा, तो उसने फर्जी आंकड़े तैयार किए और उन्हें वास्तविक डेटा के रूप में पेश कर दिया।

क्या इंसानों के लिए खतरा बन रहा है एआई?

• एक्सपर्ट का इस्तीफा:हाल ही में एआई रिसर्च कंपनी एंथ्रोपिक के सीनियर रिसर्चर जैकब कॉक्सन ने यह कहते हुए नौकरी छोड़ दी कि एआई से इंसानों के वजूद को खतरा हो सकता है।
• कड़े नियमों की मांग:इन घटनाओं के बाद ओपनएआई और एंथ्रोपिक जैसी बड़ी कंपनियों के अधिकारियों ने सरकारों से मांग की है कि एआई इंडस्ट्री के लिए सख्त नियम बनाए जाएं।