OpenAI का बड़ा खुलासा: ChatGPT पर आंख मूंदकर भरोसा न करें, कंपनी के हेड ने बताए कारण
OpenAI ChatGPT:
ओपनएआई का नया मॉडल GPT-5 लॉन्च हो चुका है, जिसे पहले से ज्यादा सटीक और शक्तिशाली बताया जा रहा है। लेकिन ChatGPT प्रमुख निक टर्ली ने साफ कहा है कि AI को जानकारी का मुख्य स्रोत मानना अभी भी जोखिम भरा है।
विस्तार
ओपनएआई (OpenAI) ने हाल ही में अपना नया लैंग्वेज मॉडल GPT-5 पेश किया है। कंपनी का दावा है कि यह मॉडल पहले की तुलना में काफी बेहतर है, चाहे बात सटीकता की हो, रीजनिंग की हो या हेल्थ और मल्टीमॉडल क्षमताओं की। इसके बावजूद, चैटजीपीटी प्रमुख निक टर्ली का कहना है कि AI को केवल एक सेकेंड ओपिनियन के रूप में इस्तेमाल करना चाहिए, न कि जानकारी का प्राथमिक स्रोत के रूप में।
क्यों खतरनाक है केवल AI पर निर्भर रहना?
टर्ली ने एक इंटरव्यू में बताया कि GPT-5 की सटीकता पहले से ज्यादा है, लेकिन अब भी करीब 10% मामलों में यह गलत जवाब देता है। इसे तकनीकी भाषा में AI हैलुसिनेशन कहा जाता है, यानी जब मशीन तथ्य की बजाय काल्पनिक जानकारी गढ़ देती है।
उनका कहना है, “जब तक एआई हर क्षेत्र में इंसानी विशेषज्ञों से ज्यादा विश्वसनीय नहीं हो जाता, तब तक हम यूजर्स को सलाह देंगे कि इसे प्राइमरी सोर्स न मानें। बेहतर होगा कि इसे दूसरे विचार या सहायक टूल की तरह इस्तेमाल किया जाए।”
AI कैसे करता है गलती
बड़े भाषा मॉडल्स (LLMs) दरअसल एक पैटर्न पर काम करते हैं। ये प्रशिक्षण डेटा के आधार पर अगले शब्द का अनुमान लगाते हैं। ऐसे में जब इन्हें ट्रेनिंग डेटा से बाहर की जानकारी पर सवाल किया जाता है, तो ये अक्सर सही लगने वाले लेकिन गलत जवाब दे देते हैं।
समाधान क्या है?
निक टर्ली मानते हैं कि ChatGPT तब सबसे अच्छा काम करता है जब इसे सर्च इंजन जैसे सत्यापित स्रोतों के साथ जोड़ा जाए। उन्होंने कहा, “हमने चैटजीपीटी में सर्च फीचर जोड़ा है ताकि यह ग्राउंड ट्रुथ से जुड़ सके। यही इस प्रोडक्ट की असली ताकत है।” हालांकि वे आश्वस्त हैं कि भविष्य में हैलुसिनेशन की समस्या खत्म हो जाएगी, लेकिन निकट भविष्य में यह मुमकिन नहीं है।
ओपनएआई की अगली बड़ी योजना
जानकारी के मुताबिक, ओपनएआई जल्द ही अपना खुद का ब्राउजर लॉन्च करने पर काम कर रहा है। इसके अलावा कंपनी के सीईओ सैम ऑल्टमैन ने हाल ही में कहा कि अगर गूगल को अपना क्रोम ब्राउजर बेचना पड़ा, तो ओपनएआई उसे खरीदने में दिलचस्पी रखेगा।