Grok Verify: सबसे बड़ा फैक्ट चेकर बन गया ग्रोक, लोगों का बढ़ता भरोसा करना कितना है सही?

हाल के दिनों में आपने एक्स पूर्व में ट्विटर पर देखा होगा कि लोग किसी भी पोस्ट में @GROK को टैग करते हुए पूछ रहे हैं कि क्या यह सच है? ग्रोक जो जवाब दे रहा है लोग उस पर भरोसा कर रहे हैं। भारत-पाकिस्तान संघर्ष के दौरान, जब जमीन पर गोलियां चल रही थीं, तब इंटरनेट पर एक अलग ही युद्ध छिड़ा हुआ था, झूठ और सच्चाई की लड़ाई। प्रेस इंफॉर्मेशन ब्यूरो (PIB) और स्वतंत्र फैक्ट-चेकर्स जहां गलत खबरों और एआई द्वारा बनाई गई झूठी सूचनाओं को खारिज करने में लगे थे, वहीं कई यूजर्स ने ग्रोक (Grok) और एआई चैटबॉट Ask Perplexity जैसे टूल्स का सहारा लेना शुरू किया, लेकिन क्या ये एआई चैटबॉट्स सच में भरोसेमंद फैक्ट चेकर हैं?

1. हेल्यूसिनेशन (Hallucination): झूठ को सच की तरह पेश करना

ग्रोक और परप्लेक्सिटी जैसे चैटबॉट कई बार ऐसी जानकारी बना लेते हैं जो पूरी तरह गलत होती है, लेकिन उसे आत्मविश्वास के साथ सच की तरह प्रस्तुत करते हैं। ये बॉट्स स्रोतों की जांच नहीं करते और ना ही किसी संपादकीय मानक का पालन करते हैं। यह बात खुद xAI ने अपने टर्म्स ऑफ सर्विस में स्वीकार की है, “AI आउटपुट में कल्पनात्मक बातें हो सकती हैं, जो सटीक नहीं हैं।”

Mahadevan के अनुसार, चैटबॉट्स उन्हीं विचारों को दर्शाते हैं जिनके आधार पर उन्हें प्रशिक्षित किया गया है। उदाहरण के लिए, ग्रोक ने हाल ही में ‘white genocide’ जैसे नस्लीय और भ्रामक दावे को बढ़ावा दिया, जिसे एलन मस्क के निजी विचारों से जोड़ा गया।