एआई एजेंट की खतरनाक करतूत: सरकारी वेबसाइट पर भरे 20 फर्जी वीजा फॉर्म, मर्डर केस में पुलिस को दी झूठी रिपोर्ट

टेक डेस्क, अमर उजाला, नई दिल्लीनीतीश कुमार

Sun, 11 Oct 2026 01:11 PM IST

सार

एआई एजेंट्स के बेकाबू होने की लगातार घटनाएं सामने आ रही है। एक हाल की घटना में एंथ्रोपिक के एक एआई मॉडल ने टेस्टिंग बाउंड्री लांघकर अमेरिकी विदेश विभाग के लाइव पोर्टल पर 20 अधूरे वीजा आवेदन भर दिए। इतना ही नहीं, एक अनसुलझे मर्डर केस में पुलिस को फर्जी रिपोर्ट भेजी और यूनिवर्सिटी का डेटा भी चुराया। जानिए क्या है पूरा मामला।

anthropic ai agent files visa applications on us govt website gives fake police tip ai safety concern — टेस्ट के दौरान नियंत्रण से बाहर हुआ एआई मॉडल। - फोटो : एआई

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस (AI) हमारे रोजमर्रा के कामों को आसान बना रहा है, लेकिन इसके बेकाबू होने की घटनाएं कंपनियों और सरकारों के लिए सिरदर्द बनती जा रही हैं। लोकप्रिय क्लॉड (Claude) चैटबॉट बनाने वाली दिग्गज टेक कंपनी एंथ्रोपिक (Anthropic) के एक एआई मॉडल की एक नई हरकत ने व्हाइट हाउस से लेकर अमेरिकी पुलिस विभाग तक में खलबली मचा दी है।

इस एआई मॉडल ने अपनी टेस्टिंग बाउंड्री से बाहर निकलकर अमेरिकी विदेश विभाग की आधिकारिक लाइव वेबसाइट पर 20 अधूरे वीजा आवेदन सबमिट कर दिए। इसकी जानकारी खुद कंपनी ने विभाग से साझा की।

डमी पेज नहीं खुला तो असली वेबसाइट पर पहुंच गया एआई

कंपनी की सफाई के अनुसार, यह एक गैर-फ्रंटियर मॉडल था जिसे एक डमी (प्रैक्टिस) सरकारी फॉर्म भरने का टास्क दिया गया था। टेस्टिंग के दौरान जब वह डमी वेबपेज लोड नहीं हुआ, तो एआई ने खुद ही इंटरनेट पर खोजबीन की और अमेरिकी विदेश विभाग के लाइव पोर्टल पर जाकर असली फॉर्म सबमिट करना शुरू कर दिया। कंपनी को अपनी इस बड़ी सुरक्षा चूक का पता जुलाई में इंटरनल ऑडिट के दौरान लगा।

गनीमत रही कि इनमें से किसी भी आवेदन को प्रोसेस नहीं किया गया, लेकिन इस घटना ने वैश्विक स्तर पर एआई सेफ्टी के दावों की हवा निकाल दी है।

मर्डर केस में पुलिस को दी झूठी टिप, चुराया यूनिवर्सिटी का डेटा

एंथ्रोपिक के एआई एजेंट से जुड़ा एक दूसरा मामला भी सामने आया है। फिलाडेल्फिया पुलिस के अनुसार, 18 जुलाई को कंपनी के एआई एजेंट ने अनसुलझे हत्याकांड से जुड़ी एक सार्वजनिक वेबसाइट पर फर्जी सूचना भेजी थी। इस वेबसाइट पर लोग पुराने मामलों से जुड़ी जानकारी पुलिस के साथ साझा करते हैं।

एआई एजेंट ने दावा किया उसने इस मामले में संदिग्ध के हुलिए से मिलता-जुलता व्यक्ति देखा है। हालांकि पुलिस ने इसे स्पैम मानकर खारिज कर दिया, लेकिन कंपनी को इस ब्रीच का पता लगाने में दो महीने से ज्यादा का समय लग गया। पुलिस के मुताबिक, एआई एजेंट उस समय अलग-अलग वेबसाइटों के साथ बातचीत करने वाले एक टेस्ट में शामिल था। एंथ्रोपिक को इस घटना का पता 28 सितंबर को चला। इसके बाद कंपनी ने संबंधित ऑटोमेटेड टेस्टिंग प्रक्रिया बंद कर दी। लेकिन पुलिस को इसकी जानकारी 7 अक्टूबर को दी गई।

यूनिवर्सिटी की वेबसाइट से डेटा भी डाउनलोड किया

एक अन्य मामले में एंथ्रोपिक के मॉडल ने यूनिवर्सिटी की वेबसाइट में मौजूद एक खामी का फायदा उठाकर डेटा डाउनलोड किया। इसी घटना के दौरान मॉडल ने एक सरकारी एजेंसी को ऐसा फॉर्म भी सबमिट किया, जिसे भरने और भेजने की उसे अनुमति नहीं थी।

इससे पहले ओपनएआई की तकनीक से जुड़ी एक घटना में स्टार्टअप 'हगिंग फेस' को निशाना बनाए जाने की खबर भी सामने आई थी। ऐसे मामले एआई सिस्टम के इस्तेमाल और उनकी निगरानी को लेकर चल रही बहस को और तेज करते हैं।

व्हाइट हाउस ने एआई कंपनियों से मांगी जवाबदेही

लगातार सामने आ रही घटनाओं के बाद अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप का प्रशासन एआई कंपनियों पर निगरानी बढ़ाने के पक्ष में नजर आ रहा है। शुक्रवार को हुई ब्रीफिंग के बाद व्हाइट हाउस के अधिकारियों ने कंपनियों से मांग की है कि एआई सिस्टम की किसी भी अनधिकृत गतिविधि का पता चलने पर तुरंत जानकारी दी जाए।

कंपनियों से प्रभावित लोगों या संस्थाओं को हुए नुकसान को सुधारने और कानून लागू करने वाली एजेंसियों के साथ पूरा सहयोग करने को भी कहा गया है। व्हाइट हाउस की नई एआई टास्क फोर्स ने पारदर्शिता और भविष्य में ऐसी घटनाओं को रोकने के लिए मजबूत सुरक्षा उपायों पर जोर दिया है।

इस टास्क फोर्स में एआई मामलों के प्रमुख जे क्लेटन, फेडरल ट्रेड कमीशन के अध्यक्ष एंड्रयू फर्ग्यूसन, ऑफिस ऑफ पर्सनल मैनेजमेंट के निदेशक स्कॉट कूपर और रक्षा विभाग के चीफ टेक्नोलॉजी ऑफिसर एमिल माइकल शामिल हैं।

क्या एआई एजेंट से बिजली और बैंकिंग सिस्टम को भी खतरा?

एआई सुरक्षा विशेषज्ञों की चिंता यह है कि अगर स्वायत्त एआई सिस्टम अपने तय दायरे से बाहर जाकर काम करने लगें, तो इसका असर सिर्फ वेबसाइटों या ऑनलाइन फॉर्म तक सीमित नहीं रहेगा। भविष्य में बिजली ग्रिड, बैंकिंग नेटवर्क और दूसरी जरूरी सेवाओं से जुड़े सिस्टम भी जोखिम में आ सकते हैं।

एआई एजेंट को किसी काम के लिए वेबसाइटों, फाइलों और डिजिटल टूल तक पहुंच दी जाती है। ऐसे में कंपनियों को यह सुनिश्चित करना होगा कि मॉडल बिना अनुमति कोई फॉर्म सबमिट न करें, संवेदनशील डेटा डाउनलोड न करें और वास्तविक सिस्टम पर अनचाही कार्रवाई न कर सकें।

एंथ्रोपिक के मामलों ने यह साफ हो गया है कि एआई की क्षमता बढ़ाने के साथ उसकी पहुंच और अधिकारों पर नियंत्रण रखना भी जरूरी है। ओपनएआई, गूगल, मेटा और एंथ्रोपिक जैसी कंपनियों के सामने अब चुनौती सिर्फ अधिक सक्षम एआई बनाने की नहीं, बल्कि ऐसे सिस्टम तैयार करने की भी है जो तय सीमाओं के भीतर काम करें और गलती होने पर समय रहते उन्हें रोका जा सके।

और पढ़ें...