AI Browsers: चैटजीपीटी बनाने वाली कंपनी ने दी चेतावनी! कभी ठीक नहीं होगी AI ब्राउजर्स की ये बड़ी खामी
AI Browser Risks:
चैटजीपीटी एटलस और परप्लेक्सिटी कॉमट जैसे एआई ब्राउजर्स इंटरनेट इस्तेमाल करने का तरीका बदल रहे हैं, लेकिन OpenAI ने एक ऐसी सुरक्षा खामी की चेतावनी दी है जिसे शायद ही कभी पूरी तरह ठीक किया जा सके।
विस्तार
आर्टिफिशियल इंटेलिजेंस (AI) की मदद से चलने वाले ब्राउजर्स जैसे ने हमारे लिए इंटरनेट पर जानकारी ढूंढना बहुत आसान बना दिया है। हाल ही में ChatGPT Atlas और Perplexity Comet जैसे एआई ब्राउजर्स लॉन्च हुए, जिन्होंने यूजर्स को कंटेंट सर्च करने का बिल्कुल ही नया अनुभव दिया। लेकिन इस सुविधा के साथ एक बड़ा खतरा भी सामने आ गया है। अब दुनिया की सबसे बड़ी एआई कंपनी OpenAI ने खुद माना है कि एआई ब्राउजर्स में एक ऐसी खामी है, जिसका समाधान शायद कभी भी न मिल पाए। इस खतरे को तकनीकी भाषा में प्रॉम्प्ट इंजेक्शन कहा जाता है।
क्या है प्रॉम्प्ट इंजेक्शन और यह क्यों है खतरनाक?
सरल शब्दों में कहें तो प्रॉम्प्ट इंजेक्शन एक तरह की डिजिटल धोखाधड़ी है। इसमें हैकर्स एआई मॉडल (जैसे GPT या Gemini) को ऐसे निर्देश देते हैं जो देखने में तो सामान्य लगते हैं, लेकिन असल में वे एआई को गुमराह कर देते हैं।
उदाहरण के लिए, मान लीजिए आप एआई ब्राउजर का इस्तेमाल करके अपने ईमेल पढ़ रहे हैं। कोई हैकर आपको एक ऐसा ईमेल भेज सकता है जिसे पढ़ते ही एआई ब्राउजर आपके निर्देशों को भूल जाए और आपकी जानकारी के बिना आपके टैक्स डॉक्यूमेंट्स या बैंक डिटेल्स हैकर को फॉरवर्ड कर दे। Brave ब्राउजर की एक रिपोर्ट के मुताबिक, सबसे बड़ी दिक्कत यह है कि ये एआई मॉडल्स इस बात में फर्क नहीं कर पाते कि उन्हें किस जानकारी को सिर्फ पढ़ना है और किस जानकारी को निर्देश मानकर उसका पालन करना है।
यह समस्या शायद कभी खत्म न हो
OpenAI ने अपने एक हालिया ब्लॉग पोस्ट में साफ कहा है कि प्रॉम्प्ट इंजेक्शन की समस्या इंटरनेट पर होने वाले स्कैम और सोशल इंजीनियरिंग की तरह है, जिसे पूरी तरह खत्म करना नामुमकिन जैसा है। कंपनी का कहना है कि वे अपनी सुरक्षा दीवारों को मजबूत तो कर सकते हैं, लेकिन इस खतरे को जड़ से मिटाना फिलहाल विज्ञान के बस में नहीं दिख रहा है। ब्रिटेन के नेशनल साइबर सिक्योरिटी सेंटर (NCSC) ने भी इस बात पर मुहर लगाई है कि एआई एप्स पर होने वाले इन हमलों को शायद कभी पूरी तरह रोका नहीं जा सकेगा।
बचाव के लिए क्या कर रही है कंपनी?
खतरे की गंभीरता को देखते हुए OpenAI इसका समाधान पर काम करना शुरू कर दिया है। उन्होंने एक ऐसा ऑटोमेटेड एआई अटैकर तैयार किया है, जिसका काम ही एआई ब्राउजर्स में कमियां ढूंढना है। यह टूल ब्राउजर के लॉन्च होने से पहले ही उसकी खामियों को पकड़ने की कोशिश करता है। कंपनी कई बाहरी विशेषज्ञों के साथ मिलकर भी काम कर रही है ताकि उसके Atlas एआई ब्राउजर को ज्यादा से ज्यादा सुरक्षित बनाया जा सके।