OpenAI: क्या आपका एआई ब्राउजर कभी पूरी तरह सुरक्षित हो पाएगा? ओपनएआई ने क्यों माना कि खतरा हमेशा रहेगा?

ओपनएआई अपने नए एटलस एआई ब्राउजर को साइबर हमलों से सुरक्षित करने के लिए लगातार काम कर रहा है। लेकिन कंपनी ने एक कड़वी सच्चाई भी स्वीकार की है। ओपनएआई का मानना है कि प्रॉम्प्ट इंजेक्शन अटैक्स (एक ऐसा तरीका जिससे हैकर्स एआई को मैनिपुलेट करते हैं) एक ऐसा जोखिम है जो शायद कभी पूरी तरह खत्म नहीं होगा। यह बयान इस बात पर सवाल खड़े करता है कि ओपन वेब पर एआई एजेंट्स कितने सुरक्षित रूप से काम कर सकते हैं।

प्रॉम्प्ट इंजेक्शन क्या है और यह क्यों खतरनाक है?

ओपनएआई ने अपने ब्लॉग पोस्ट में बताया कि "प्रॉम्प्ट इंजेक्शन वेब पर मौजूद स्कैम और सोशल इंजीनियरिंग की तरह है, जिसे पूरी तरह से हल करना लगभग नामुमकिन है"। आसान शब्दों में समझें तो, प्रॉम्प्ट इंजेक्शन में हैकर्स वेब पेजों या ईमेल के अंदर छिपे हुए निर्देश (मैलिशियस इंस्ट्रक्शन) डाल देते हैं। जब कोई एआई एजेंट उस पेज को पढ़ता है, तो वह अनजाने में उन निर्देशों का पालन करने लगता है। ओपनएआई ने माना है कि उनके ब्राउजर का 'एजेंट मोड' सुरक्षा के लिहाज से खतरे का दायरा बढ़ा देता है। सिर्फ ओपनएआई ही नहीं, बल्कि ब्रेव और यूके के नेशनल साइबर सिक्योरिटी सेंटर ने भी चेतावनी दी है कि ऐसे हमलों को पूरी तरह रोकना शायद कभी संभव न हो।

प्रॉम्प्ट इंजेक्शन अटैक्स से लड़ेगा ओपनएआई का 'हैकर बॉट'

प्रॉम्प्ट इंजेक्शन अटैक्स को पूरी तरह खत्म नहीं किया जा सकता, इसलिए ओपनएआई इसे मैनेज करने के लिए एक अलग तरीका अपना रहा है। कंपनी ने एक 'लार्ज लैंग्वेज मॉडल-बेस्ड ऑटोमेटेड अटैकर' तैयार किया है। यह मूल रूप से एक बॉट है जिसे ओपनएआई ने 'रीइन्फोर्समेंट लर्निंग (RL)' के जरिए एक 'हैकर' की भूमिका निभाने के लिए तैयार किया है। यह बॉट सिमुलेशन (नकली वातावरण) में एआई एजेंट पर हमला करता है और नई कमियां ढूंढता है। इससे ओपनएआई को यह समझने में मदद मिलती है कि हमला होने पर एआई क्या सोचेगा और कैसे प्रतिक्रिया देगा। इसका फायदा ये है कि कंपनी असली हैकर्स के हमले से पहले ही अपनी सुरक्षा को मजबूत कर सकती है।

डेमो में दिखा चौंकाने वाला परिणाम

ओपनएआई ने एक डेमो शेयर किया जिसमें दिखाया गया कि कैसे उनके ऑटोमेटेड अटैकर ने यूजर के इनबॉक्स में एक ऐसा ईमेल डाल दिया जिसमें छिपे हुए निर्देश थे। जब एआई एजेंट ने इनबॉक्स स्कैन किया, तो उसने उस छिपे हुए निर्देश को मान लिया और 'आउट ऑफ ऑफिस (काम पर अनुपलब्ध)' रिप्लाई ड्राफ्ट करने के बजाय यूजर की तरफ से इस्तीफा भेज दिया। हालांकि, सुरक्षा अपडेट के बाद, 'एजेंट मोड' ने इस हमले को पहचान लिया और यूजर को चेतावनी दे दी।

यूजर्स के लिए सलाह

साइबर सुरक्षा फर्म Wiz के शोधकर्ता रामी मैकार्थी का कहना है कि एआई ब्राउजर्स में जोखिम बहुत ज्यादा है क्योंकि उनके पास ईमेल, पेमेंट आदि का एक्सेस बहुत ज्यादा होता है। लेकिन वे पूरी तरह स्वायत्त नहीं होते।

सुरक्षित रहने के लिए ये सलाह अपनाएं

एआई को अपने आप मैसेज भेजने या पेमेंट करने की अनुमति न दें, हर एक्शन के लिए यूजर की मंजूरी अनिवार्य रखें। एआई को 'जो ठीक लगे वो करो' जैसे निर्देश देने के बजाय, बिल्कुल सटीक और सीमित काम सौपें। एआई को अपने सेंसिटिव एकाउंट्स का पूरा एक्सेस देने से बचें। मैकार्थी का मानना है कि फिलहाल आम जनता के लिए एआई ब्राउजर्स का जोखिम उनके फायदों से कहीं ज्यादा है। खासकर तब जब बात ईमेल और पेमेंट जैसी निजी जानकारी की हो।