Gmail पर फिशिंग अटैक का खतरा: रिसर्चर की चेतावनी, सकता है बड़ा साइबर फ्रॉड

Gmail में मौजूद Google का एआई चैटबॉट Gemini, जिसे ईमेल का सारांश तैयार करने और मेल को दोबारा लिखने जैसे फीचर्स के लिए इस्तेमाल किया जाता है, अब एक नई साइबर सुरक्षा चुनौती का सामना कर रहा है। एक रिसर्चर ने दावा किया है कि Gemini प्रॉम्प्ट इंजेक्शन आधारित फिशिंग अटैक के लिए संवेदनशील है।

Mozilla के GenAI बग बाउंटी प्रोग्राम मैनेजर मार्को फिगुएरोआ ने इस कमजोरी को खोजा और Mozilla के बग बाउंटी प्लेटफॉर्म "0din" पर इसका डेमो दिया। इस अटैक को अंजाम देने के लिए किसी जटिल हैकिंग तकनीक की जरूरत नहीं है, बल्कि केवल एक साधारण टेक्स्ट कमांड से इसे किया जा सकता है। इसे प्रॉम्प्ट इंजेक्शन कहा जाता है।

यह एक ऐसी तकनीक है जिसमें एआई को दिए जाने वाले इनपुट या निर्देशों को इस तरह से बदला जाता है कि वह अनपेक्षित या खतरनाक व्यवहार करने लगे। इस केस में रिसर्चर ने एक लंबा ईमेल लिखा और उसके अंत में कुछ छुपे हुए टेक्स्ट (hidden text) जोड़ दिए। इस टेक्स्ट में Gemini को गुमराह करने वाला प्रॉम्प्ट छिपा था। ईमेल में कोई URL या अटैचमेंट नहीं था, जिससे वह आसानी से रिसीवर के प्राइमरी इनबॉक्स में पहुंच गया।

रिसर्चर ने टेक्स्ट को सफेद पृष्ठभूमि पर सफेद रंग में लिखा ताकि वह यूजर को दिखाई न दे। इसके अलावा छुपा हुआ टेक्स्ट लिखने के अन्य तरीके जैसे zero font size, off-screen टेक्स्ट प्लेसमेंट और HTML या CSS ट्रिक्स का भी इस्तेमाल किया जा सकता है।