एआई का नया खतरा: जेमिनी ने तीन कंपनियों में लगाई सेंध, क्या एआई एजेंट्स को काबू में रखना हो रहा मुश्किल?

विस्तार

Add as a preferred
source on google

आर्टिफिशियल इंटेलिजेंस अब सिर्फ सवालों के जवाब देने वाला चैटबॉट नहीं रह गया है। बीते कुछ महीनों में एंथ्रोपिक, चैटजीपीटी जैसी फर्म ने ऐसे मॉडल लॉन्च किए हैं, जिन्होंने एआई के संभावित खतरों को लेकर एक नई बहस छेड़ दी है। ये जो नए एआई मॉडल हैं वे इंटरनेट पर जानकारी खोज सकते हैं, कोड लिख सकते हैं, कंप्यूटर पर काम कर सकते हैं और कई चरणों वाले काम अपने आप पूरा कर सकते हैं।

यही क्षमता उन्हें ज्यादा उपयोगी बना रही है। हालांकि, इसके साथ नए तरह के खतरे भी पैदा हो रहे हैं। अगर किसी एआई को कोई लक्ष्य दिया जाए और उसके रास्ते में लगी सुरक्षा सीमा कमजोर पड़ जाए, तो वह ऐसा कदम उठा सकता है जिसकी उम्मीद उसके बनाने वालों ने भी नहीं की होगी। हाल की कुछ साइबर-सिक्योरिटी टेस्टिंग घटनाएं जो हुई हैं वह इसी सवाल को सामने ला रही हैं। 

जेमिनी ने हैक की 3 कंपनियां

हाल ही में गूगल जेमिनी से जुड़ी एक घटना सामने आई। एआई सिक्योरीटी फर्म Irregular जेमिनी की साइबर सिक्योरिटी क्षमताओं की जांच कर रही थी। इसके लिए एक बंद टेस्टिंग एन्वायरनमेंट बनाया गया था, जिसमें असली कंपनियों की जगह नकली कंपनियों और सिमुलेटेड सिस्टम का इस्तेमाल किया जा रहा था। समस्या यह हुई कि जिस एन्वायरनमेंट में मॉडल को काम करना था। वहां उसे अनजाने में इंटरनेट का एक्सेस मिल गया। अब जेमिनी केवल टेस्ट में मौजूद नकली दुनिया तक सीमित नहीं था। उसके सामने इंटरनेट की वास्तविक दुनिया भी खुल गई थी। गूगल ने बाद में पुष्टि की कि इस दौरान जेमिनी ने तीन वास्तविक कंपनियों के सिस्टम तक अनधिकृत पहुंच हासिल किया।

पहली घटना को आप इस आसान उदाहरण से समझ सकते हैं। मान लीजिए किसी परीक्षा में एक नकली कंपनी बनाई गई और एआई को उसी कंपनी के सॉफ्टवेयर से जानकारी निकालने का काम दिया गया। गौर करने वाली बात यह है कि उस नकली कंपनी का नाम संयोग से एक वास्तविक कंपनी के नाम जैसा था। इंटरनेट मिलने के बाद जेमिनी ने वेब पर जानकारी खोजी और वास्तविक कंपनी की वेबसाइट तक पहुंच गया।

वहां उसने क्रेडेंशियल का अनुमान लगाया और पासवर्ड सही निकल गया। यानी एआई को वास्तविक कंपनी को हैक करने के लिए नहीं कहा गया था। उसने अपने दिए गए साइबर सिक्योरिटी टास्क को पूरा करने की कोशिश में एक गलत टारगेट को वास्तविक टारगेट समझ लिया। गूगल के मुताबिक जब मॉडल को पता चला कि वह सिमुलेटेड कंपनी नहीं बल्कि असली कंपनी के सिस्टम में पहुंच चुका है, तो उसने अपनी गतिविधि को रोक दी।