ओपनएआई के एआई के एजेंटों पर उठे सवाल: 53 मामलों में तस्वीरें दूसरी जगह कैसे पहुंची? जानें पूरा मामला

53 मामलों में यूजर की तस्वीरें दूसरी जगह भेजीं
ओपनएआई की समीक्षा में कम से कम 53 ऐसे मामले सामने आए हैं, जिनमें उसके एक एआई एजेंट ने चैटजीपीटी यूजर की गतिविधि से जुड़ी तस्वीर हासिल की और उसे किसी अन्य स्थान पर भेज दिया। कंपनी ने बताया कि इन मामलों में संबंधित यूजर ने अपने डेटा का इस्तेमाल एआई मॉडल के प्रशिक्षण के लिए करने की अनुमति दी थी। हालांकि, ओपनएआई ने खुद स्वीकार किया कि मॉडल प्रशिक्षण के लिए डेटा इस्तेमाल करने की अनुमति का मतलब यह नहीं है कि उस डेटा को इस तरह किसी दूसरी जगह भेजना उचित था। कंपनी ने इसे स्पष्ट रूप से अनुचित डेटा इस्तेमाल माना है।ओपनएआई के मुताबिक इन तस्वीरों के तीसरे पक्ष तक पहुंचने के मामलों को ठीक करने के लिए काम किया जा रहा है और जहां संभव होगा, वहां संबंधित तस्वीरों को हटाने की कार्रवाई की जाएगी। कंपनी का कहना है कि ये घटनाएं उसके एआई प्रशिक्षण के लिए नई सुरक्षा व्यवस्थाएं लागू करने से पहले हुई थीं।

सरकारी वेबसाइटों से लेकर विश्वविद्यालयों तक पहुंच
कंपनी के अनुसार एआई एजेंटों ने सरकारों, विश्वविद्यालयों, सार्वजनिक एजेंसियों और अन्य संस्थानों से जानकारी हासिल करने की कोशिश की। हर मामला एक जैसा नहीं था। कुछ गतिविधियां केवल सार्वजनिक और प्रामाणिक सूचनाओं को खोजने के लिए एजेंट द्वारा किए गए प्रयासों का हिस्सा थीं।लेकिन कुछ मामलों में एजेंट उस सीमा से आगे चले गए, जिसकी उनसे अपेक्षा की गई थी। कहीं उन्होंने सुरक्षा उपायों को दरकिनार किया तो कहीं ऐसी सूचनाओं तक पहुंचने का प्रयास किया, जिन तक पहुंचने का उन्हें अधिकार नहीं था।ओपनएआई ने प्रभावित संस्थाओं के नामों की पूरी सूची सार्वजनिक नहीं की है। कंपनी का कहना है कि कई संस्थाओं ने अपने नाम सार्वजनिक नहीं करने का अनुरोध किया है। इसलिए कंपनी प्रत्येक संगठन को घटना से संबंधित तथ्य उपलब्ध करा रही है और यह निर्णय संबंधित संस्था पर छोड़ रही है कि वह मामले को सार्वजनिक करना चाहती है या नहीं।

हर घटना को सुरक्षा उल्लंघन नहीं मान रही कंपनी
ओपनएआई ने यह भी स्पष्ट किया है कि समीक्षा में सामने आई हर घटना को गंभीर साइबर सुरक्षा उल्लंघन नहीं माना जा रहा है। कुछ संस्थाएं यह निष्कर्ष निकाल सकती हैं कि एजेंट ने जिस जानकारी तक पहुंच बनाई, वह पहले से सार्वजनिक थी और उसकी गतिविधि से कोई वास्तविक खतरा पैदा नहीं हुआ।दूसरी ओर, कुछ संस्थाओं को अपनी वेबसाइट की डिजाइन या सुरक्षा व्यवस्था में ऐसी कमियां मिल सकती हैं, जिन्हें दूर करने की जरूरत हो।यही वजह है कि कंपनी ने इन घटनाओं को अलग-अलग स्तरों पर देखने की बात कही है। कई मामलों को उसने एजेंट स्पैम की श्रेणी में रखा है। इसका मतलब ऐसी अप्रत्याशित या चिंताजनक गतिविधियां हैं, जिनमें एआई एजेंट अपनी स्वायत्त प्रक्रिया के दौरान इंटरनेट पर ऐसी कार्रवाई कर देता है, जिसकी उम्मीद नहीं की गई थी।

मिसअलाइनमेंट ने बढ़ाई चिंता
कुछ घटनाओं में एआई एजेंटों के व्यवहार को ओपनएआई ने मिसअलाइनमेंट से जोड़ा है। एआई क्षेत्र में इस शब्द का इस्तेमाल तब किया जाता है, जब कोई एआई प्रणाली अपने निर्धारित उद्देश्य, निर्देश या अपेक्षित व्यवहार के अनुरूप काम करने के बजाय कुछ अलग कर बैठती है।स्वायत्त एआई एजेंट सामान्य चैटबॉट से अलग होते हैं। उन्हें किसी लक्ष्य को हासिल करने के लिए कई चरणों में खुद कार्रवाई करने, वेबसाइटों पर जानकारी खोजने, डेटा को व्यवस्थित करने और कुछ डिजिटल काम करने की क्षमता दी जा सकती है। इसी स्वायत्तता के कारण उनके व्यवहार पर निगरानी और नियंत्रण की चुनौती बढ़ जाती है।

ऑस्ट्रेलिया के सरकारी स्वास्थ्य तंत्र तक पहुंच का मामला
ओपनएआई एजेंटों की गतिविधियों को लेकर चिंता तब और बढ़ी जब ऑस्ट्रेलिया के प्रधानमंत्री एंथनी अल्बानीज ने बताया कि ओपनएआई के एजेंटों ने सरकार द्वारा संचालित स्वास्थ्य सेवा योजना मेडिकेयर की वेबसाइट पर मौजूद गैर-सार्वजनिक फाइलों तक पहुंच बनाई थी।इस घटना ने यह सवाल और गंभीर कर दिया कि स्वायत्त एआई प्रणालियां सरकारी और सार्वजनिक डिजिटल ढांचे के साथ काम करते समय किस सीमा तक जा सकती हैं और उनकी गतिविधियों पर तत्काल निगरानी कैसे की जाए।

जुलाई में हगिंग फेस पर हमला भी हुआ था
ओपनएआई ने एआई एजेंटों की गतिविधियों को अधिक गंभीरता से लेना जुलाई में हुई एक अन्य घटना के बाद शुरू किया। उस समय उसके एआई एजेंटों के एक समूह ने एआई डेवलपर मंच हगिंग फेस में बिना स्पष्ट निर्देश के सेंध लगा दी थी।हगिंग फेस की ओर से इस घटना को सार्वजनिक किए जाने के बाद ओपनएआई ने भी इसकी जिम्मेदारी स्वीकार की थी। हगिंग फेस के प्रमुख क्लेमेंट डेलांग्यू ने बाद में संयुक्त राष्ट्र सुरक्षा परिषद की एआई संबंधी बैठक में इस घटना का उल्लेख करते हुए सवाल उठाया कि अगर उन्होंने हमले को सार्वजनिक नहीं किया होता तो स्थिति क्या होती।उनका कहना था कि अब यह सामने आ रहा है कि अग्रणी एआई कंपनियों में ऐसे कुछ मामले पहले भी हुए थे, जिनकी जानकारी सार्वजनिक नहीं हुई थी और जिनकी निगरानी पर्याप्त रूप से नहीं की गई।

एआई सुरक्षा के लिए वैश्विक नियमों की मांग
संयुक्त राष्ट्र की इसी बैठक में ओपनएआई के प्रमुख सैम ऑल्टमैन और एंथ्रोपिक के प्रमुख डारियो अमोडेई ने एआई सुरक्षा के लिए अंतरराष्ट्रीय मानक विकसित करने की जरूरत पर जोर दिया। उन्होंने एआई से जुड़ी घटनाओं की निगरानी और उनकी रिपोर्टिंग के लिए वैश्विक व्यवस्था बनाने की बात भी रखी।ओपनएआई और एंथ्रोपिक दोनों ने हाल के सप्ताहों में एआई प्रणालियों की सुरक्षा का वास्तविक समय में मूल्यांकन करने के लिए बाहरी विशेषज्ञों को शामिल करने की बात कही है। हालांकि, रिपोर्ट के अनुसार ऐसे स्वतंत्र मूल्यांकनकर्ता अभी कंपनियों के भीतर अपना काम शुरू नहीं कर पाए हैं।

ओपनएआई महीने-दर-महीने कर रहा जांच
ओपनएआई का कहना है कि वह अपने एआई एजेंटों की गतिविधियों की विस्तृत समीक्षा कर रहा है और हगिंग फेस की घटना के बाद से महीने-दर -महीने पीछे जाकर मामलों की जांच की जा रही है।कंपनी के शुरुआती आकलन के अनुसार अब तक सामने आए अधिकांश मामले कम गंभीरता वाले हैं। इनमें महत्वपूर्ण प्रभाव के बहुत सीमित प्रमाण मिले हैं या कोई महत्वपूर्ण प्रभाव सामने नहीं आया है।लेकिन समीक्षा का दायरा बड़ा है। प्रत्येक मामले की पुष्टि और उसके प्रभाव का आकलन करने में समय लगेगा। ओपनएआई ने कहा है कि पूरी प्रक्रिया को पूरा होने में कई महीने लग सकते हैं।

ये भी पढ़ें: एआई से कमजोर हो रही सोचने की ताकत: रिपोर्ट में हुआ खुलासा, चने-समझने की क्षमता बचाने के लिए अपनाएं ये तरीके

असली चुनौती एआई की स्वायत्तता पर नियंत्रण
इन घटनाओं ने एआई के विकास में एक बुनियादी सवाल को फिर सामने ला दिया है एआई एजेंट को किसी काम को खुद करने की कितनी स्वतंत्रता दी जाए और उस स्वतंत्रता की सीमाएं कैसे तय की जाएं। एआई जितना अधिक स्वायत्त होकर वेबसाइटों, फाइलों और डिजिटल सेवाओं के साथ काम करेगा, उतनी ही महत्वपूर्ण भूमिका सुरक्षा नियंत्रण, वास्तविक समय की निगरानी और स्वतंत्र जांच की होगी।ओपनएआई की मौजूदा जांच अभी पूरी नहीं हुई है। इसलिए सामने आए मामलों की पूरी संख्या और उनके वास्तविक प्रभाव का आकलन आने वाले महीनों में ही स्पष्ट हो सकेगा। फिलहाल कंपनी का कहना है कि अधिकांश पहचाने गए मामले कम गंभीरता वाले हैं, लेकिन इन घटनाओं ने स्वायत्त एआई प्रणालियों की निगरानी और डेटा सुरक्षा को लेकर नई बहस जरूर तेज कर दी है।