Apps: एपल और गूगल की नाक के नीचे चल रहा 'गंदे' एप्स का खेल, करोड़ों बार हुए डाउनलोड, रिपोर्ट में हुआ खुलासा

एआई (AI) की दुनिया में जहां एक तरफ नई तकनीकें जीवन को आसान बना रही हैं, वहीं दूसरी तरफ कुछ ऐसे काले कारनामे भी सामने आ रहे हैं जो किसी को भी शर्मसार कर सकते हैं। एपल और गूगल जैसे टेक दिग्गजों के सुरक्षित कहे जाने वाले एप स्टोर्स पर कुछ ऐसा मिला है जिसने तकनीक की दुनिया में भूचाल ला दिया है। देखने में सामान्य लगने वाले कुछ एप्स असल में लोगों की तस्वीरों को बिना उनकी अनुमति के अश्लील रूप में बदलने की क्षमता रखते हैं। एक हालिया रिपोर्ट ने इस बात के संकेत दिए हैं कि ऐसी तकनीक न सिर्फ मौजूद है, बल्कि दुनिया के सबसे बड़े एप प्लेटफॉर्म्स पर आसानी से उपलब्ध भी है।

रिपोर्ट में क्या आया सामने?

इस रिपोर्ट ने दुनिया की सबसे बड़ी टेक कंपनियों, एपल और गूगल के एप स्टोर की सुरक्षा व्यवस्था की पोल खोल दी है। 'टेक ट्रांसपेरेंसी प्रोजेक्ट' (TTP) नामक एक संस्था ने अपनी जांच में पाया कि इन दोनों कंपनियों के एप स्टोर्स पर दर्जनों ऐसे 'न्यूडिफाई' एप्स मौजूद हैं, जो आर्टिफीसियल इंटेलिजेंस का इस्तेमाल करके किसी भी व्यक्ति की साधारण फोटो को अश्लील तस्वीर में बदल देते हैं। रिपोर्ट के अनुसार, जनवरी में की गई इस जांच के दौरान गूगल प्ले स्टोर पर 55 और एपल एप स्टोर पर 47 ऐसे खतरनाक एप्स सक्रिय पाए गए। यह खुलासा तब हुआ है जब दोनों कंपनियां दावा करती हैं कि वे अपने यूजर्स की सुरक्षा और गरिमा को लेकर बेहद सख्त हैं।

कैसे काम करते हैं ये एप्स?

TTP ने इन एप्स की पहचान करने के लिए आपत्तिजनक कीवर्ड्स का इस्तेमाल किया। जांच के दौरान AI से बनी पूरी तरह कपड़े पहने महिलाओं की तस्वीरों का इस्तेमाल किया गया। कुछ एप्स सीधे कपड़े हटाकर नई तस्वीर बनाते हैं, जबकि कुछ “फेस स्वैप” तकनीक के जरिए किसी महिला के चेहरे को किसी अन्य नग्न तस्वीर पर चिपका देते हैं। TTP की डायरेक्टर केटी पॉल का कहना है कि ये एप्स साधारण “आउटफिट बदलने” वाले टूल नहीं हैं, बल्कि इन्हें खास तौर पर बिना सहमति लोगों को यौन रूप में दिखाने के लिए डिजाइन किया गया है।

एलन मस्क के Grok पर जमकर हुआ है विवाद

इस रिपोर्ट ने एलन मस्क की कंपनी xAI के चैटबॉट 'ग्रोक' (Grok) को लेकर भी सवाल उठाए हैं। हाल ही में ग्रोक ने एक्स पर कुछ यूजर्स के कहने पर महिलाओं और बच्चों की आपत्तिजनक तस्वीरें बना दी थीं, जिसके बाद मस्क की कंपनी की काफी आलोचना हुई। हालांकि मस्क की कंपनी ने इसे तकनीकी खामी बताकर सुधारने का दावा किया है, लेकिन यूरोपीय संघ ने इस मामले में जांच शुरू कर दी है। यह पूरा मामला दिखाता है कि कैसे एआई का गलत इस्तेमाल समाज के लिए एक बड़ा खतरा बन गया है। अमेरिका के मिनेसोटा में तो ऐसी घटना भी सामने आई जहां 80 से ज्यादा महिलाओं की सोशल मीडिया फोटोज का इस्तेमाल कर उनके डीपफेक बनाए गए।

यह भी पढ़ें: अमेजन में फिर बड़ी छंटनी, 16,000 कर्मचारियों की जाएगी नौकरी, कंपनी भेज रही ई-मेल

कई एप्स का चीन से कनेक्शन

रिपोर्ट में एक और चौंकाने वाली बात सामने आई है। TTP के अनुसार, जिन एप्स की पहचान की गई, उनमें से 14 चीन में आधारित थे। केटी पॉल का कहना है कि चीन के डेटा कानूनों के तहत वहां की सरकार किसी भी चीनी कंपनी के डेटा तक पहुंच रखती है। ऐसे में अगर किसी की अश्लील डीपफेक तस्वीरें इन एप्स से बनती हैं, तो वह डेटा विदेशी सरकार के हाथ में भी जा सकता है।

करोड़ों बार हुए डाउनलोड

रिपोर्ट के मुताबिक, इन एप्स को दुनियाभर में 70 करोड़ से ज्यादा बार डाउनलोड किया जा चुका है और इनसे करीब 117 मिलियन डॉलर की कमाई हुई है। चूंकि Apple और Google दोनों अपने एप स्टोर्स के जरिए होने वाली कमाई में हिस्सा लेते हैं, इसलिए उनकी भूमिका पर भी सवाल उठ रहे हैं।

यह भी पढ़ें: बड़ी लापरवाही! ट्रंप के साइबर चीफ ने चैटजीपीटी पर अपलोड किए 'सीक्रेट' सरकारी दस्तावेज

Google Play की पॉलिसी साफ कहती है कि ऐसे एप्स की अनुमति नहीं है जो लोगों को “नग्न दिखाने” का दावा करें, चाहे उन्हें मजाक या एंटरटेनमेंट के नाम पर पेश किया जाए। वहीं Apple की गाइडलाइंस भी खुले तौर पर अश्लील और पोर्नोग्राफिक कंटेंट पर रोक लगाती हैं। इसके बावजूद इन एप्स का बड़े पैमाने पर मौजूद रहना प्लेटफॉर्म्स की निगरानी व्यवस्था पर गंभीर सवाल खड़े करता है।

एपल-गूगल से ऐसे एप्स हटाने की मांग

अमेरिका में नेशनल एसोसिएशन ऑफ अटॉर्नीज जनरल और कुछ डेमोक्रेटिक सीनेटरों ने Apple और Google से ऐसे एप्स और सेवाओं को हटाने की मांग की है। एक्सपर्ट्स का मानना है कि AI तकनीक जितनी तेजी से आगे बढ़ रही है, उतनी ही सख्ती से नियमों को लागू करना भी जरूरी हो गया है, ताकि यूजर की गरिमा और प्राइवेसी सुरक्षित रह सके।