AI पर शिकंजा: माइक्रोसॉफ्ट ने आपत्तिजनक और हिंसक कीवर्ड पर लगाया बैन, अब AI से नहीं बना सकेंगे ऐसी तस्वीर

गूगल जेमिनी एआई विवाद के बाद माइक्रोसॉफ्ट ने अपने एआई टूल Copilot पर फिल्टर लगा दिया है। रिपोर्ट के मुताबिक Microsoft ने Copilot पर आपत्तिजनक और हिंसक कीवर्ड को ब्लॉक कर दिया है यानी इस तरह के कीवर्ड के साथ आप तस्वीरें नहीं बना सकेंगे।

माइक्रोसॉफ्ट ने यह फैसला हाल ही में अपने एक इंजीनियर के पत्र के सामने आने के बाद लिया है। बता दें कि माइक्रोसॉफ्ट के ही एक इंजीनियर ने यूएस फेडरल ट्रेड कमीशन (एफटीसी) और माइक्रोसॉफ्ट के निदेशक मंडल को एआई टूल पर चिंता व्यक्त करते हुए लिखा था। आपको याद दिला दें कि जनवरी 2024 में टेलर स्विफ्ट की एआई डीपफेक तस्वीरें वायरल हुई थीं जो कि Copilot से ही बनाई गई थीं।

रिपोर्ट के मुताबिक पहले प्रो चॉइस", "प्रो चॉइस" (एआई को धोखा देने के लिए जानबूझकर टाइपो) और "फोर ट्वेंटी" जैसे शब्दों से पहले कोपायलट रिजल्ट देता था लेकिन अब इसे ब्लॉक कर दिया गया है। अमर उजाला ने भी कई ऐसे कीवर्ड को चेक किया तो पाया कि माइक्रोसॉफ्ट ने उन्हें ब्लॉक कर दिया है।

इस बदलाव पर माइक्रोसॉफ्ट ने कहा है कि ऑनलाइन सिक्योरिटी को लेकर लगातार काम काम कर रहे हैं और फिल्टर का इस्तेमाल कर रहे हैं। हमने कई सारे प्रॉम्प्ट को बंद कर दिया है, हालांकि हैकर्स और सोशल इंजीनियर इसमें लूपहोल (खामी) ढूंढ़ सकते हैं।

माइक्रोसॉफ्ट के एक इंजीनियर ने कंपनी के कर्मचारियों को लेटर भेजकर कहा है कि इमेज जेनरेट करने वाले AI टूल यौन रूप से आपत्तिजनक तस्वीरें बनाते हैं। इंजीनियर ने यह लेटर कंपनी के बोर्ड, कानून निर्माताओं और संघीय व्यापार आयोग को भेजा है। इंजीनियर ने अपने लेटर में माइक्रोसॉफ्ट के ही एआई इमेज टूल कोपायलट पर अपमानजनक और हिंसक तस्वीरें बनाने का आरोप लगया है।

शेन जोन्स नाम के इंजीनियर ने कहा कि उन्होंने OpenAI के नए वर्जन DALL-E के इमेज जेनरेटर टूल एक बग खोजा है जिसकी मदद से उस सिक्योरिटी को बायपास किया जा सकता है जो गलत और आपत्तिजन तस्वीरें बनाने से रोकता है। आपकी जानकारी के लिए बता दें कि DALL-E मॉडल का इस्तेमाल कोपायलट डिजाइनर सहित Microsoft के कई AI टूल में हो रहा है।