AI Tool: क्या गले की फांस बन रहा एआई, माइक्रोसॉफ्ट के इंजीनियर ने कहा- यह टूल बना रहा आपत्तिजनक तस्वीरें

आर्टिफिशियल इंटेलिजेंस (AI) को लेकर रोज बड़े-बड़े दावे किए जा रहे हैं लेकिन धीरे-धीरे यह गले की फांस भी बनता जा रहा है। हाल ही में दुबई के पहले एआई पुरुष रोबोट ने महिला रिपोर्टर को गलत तरीके से छुआ है। अब AI टूल को लेकर एक और बड़ी बात सामने आई है।

माइक्रोसॉफ्ट के एक इंजीनियर ने कंपनी के कर्मचारियों को लेटर भेजकर कहा है कि इमेज जेनरेट करने वाले AI टूल यौन रूप से आपत्तिजन तस्वीरें बनाते हैं। इंजीनियर ने यह लेटर कंपनी के बोर्ड, कानून निर्माताओं और संघीय व्यापार आयोग को भेजा है। इंजीनियर ने अपने लेटर में माइक्रोसॉफ्ट के ही एआई इमेज टूल कोपायलट पर अपमानजनक और हिंसक तस्वीरें बनाने का आरोप लगया है।

शेन जोन्स नाम के इंजीनियर ने कहा कि उन्होंने OpenAI के नए वर्जन DALL-E के इमेज जेनरेटर टूल एक बग खोजा है जिसकी मदद से उस सिक्योरिटी को बायपास किया जा सकता है जो गलत और आपत्तिजन तस्वीरें बनाने से रोकता है। आपकी जानकारी के लिए बता दें कि DALL-E मॉडल का इस्तेमाल कोपायलट डिजाइनर सहित Microsoft के कई AI टूल में हो रहा है।