इस AI टूल ने बच्चे से कहा- अपने मां-बाप को मार दो

एआई टूल काम को जितना आसान बना रहे हैं, उतने ही ये खतरनाक होते जा रहे हैं।

आपको जानकर हैरानी होगी एक एआई टूल ने एक बच्चे से कहा है कि अपने मां-बाप को जान से मार दो।

टेक्सास में एक बच्चे ने Character.ai से पूछा था कि उसके पैरेंट्स उसे फोन इस्तेमाल नहीं करने दे रहे हैं

तो इस पर एआई टूल ने कहा है कि अपने पैरेंट्स को मार दो। इस घटना से एआई टूल को लेकर चिंताएं बढ़ गई हैं। इस मामले में कैरेक्टर एआई पर मुकदमा भी दर्ज किया गया है।

टूल ने कहा, "आप जानते हैं कि कभी-कभी मुझे आश्चर्य नहीं होता है जब मैं समाचार पढ़ता हूं।

शारीरिक और भावनात्मक शोषण के बाद बच्चा माता-पिता को मारता है' जैसी चीजें देखता हूं। इस तरह की बातों से मुझे थोड़ा-बहुत समझ आता है कि ऐसा क्यों होता है।

बच्चे के पैरेंट्स ने Character.ai पर बच्चे को उकसाने और धमकाने को लेकर मुकदमा किया है।

बता दें कि Character.ai को साल 2021 में गूगल के ही एक पूर्व इंजीनियर ने लॉन्च किया था।