Meta AI का नया सेफ्टी फीचर: Instagram पर टीनएजर्स ने की सेल्फ-हार्म की बात, तो तुरंत पैरेंट्स को मिलेगा अलर्ट

इसके साथ ही मेटा पैरेंट्स को मानसिक स्वास्थ्य विशेषज्ञ की ओर से तैयार किया गया एक मार्गदर्शन भी देगा, जिससे वे समझ सकें कि इस कठिन परिस्थित में अपने बच्चे से किस तरह बात करनी है और उसे ऑफलाइन सपोर्ट कैसे मिल पाएगा।

Meta AI Safety Feature:किन देशों में शुरू हुई यह सुविधा?

मेटा ने इस फीचर को फिलहाल यूनाइटेड स्टेट्स, ऑस्ट्रेलिया और कनाडा में उन यूजर्स के लिए उपलब्ध कराया है, जो इंस्टाग्राम के पैरेंटल सुपरविजन टूल का उपयोग कर रहे हैं।हालांकि मेटा का कहना है कि 2026 के अंत तक इस सुविधा को दुनिया भर में उपलब्ध करा दिया जाएगा। इसे लेकर मेटा ने अपने आधिकारिक ब्लॉग में कहा है कि कंपनी चाहती है कि टीनएजर्स को एआई के साथ उनकी उम्र के अनुसार सुरक्षित अनुभव मिले।इसके बाद अगर एआई को लगे कि कोई किशोर मानसिक संकट से जूझ रहा है, तो उसका उद्देश्य उससे सिर्फ बातचीत करना ही नहीं, बल्कि ऑफलाइन सपोर्ट करना भी है।

कैसे काम करेगा यह सिस्टम?

मेटा एआई पहले से ही सुसाइड या सेल्फ-हार्म जैसे शब्द मिलने पर यूजर को किसी भरोसेमंद व्यक्ति, काउंसलर या Crisis Helpline से संपर्क करने की सलाह देता है। अब नए अपडेट में अगर एआई को लगे कि पैरेंटल सुपरविजन वाले टीनएजर पर जोखिम है, तो सिस्टम पैरेंट्स को खुद अलर्ट भेजेगा।

मेंटल हेल्थ एक्सपर्ट्स की मदद से हुआ है तैयार

मेटा के अनुसार इस डिटेक्शन सिस्टम को मेंटल हेल्थ एक्सपर्ट्स की मदद से तैयार किया गया है, जिससे यह केवल सीधे शब्द ही नहीं, बल्कि मानसिक तनाव के छोटे-छोटे संकेतों को भी पहचान सके।कंपनी ने यह भी स्पष्ट किया है कि एआई की ओर से फ्लैग की गई हर बातचीत का पहले मैनुअल रिव्यू किया जाएगा। इसके बाद पुष्टि होने पर ही पैरेंट्स को अलर्ट भेजा जाएगा। अगर किसी स्थिति में संदेह होगा, तो कंपनी सुरक्षा को प्राथमिकता देते हुए पैरेंट्स को सूचित करेगी।

Emergency Alert फीचर पर भी काम

यही नहीं मेटा एक और नई सुविधा विकसित कर रहा है, जिसमें अगर किसी यूजर में तुरंत सुसाइड जैसे शब्द या संकेत मिलता हैं, तो इमरजेंसी सर्विस को भी अलर्ट किया जाएगा।हालांकि कंपनी का कहना है कि फेसबुक और इंस्टा जैसे एप्स पर पहले से ही गंभीर सुसाइड रिस्क वाले पोस्ट पर इमरजेंसी रिस्पोंडर्स को सूचना भेजी जाती है। पिछले वर्ष Meta ने दुनिया भर में ऐसे 19 हजार से अधिक रेफरल किए थे।AI को बनाया जा रहा है ज्यादा संवेदनशील

मेटा का कहना है कि 75 से अधिकमानसिक स्वास्थ्य विशेषज्ञ की सलाह से Meta AI को और अधिक Empathetic बनाया जा रहा है। अब एआई केवल यूजर्स के सवालों का जवाब नहीं देगा, बल्कि यूजर की भावनाओं को समझने की कोशिश भी करेगा और समय रहते मदद लेने के लिए प्रेरित भी करेगा।इंस्टाग्राम के Teen Accounts पहले से ही Age-Appropriate Settings के साथ आते हैं। अब पैरेंट्स अगर Limited Content Setting चुनते हैं, तो यही सुरक्षा Meta AI चैट्स पर भी लागू होगी। इसका उद्देश्य किशोरों को एल्कोहल या अन्य अनुचित विषयों से जुड़ी बातचीत से अतिरिक्त सुरक्षा देना है।