{"_id":"5a817f4b4f1c1ba32a8b6f69","slug":"facebook-moderator-sara-katz-said-i-had-to-see-everything-including-child-pornography","type":"feature-story","status":"publish","title_hn":"'चाइल्ड पोर्नोग्राफी... मुझे सबकुछ देखना पड़ता था...'","category":{"title":"World","title_hn":"दुनिया","slug":"world"}}
'चाइल्ड पोर्नोग्राफी... मुझे सबकुछ देखना पड़ता था...'
बीबीसी, हिन्दी
Updated Mon, 12 Feb 2018 05:19 PM IST
विज्ञापन
सारा काट्ज
- फोटो : BBC
खबरें लगातार पढ़ने के लिए अमर उजाला एप डाउनलोड करें
या
वेबसाइट पर पढ़ना जारी रखने के लिए वीडियो विज्ञापन देखें
अगर आपके पास प्रीमियम मेंबरशिप है तो
आठ महीने फेसबुक मॉडरेटर के रूप में काम करने वाली सारा काट्ज कहती हैं, "यह ज्यादातर पोर्नोग्राफी है।" एजेंसी ने हमें पहले ही स्पष्ट कर दिया था कि हम किस तरह के कन्टेंट देख सकते हैं, हमें अंधेरे में नहीं रखा गया था।
2016 में सारा कैलिफोर्निया में एक थर्ड पार्टी एजेंसी के लिए काम करने वाली सैकड़ों ह्यूमन मॉडरेटर्स में शामिल थीं। उनका काम फेसबुक यूजर्स की ओर से आने वाली अनुचित सामग्रियों की शिकायतों की समीक्षा करना था। सारा ने बीबीसी रेडियो 5 लाइव की एम्मा बर्नेट से अपने अनुभवों को साझा किया।
चाइल्ड पोर्नोग्राफी दिमाग में बरकरार
वो कहती हैं, "एक पोस्ट की समीक्षा के लिए एक मिनट का वक्त तय था। इतने में हमें यह तय करना होता था कि क्या यह स्पैम है और इस कन्टेंट को हटा देना है?"
विज्ञापन
"कभी-कभी हम इससे जुड़े हुए अकाउंट को भी हटा देते थे।" वह आगे कहती हैं, "मैनेजमेंट चाहता था कि हम 8 घंटे से अधिक काम नहीं करें और इस दौरान हम करीब 8 हजार पोस्ट की रोजाना समीक्षा कर लेते थे। यानी करीब 1000 पोस्ट प्रति घंटे।"
"अगर मैं अपने इस जॉब के बारे में एक शब्द में बोलूं तो यह मुश्किल था।" सारा कहती हैं कि उन्हें एक क्लिक के बाद कुछ भी देखने को तैयार रहना होता था, कुछ भी। वह कहती हैं, "ऐसी चीजें जो बिना किसी चेतावनी के सीधा आपको हिट करती हों। जो एक कन्टेंट आज भी मेरे दिमाग में बरकरार है, वो था एक चाइल्ड पोर्नोग्राफी।"
"इनमें एक 12 साल के आसपास का एक लड़का और आठ या नौ साल के आसपास की एक लड़की एक दूसरे के सामने खड़े थे।"
"उनके बदन पर पैंट नहीं था और वो एक दूसरे को छू रहे थे। ठीक ऐसा लग रहा था कि कैमरे के पीछे से एक आदमी उन्हें क्या करना है, ये बता रहा है। यह बहुत परेशान करने वाला था। आप ये आसानी से बोल सकते थे कि जो दिख रहा था उसे यथार्थ में किया गया था।"
विज्ञापन
2016 में सारा कैलिफोर्निया में एक थर्ड पार्टी एजेंसी के लिए काम करने वाली सैकड़ों ह्यूमन मॉडरेटर्स में शामिल थीं। उनका काम फेसबुक यूजर्स की ओर से आने वाली अनुचित सामग्रियों की शिकायतों की समीक्षा करना था। सारा ने बीबीसी रेडियो 5 लाइव की एम्मा बर्नेट से अपने अनुभवों को साझा किया।
विज्ञापन
चाइल्ड पोर्नोग्राफी दिमाग में बरकरार
वो कहती हैं, "एक पोस्ट की समीक्षा के लिए एक मिनट का वक्त तय था। इतने में हमें यह तय करना होता था कि क्या यह स्पैम है और इस कन्टेंट को हटा देना है?"
विज्ञापन
"कभी-कभी हम इससे जुड़े हुए अकाउंट को भी हटा देते थे।" वह आगे कहती हैं, "मैनेजमेंट चाहता था कि हम 8 घंटे से अधिक काम नहीं करें और इस दौरान हम करीब 8 हजार पोस्ट की रोजाना समीक्षा कर लेते थे। यानी करीब 1000 पोस्ट प्रति घंटे।"
"अगर मैं अपने इस जॉब के बारे में एक शब्द में बोलूं तो यह मुश्किल था।" सारा कहती हैं कि उन्हें एक क्लिक के बाद कुछ भी देखने को तैयार रहना होता था, कुछ भी। वह कहती हैं, "ऐसी चीजें जो बिना किसी चेतावनी के सीधा आपको हिट करती हों। जो एक कन्टेंट आज भी मेरे दिमाग में बरकरार है, वो था एक चाइल्ड पोर्नोग्राफी।"
"इनमें एक 12 साल के आसपास का एक लड़का और आठ या नौ साल के आसपास की एक लड़की एक दूसरे के सामने खड़े थे।"
"उनके बदन पर पैंट नहीं था और वो एक दूसरे को छू रहे थे। ठीक ऐसा लग रहा था कि कैमरे के पीछे से एक आदमी उन्हें क्या करना है, ये बता रहा है। यह बहुत परेशान करने वाला था। आप ये आसानी से बोल सकते थे कि जो दिख रहा था उसे यथार्थ में किया गया था।"
स्रोत का पता करना चुनौतीपूर्ण
फेसबुक का कहना उसके समीक्षक सोशल नेटवर्क को सुरक्षित बनाने में निभा रहे अहम भूमिका
- फोटो : BBC
स्रोत का पता करना चुनौतीपूर्ण
इस तरह के कई कन्टेंट बार-बार फैलते थे। यह एक दिन में छह अलग-अलग यूजर्स से आता था, इसलिए इसके असली स्रोत का पता लगा पाना बहुत चुनौतीपूर्ण काम था। उस समय काउंसलिंग सर्विस जैसी कोई चीज नहीं थी। मेरा अनुमान है कि आज की तारीख में यह होगी। सारा ने कहा कि वो अगर उन्हें काउंसलिंग की सुविधा मिलती तो बहुत संभव है कि वो उसे लेती।
उनका कहना था कि वो आपको पहले ही चेतावनी दे देते हैं लेकिन वास्तविकता में उन कन्टेंट को देखना बिल्कुल अलग है। वह कहती हैं, "कुछ लोग सोचते हैं कि वो इससे निपट सकते हैं। लेकिन वो नहीं कर पाते बल्कि उनकी उम्मीद के विपरीत यह और भी खराब होता है।"
"कुछ समय के बाद आप इसके प्रति संवेदनहीन हो जाते हैं। मैं यह नहीं कहती हूं कि यह आसान है लेकिन निश्चित तौर पर आप इन सबके आदी हो जाते हैं।"
"वहां वयस्क लोगों के बीच उनकी सहमति से बनाई गई पोर्नोग्राफी भी आती थी जिससे आप उतना परेशान होते थे। वहां जानवरों के साथ बनाए गए पोर्नोग्राफी भी आते थे। मुझे याद है कि एक बार घोड़े के साथ वाला पोर्नोग्राफी बार-बार सर्कुलेट हो रहा था।"
"कई बार ग्राफिक्स को लेकर भी छेड़छाड़ की गई चीजें आती थीं। लेकिन पॉलिसी ग्राफिक्स की तुलना में पोर्नोग्राफी को लेकर ज्यादा कठोर थी।"
इस तरह के कई कन्टेंट बार-बार फैलते थे। यह एक दिन में छह अलग-अलग यूजर्स से आता था, इसलिए इसके असली स्रोत का पता लगा पाना बहुत चुनौतीपूर्ण काम था। उस समय काउंसलिंग सर्विस जैसी कोई चीज नहीं थी। मेरा अनुमान है कि आज की तारीख में यह होगी। सारा ने कहा कि वो अगर उन्हें काउंसलिंग की सुविधा मिलती तो बहुत संभव है कि वो उसे लेती।
उनका कहना था कि वो आपको पहले ही चेतावनी दे देते हैं लेकिन वास्तविकता में उन कन्टेंट को देखना बिल्कुल अलग है। वह कहती हैं, "कुछ लोग सोचते हैं कि वो इससे निपट सकते हैं। लेकिन वो नहीं कर पाते बल्कि उनकी उम्मीद के विपरीत यह और भी खराब होता है।"
"कुछ समय के बाद आप इसके प्रति संवेदनहीन हो जाते हैं। मैं यह नहीं कहती हूं कि यह आसान है लेकिन निश्चित तौर पर आप इन सबके आदी हो जाते हैं।"
"वहां वयस्क लोगों के बीच उनकी सहमति से बनाई गई पोर्नोग्राफी भी आती थी जिससे आप उतना परेशान होते थे। वहां जानवरों के साथ बनाए गए पोर्नोग्राफी भी आते थे। मुझे याद है कि एक बार घोड़े के साथ वाला पोर्नोग्राफी बार-बार सर्कुलेट हो रहा था।"
"कई बार ग्राफिक्स को लेकर भी छेड़छाड़ की गई चीजें आती थीं। लेकिन पॉलिसी ग्राफिक्स की तुलना में पोर्नोग्राफी को लेकर ज्यादा कठोर थी।"
'मुझे लगता है फेसबुक पर बहुत-सी फेक न्यूज आती थीं'
सहमति से बनी पोर्न सामग्री का भी खूब होता है प्रसार
- फोटो : BBC
फेक न्यूज
सारा कहती हैं, "मुझे लगता है कि फेसबुक पर बहुत-सी फेक न्यूज आती थीं। अमरीकी चुनाव अभियान के दौरान यह कुछ ज्यादा ही था, कम से कम तब जब मैं वहां काम कर रही थी।"
वो कहती हैं, "मैंने तब कभी फेक न्यूज जैसा शब्द नहीं सुना था। हमें बहुत-सी ऐसी खबरें मिलती थीं जो बार-बार घूम रही हैं और यूजर्स उसकी शिकायत कर रहे होते थे, लेकिन मुझे याद नहीं कि कभी मैनेजमेंट ने हमें यह कहा हो कि उन खबरों को खोलकर देखों कि उसके कन्टेंट सही हैं या नहीं।" "यह काम बहुत नीरस था और आप यह सीख जाते थे कि क्या स्पैम है और क्या नहीं। वहां आपको बहुत सारे क्लिक करने होते थे।"
"क्या मैं किसी को इस जॉब को करने की सिफारिश करूंगी। यदि आप कुछ और काम कर सकते हैं तो मेरा जवाब ना है।" बीबीसी ने फेसबुक के साथ सारा की कहानी शेयर की।
इसके जवाब में, मार्क जकरबर्ग की इस कंपनी के एक प्रवक्ता ने कहा, "हमारे समीक्षक फेसबुक को एक सुरक्षित और खुला मंच बनाए रखने में महत्वपूर्ण भूमिका निभाते हैं।"
"यह एक बहुत ही चुनौतीपूर्ण काम हो सकता है, और हम यह सुनिश्चित करना चाहते हैं कि उन्हें इसके लिए हर तरह की मदद मिले। इसके लिए हम अपने सभी कर्मचारियों और हमारे सहयोगियों के साथ जुड़े सभी लोगों को प्रशिक्षण, परामर्श और मनोवैज्ञानिक मदद की नियमित पेशकश करते हैं।"
उन्होंने कहा, "हालांकि जहां हम कर सकते हैं वहां आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं। अब हमारे साथ 7 हजार से ज्यादा लोग हैं जो फेसबुक पर पोस्ट करने वाले कन्टेंट की समीक्षा करते हैं और वो स्वस्थ रहें यह देखना हमारी वास्तविक प्राथमिकता में से है।"
सारा कहती हैं, "मुझे लगता है कि फेसबुक पर बहुत-सी फेक न्यूज आती थीं। अमरीकी चुनाव अभियान के दौरान यह कुछ ज्यादा ही था, कम से कम तब जब मैं वहां काम कर रही थी।"
वो कहती हैं, "मैंने तब कभी फेक न्यूज जैसा शब्द नहीं सुना था। हमें बहुत-सी ऐसी खबरें मिलती थीं जो बार-बार घूम रही हैं और यूजर्स उसकी शिकायत कर रहे होते थे, लेकिन मुझे याद नहीं कि कभी मैनेजमेंट ने हमें यह कहा हो कि उन खबरों को खोलकर देखों कि उसके कन्टेंट सही हैं या नहीं।" "यह काम बहुत नीरस था और आप यह सीख जाते थे कि क्या स्पैम है और क्या नहीं। वहां आपको बहुत सारे क्लिक करने होते थे।"
"क्या मैं किसी को इस जॉब को करने की सिफारिश करूंगी। यदि आप कुछ और काम कर सकते हैं तो मेरा जवाब ना है।" बीबीसी ने फेसबुक के साथ सारा की कहानी शेयर की।
इसके जवाब में, मार्क जकरबर्ग की इस कंपनी के एक प्रवक्ता ने कहा, "हमारे समीक्षक फेसबुक को एक सुरक्षित और खुला मंच बनाए रखने में महत्वपूर्ण भूमिका निभाते हैं।"
"यह एक बहुत ही चुनौतीपूर्ण काम हो सकता है, और हम यह सुनिश्चित करना चाहते हैं कि उन्हें इसके लिए हर तरह की मदद मिले। इसके लिए हम अपने सभी कर्मचारियों और हमारे सहयोगियों के साथ जुड़े सभी लोगों को प्रशिक्षण, परामर्श और मनोवैज्ञानिक मदद की नियमित पेशकश करते हैं।"
उन्होंने कहा, "हालांकि जहां हम कर सकते हैं वहां आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं। अब हमारे साथ 7 हजार से ज्यादा लोग हैं जो फेसबुक पर पोस्ट करने वाले कन्टेंट की समीक्षा करते हैं और वो स्वस्थ रहें यह देखना हमारी वास्तविक प्राथमिकता में से है।"
