{"_id":"617bce3d8c9222068c504a72","slug":"facebook-allegations-of-fake-news-and-inflammatory-content-on-its-platform-india-asks-details-of-algorithms-explained-news-and-updates","type":"feature-story","status":"publish","title_hn":"फेक न्यूज-भड़काऊ कंटेंट रोकने में नाकाम फेसबुक: केंद्र सरकार ने क्यों मांगा जवाब, क्या है अल्गोरिदम-कम बजट का बड़ा खेल? जानें","category":{"title":"India News","title_hn":"देश","slug":"india-news"}}
फेक न्यूज-भड़काऊ कंटेंट रोकने में नाकाम फेसबुक: केंद्र सरकार ने क्यों मांगा जवाब, क्या है अल्गोरिदम-कम बजट का बड़ा खेल? जानें
Fri, 29 Oct 2021 04:05 PM IST
कीर्तिवर्धन मिश्र
रिसर्च डेस्क, अमर उजाला, नई दिल्ली
रिसर्च डेस्क, अमर उजाला, नई दिल्ली
Published by: कीर्तिवर्धन मिश्र
Updated Fri, 29 Oct 2021 04:05 PM IST
सार
Facebook: भारत में मौजूदा समय में फेसबुक के 41 करोड़ से ज्यादा यूजर्स हैं। आंकड़ों के लिहाज से भारत इस कंपनी का सबसे बड़ा मार्केट है। लेकिन कंपनी पर अपने सबसे बड़े बाजार में गलत जानकारी और भड़काऊ कंटेंट रोकने के लिए बेहद कम संसाधन इस्तेमाल करने के आरोप हैं।
विज्ञापन
भारत ने फेसबुक से मांगी अल्गोरिदम की जानकारी।
- फोटो : Amar Ujala
खबरें लगातार पढ़ने के लिए अमर उजाला एप डाउनलोड करें
या
वेबसाइट पर पढ़ना जारी रखने के लिए वीडियो विज्ञापन देखें
अगर आपके पास प्रीमियम मेंबरशिप है तो
विस्तार
Add as a preferred
भारत ने गुरुवार को सोशल मीडिया कंपनी फेसबुक से फेक न्यूज, हिंसा, भड़काऊ और वैमनस्य फैलाने वाली सामग्री को लेकर जवाब मांगा है। केंद्र ने फेसबुक से कहा है कि कंपनी उसे अपनी अल्गोरिदम और अन्य व्यवस्थाओं की पूरी जानकारी दे। साथ ही इन्हें रोकने के लिए फेसबुक क्या कर रहा है, उन कदमों के बारे में भी बताया जाए। केंद्र सरकार की तरफ से यह सवाल अचनाक ही नहीं उठे हैं। दरअसल, बीते कुछ दिनों में फेसबुक पर भारत को लेकर भेदभाव के कई आरोप सामने आए हैं।
विज्ञापन
पहले जानें क्या हैं फेसबुक पर आरोप?
भारत में मौजूदा समय में फेसबुक के 41 करोड़ से ज्यादा यूजर्स हैं, जबकि इससे ज्यादा लोग व्हाट्सएप इस्तेमाल करते हैं। आंकड़ों के लिहाज से भारत इस कंपनी का सबसे बड़ा मार्केट है। लेकिन कंपनी पर अपने सबसे बड़े बाजार के लिए बेहद कम संसाधन इस्तेमाल करने से लेकर मालूम होने के बावजूद नुकसान पहुंचाने वाले कंटेंट को न हटाने और कुछ मौकों पर ऐसे कंटेंट को प्रमोट करने तक के आरोप लग चुके हैं। ऐसे में अब सरकार ने फेसबुक को कटघरे में खड़ा किया है और उससे अल्गोरिदम की जानकारी मांग ली है।
विज्ञापन
विज्ञापन
कैसे हुआ फेसबुक की गड़बड़ियों का खुलासा?
फ्रांसेस हाउगेन, फेसबुक की पूर्व मैनेजर
- फोटो : सोशल मीडिया
फेसबुक को लेकर ताजा विवाद पिछले महीने ही शुरू हुआ है। दरअसल, अमेरिकी अखबार 'द वॉल स्ट्रीट जर्नल' और फेसबुक की पूर्व प्रोडक्ट मैनेजर फ्रांसेस हाउगेन ने हाल ही में कई खुलासे किए हैं। इनमें एक सबसे बड़ा खुलासा यह था कि फेसबुक किस तरह हमारे स्वभाव को प्रभावित कर इसका वाणिज्यिक फायदा उठाने में जुटा है। फेसबुक से यूजर्स को जोड़े रखने और उनके स्वभाव को प्रभावित करने का यह काम करती हैं प्लेटफॉर्म की अल्गोरिदम और सरकार ने इसे लेकर ही फेसबुक से जानकारी तलब की है।
क्या हैं अल्गोरिदम?
आम यूजर्स के लिए फेसबुक के खुलासों के साथ ही अल्गोरिदम नकारात्मक शब्द बन चुका है। हालांकि, यह सिर्फ किसी प्रोग्राम को चलाने वाले कंप्यूटर कोड हैं। यानी आपके मोबाइल से लेकर इलेक्ट्रॉनिक डिवाइसेज सभी किसी न किसी तरह की अल्गोरिदम पर काम करते हैं, जो उनकी कार्यप्रणाली तय करता है। आसान भाषा में कहें तो यूजर के मोबाइल पर किसी खाना बनाने से जुड़ा कंटेंट रेसिपी एक अल्गोरिदम है। इसी तरह कैलकुलेटर भी अल्गोरिदम है। लेकिन फेसबुक, गूगल या बाकी सोशल मीडिया कंपनी अपने प्लेटफॉर्म के लिए जिस तरह की अल्गोरिदम इस्तेमाल करती हैं, वह इन आसान अल्गोरिदम के मुकाबले काफी जटिल और हाई-क्वालिटी रहती हैं।
सोशल मीडिया कंपनियों के अल्गोरिदम इस्तेमाल पर चिंता क्यों?
हालांकि, सोशल मीडिया कंपनियों के मामले में अल्गोरिदम को लेकर चिंता इस बात की है कि वह इनका इस्तेमाल यूजर्स को प्लेटफॉर्म से जोड़े रखने के लिए करती हैं। आर्टिफिशियल इंटेलिजेंस (एआई) की मदद से कंपनियां अल्गोरिदम को इस तरह डिजाइन करती हैं कि इन्हें इस्तेमाल करने वाले यूजर्स को लगातार उनकी पसंद का कंटेंट मिलता है और वह नियत समय से भी ज्यादा देर तक सोशल मीडिया से जुड़ा रहता है।
उदाहरण के तौर पर सोशल मीडिया पर जो भी कंटेंट हमें गुस्सा दिलाता है या खुशी पैदा करता है, उससे हमारे प्लेटफॉर्म पर रुकने का समय बढ़ जाता है। साथ ही कई यूजर्स कंटेंट पर प्रतिक्रिया देते हैं, जिससे यूजर्स का एंगेजमेंट भी बढ़ता है। अब एआई और मशीन लर्निंग टूल्स के जरिए सोशल मीडिया प्लेटफॉर्म अपनी अल्गोरिदम को इस तरह डिजाइन कर लेते हैं कि वह यूजर को वही चीज दिखाती है, जिसमें उसने पहले रुचि दिखाई।
उदाहरण के तौर पर सोशल मीडिया पर जो भी कंटेंट हमें गुस्सा दिलाता है या खुशी पैदा करता है, उससे हमारे प्लेटफॉर्म पर रुकने का समय बढ़ जाता है। साथ ही कई यूजर्स कंटेंट पर प्रतिक्रिया देते हैं, जिससे यूजर्स का एंगेजमेंट भी बढ़ता है। अब एआई और मशीन लर्निंग टूल्स के जरिए सोशल मीडिया प्लेटफॉर्म अपनी अल्गोरिदम को इस तरह डिजाइन कर लेते हैं कि वह यूजर को वही चीज दिखाती है, जिसमें उसने पहले रुचि दिखाई।
अल्गोरिदम को इस तरह डिजाइन करने की वजह क्या?
अल्गोरिदम के सहारे ही यूजर्स को उनके पसंदीदा कंटेंट से बांधे रखते हैं सोशल मीडिया प्लेटफॉर्म।
- फोटो : Social Media
इन सबका परिणाम यह होता है कि अपनी पसंद का कंटेंट देखने के लिए जितनी ज्यादा देर यूजर सोशल मीडिया पर रुकता है, उसे उतने ही एडवर्टाइजमेंट से गुजरना पड़ता है, जो कि प्रत्यक्ष तौर पर प्लेटफॉर्म के लिए वाणिज्यिक तौर पर जबरदस्त फायदा पहुंचाने वाला सौदा साबित होता है। कंपनियां मुख्य तौर पर इसी आर्थिक फायदे के लिए एआई की मदद से अल्गोरिदम को यूजर्स के हिसाब से प्रभावित करती हैं।
आर्थिक फायदे के लिए कैसे काम करती हैं अल्गोरिदम?
फेसबुक कंपनी ने कभी इस बात खुलासा नहीं किया कि उसके अल्गोरिदम कैसे यूजर्स के लिए उनकी न्यूज फीड में पसंद का कंटेंट मुहैया कराते हैं। हालांकि, इस राज का खुलासा हुआ है व्हिसलब्लोअर फ्रांसेस हाउगेन की ओर से मुहैया कराए गए कंपनी के उन दस्तावेजों से जिन्हें उन्होंने फेसबुक छोड़ने से पहले कॉपी कर लिया था।
इन लीक दस्तावेजों के जरिए खुलासा हुआ है कि फेसबुक में अल्गोरिदम इस तरह से डिजाइन होती हैं कि यूजर्स ज्यादा से ज्यादा समय प्लेटफॉर्म पर बिताए। फिर चाहे इसके लिए उसे दिखाए जाने वाला कंटेंट ज्यादा से ज्यादा खतरनाक, भड़काऊ और हिंसात्मक ही क्यों न हो। कंपनी की अल्गोरिदम यूजर की न्यूज फीड में सिर्फ एक बार देखे गए ऐसे किसी कंटेंट को भी जबरदस्त तरह से प्रमोट करती हैं। यहां यह स्पष्ट करना अहम है कि अल्गोरिदम भले ही स्वचालित (ऑटोमैटिक) हैं, लेकिन यह स्वायत्त नहीं हैं। यानी अल्गोरिदम अपने प्रोग्राम के हिसाब से तो चलती हैं, लेकिन इसके निर्देश इंसानों की तरफ से ही दिए जाते हैं, जो कि इशारा करते हैं कि किस चीज पर ध्यान देना है और इससे क्या नतीजे हासिल करने हैं।
इन लीक दस्तावेजों के जरिए खुलासा हुआ है कि फेसबुक में अल्गोरिदम इस तरह से डिजाइन होती हैं कि यूजर्स ज्यादा से ज्यादा समय प्लेटफॉर्म पर बिताए। फिर चाहे इसके लिए उसे दिखाए जाने वाला कंटेंट ज्यादा से ज्यादा खतरनाक, भड़काऊ और हिंसात्मक ही क्यों न हो। कंपनी की अल्गोरिदम यूजर की न्यूज फीड में सिर्फ एक बार देखे गए ऐसे किसी कंटेंट को भी जबरदस्त तरह से प्रमोट करती हैं। यहां यह स्पष्ट करना अहम है कि अल्गोरिदम भले ही स्वचालित (ऑटोमैटिक) हैं, लेकिन यह स्वायत्त नहीं हैं। यानी अल्गोरिदम अपने प्रोग्राम के हिसाब से तो चलती हैं, लेकिन इसके निर्देश इंसानों की तरफ से ही दिए जाते हैं, जो कि इशारा करते हैं कि किस चीज पर ध्यान देना है और इससे क्या नतीजे हासिल करने हैं।
भारत से कैसे फायदा हासिल कर रही कंपनी?
दिल्ली हिंसा
- फोटो : PTI
इसे भी कुछ उदाहरणों के जरिए समझा जा सकता है। मान लिया जाए कि किसी देश में हिंसक प्रदर्शन जारी हैं। इस बारे में फेसबुक पर पोस्ट किए गए, जिन पर हजारों लोगों ने गुस्सा या चिंता जाहिर की। यूजर एंगेजमेंट के चलते देखते ही देखते प्रदर्शन से जुड़े फोटोज और वीडियोज वायरल हो गए। चिंता की बात यह है कि ऐसे कंटेंट पर एक बार प्रतिक्रिया देने वाले लोगों को एआई द्वारा ऑपरेट हो रही अल्गोरिदम की वजह से बार-बार इन प्रदर्शनों से जुड़ा कंटेंट देखने को मिलेगा। फिर चाहे प्रदर्शन को लेकर फेक न्यूज पोस्ट की जाए या उससे जुड़े हिंसक वीडियो। यानी अल्गोरिदम की वजह से ऐसे गड़बड़ कंटेंट के फैलने का खतरा भी बरकरार रहेगा।
अमेरिका में इस साल 6 जनवरी को कैपिटल हिल पर हुए दंगों के दौरान फेसबुक पर इस तरह का काफी कंटेंट प्रमोट हुआ। वॉशिंगटन पोस्ट की एक रिपोर्ट की मानें तो 2020 में भारत के दिल्ली में हुए दंगे और 2019 में पुलवामा हमलों, बालाकोट एयरस्ट्राइक के बाद भी काफी हिंसा से जुड़ा और गुस्सा पैदा करने वाला कंटेंट भारत में प्रसारित हुआ। इस तरह के कंटेंट प्रसारित होने में सीधे तौर पर फेसबुक की मिलीभगत का खुलासा नहीं हो पाया, लेकिन आरोप है कि कंपनी के प्लेटफॉर्म पर लगातार इस तरह का कंटेंट प्रमोट होता रहा, क्योंकि इससे उसे आर्थिक तौर पर फायदा पहुंचा।
अमेरिका में इस साल 6 जनवरी को कैपिटल हिल पर हुए दंगों के दौरान फेसबुक पर इस तरह का काफी कंटेंट प्रमोट हुआ। वॉशिंगटन पोस्ट की एक रिपोर्ट की मानें तो 2020 में भारत के दिल्ली में हुए दंगे और 2019 में पुलवामा हमलों, बालाकोट एयरस्ट्राइक के बाद भी काफी हिंसा से जुड़ा और गुस्सा पैदा करने वाला कंटेंट भारत में प्रसारित हुआ। इस तरह के कंटेंट प्रसारित होने में सीधे तौर पर फेसबुक की मिलीभगत का खुलासा नहीं हो पाया, लेकिन आरोप है कि कंपनी के प्लेटफॉर्म पर लगातार इस तरह का कंटेंट प्रमोट होता रहा, क्योंकि इससे उसे आर्थिक तौर पर फायदा पहुंचा।
भारत में फेक न्यूज-भड़काऊ कंटेंट दिखने की ओर क्या वजहें?
फेसबुक ने भारत में भाषाओं को समझने पर काफी कम निवेश किया है।
- फोटो : Social Media
इस बीच भारत में इस तरह की भड़काऊ सामग्री और गलत जानकारी लोगों के बीच पहुंचने का एक और कारण दिया जाता है। यह है फेसबुक का अपने सबसे बड़े बाजार पर बेहद कम संसाधन खर्च करना। हाउगेन ने जो लीक दस्तावेज सामने रखे, उनसे पता चलता है कि फेसबुक अपने अलग-अलग भाषा से जुड़े बाजारों पर काफी कम खर्च करता है। फेसबुक ने भारत में हिंदी और बंगाली तक में बेहद कम निवेश किया है, जबकि यह दोनों भाषाएं भारत में सबसे ज्यादा बोली जाने वाली भाषाएं हैं।
लीक दस्तावेजों में यह भी खुलासा हुआ है कि फेसबुक हेट स्पीच, फेक न्यूज और भड़काऊ सामग्री रोकने के लिए कुल जितनी राशि तय करता है, उसका 87 फीसदी अकेले अमेरिका में ही खर्च होता है। यानी बाकी दुनिया में इस तरह का कंटेंट रोकने के लिए सिर्फ 13 फीसदी राशि ही बचती है। चौंकाने वाली बात यह है कि फेसबुक के कुल यूजर्स में से सिर्फ 10 फीसदी ही अमेरिका में रहते हैं। जबकि सूचना एवं प्रौद्योगिकी मंत्रालय के मुताबिक, भारत में 41 करोड़ यूजर्स फेसबुक का इस्तेमाल करते हैं। यह अमेरिका की पूरी आबादी से भी ज्यादा है। लेकिन फेसबुक के कुल बजट का छोटा सा अंश ही भारत में खर्च होता है।
