कोविड महामारी के दौरान, सोशल मीडिया प्लेटफॉर्म पर दूर-दराज़ और टीकाकरण-विरोधी समुदायों का जमावड़ा हो गया था, जो खतरनाक षड्यंत्र के सिद्धांत फैलाते थे।

इनमें वो झूठे दावे भी शामिल थेटीके जनसंख्या नियंत्रण का एक रूप हैं, और यह कि वायरस एक "गहरी अवस्था" की साजिश थी।सरकारों और विश्व स्वास्थ्य संगठन ने इन झूठों को खारिज करने के लिए टीकाकरण अभियानों से बहुमूल्य संसाधनों को पुनर्निर्देशित किया।

जैसे-जैसे गलत सूचनाओं का ज्वार बढ़ता गया, प्लेटफार्मों पर प्रसार को रोकने के लिए पर्याप्त कदम नहीं उठाने का आरोप लगाया गया।इन चिंताओं को दूर करने के लिए, फेसबुक की मूल कंपनी मेटा ने 2020-21 में कई नीतिगत घोषणाएँ कीं।हालाँकि, इसे हटाने में झिझक हुई"सीमा"सामग्री, या वह सामग्री जो प्रत्यक्ष रूप से उत्पन्न नहीं हुईशारीरिक हानि, एक के लिए बचाएंनीति परिवर्तनफरवरी 2021 में सामग्री हटाने वाली सूचियों का विस्तार किया गया।

ज्वार को रोकने के लिए, मेटा ने उपयोगकर्ताओं की फ़ीड, खोज और अनुशंसाओं में गलत सूचना की दृश्यता को कम करने के लिए एल्गोरिथम मॉडरेशन तकनीकों पर अधिक भरोसा करना जारी रखा - जिसे शैडोबैनिंग के रूप में जाना जाता है।उन्होंने ग़लत सूचना पर लेबल लगाने के लिए तथ्य-जांचकर्ताओं का भी उपयोग किया।

जबकि शैडोबैनिंग को व्यापक रूप से एक अत्यंत अपारदर्शी तकनीक के रूप में देखा जाता है, हमारीनया शोध, मीडिया इंटरनेशनल ऑस्ट्रेलिया जर्नल में प्रकाशित, इसके बजाय पूछता है: क्या यह प्रभावी था?

हमने क्या जांच की?

इस प्रश्न का उत्तर देने के लिए हमने दो उपायों का उपयोग किया।सबसे पहले, जनवरी 2019 और जुलाई 2021 के बीच लगातार गलत सूचना साझा करने वाले 18 ऑस्ट्रेलियाई दूर-दराज़ और टीकाकरण विरोधी खातों की पहचान करने के बाद, हमने प्रमुख मैट्रिक्स का उपयोग करके इन खातों के प्रदर्शन का विश्लेषण किया।

दूसरा, हमने इस प्रदर्शन को मेटा के प्रमुख प्लेटफ़ॉर्म, फेसबुक के लिए पांच सामग्री मॉडरेशन नीति घोषणाओं के विरुद्ध मैप किया।

निष्कर्षों से दो भिन्न रुझान सामने आए।मार्च 2020 के बाद खातों के समग्र प्रदर्शन - यानी, उनके औसत प्रदर्शन - में गिरावट आई।और फिर भी उनका औसत प्रदर्शन अक्टूबर 2020 के बाद बढ़ते स्तर को दर्शाता है।

इसका कारण यह है कि, जबकि अधिकांश मॉनिटर किए गए खातों ने खराब प्रदर्शन किया, इसके बजाय कुछ खातों ने बेहतर प्रदर्शन किया, और दृढ़ता से ऐसा हुआ।वास्तव में, उन्होंने कथित होने के बाद भी बेहतर प्रदर्शन करना और नए अनुयायियों को आकर्षित करना जारी रखानीति परिवर्तनफरवरी 2021 में.

गौरव के प्रतीक के रूप में शैडोबैनिंग

इसकी जांच करने के लिए, हमने इन खातों पर पोस्ट से टिप्पणियों और उपयोगकर्ता प्रतिक्रियाओं को स्क्रैप और विषयगत रूप से विश्लेषण किया।हमने पाया कि उपयोगकर्ताओं में समस्याग्रस्त सामग्री से जुड़े रहने की उच्च प्रेरणा थी।लेबलिंग और शैडोबैनिंग को प्रेरक चुनौतियों के रूप में देखा गया।

विशेष रूप से, उपयोगकर्ता अक्सर उपयोग करते हैं "सामाजिक स्टेग्नोग्राफ़ी"एल्गोरिदमिक पहचान से बचने के लिए प्रमुख शब्दों के लिए जानबूझकर टाइपो या कोड शब्दों का उपयोग करना। हमने यह भी देखासाजिश "बीजारोपण"जहां उपयोगकर्ता फेसबुक द्वारा गलत सूचना के रूप में लेबल की गई सामग्री को फिर से वितरित करने और पहचान से बचने के लिए टिप्पणियों में संग्रहित साइटों या कम मॉडरेट की गई साइटों के लिंक जोड़ते हैं।

एक उदाहरण में, एक उपयोगकर्ता ने एक लिंक जोड़ाBitChuteऐसे कीवर्ड वाला वीडियो जो QAnon शैली की साजिशों का समर्थन करता है।जैसा कि माना जाता था कि "वैक्सीन" जैसे शब्द एल्गोरिथम पहचान को ट्रिगर करते हैं, उनके स्थान पर इमोजी या अन्य कोड नामों का उपयोग किया गया था:

"एक मित्र ने मुझे यह लिंक भेजा है, यह [sic.] 4000 से अधिक व्यक्तियों की मृत्यु को संदर्भित करता है ???? सही संख्या सामने नहीं आएगी, कितने लोगों की मृत्यु हुई है इसका खुलासा करना जनता के हित में नहीं हैदिन का [sic.] जैब का।"

जबकि अनेकषड्यंत्र के सिद्धांतसरकार और सार्वजनिक स्वास्थ्य अधिकारियों पर निशाना साधा गया, सामग्री के प्लेटफ़ॉर्म दमन ने बड़ी तकनीक और "बिग फार्मा" और सरकारों के साथ उनकी मिलीभगत के बारे में और साजिशों को हवा दी।

यह QAnon शैली एजेंडा को संदर्भित करने के लिए MSM ("मुख्यधारा मीडिया") जैसे कीवर्ड के उपयोग में स्पष्ट था:

"एमएसएम इस पूरे मामले में शामिल है, केवल वही रिपोर्ट करें जो अभिजात वर्ग उन्हें बताता है। स्पष्ट रूप से आप कोई शोध नहीं कर रहे हैं बल्कि एमएसएम सुन रहे हैं [â¦] यह पूरी तरह से प्रायोगिक 'वैक्सीन' है।''

एक अन्य टिप्पणी थ्रेड में मेटा पर प्रतिक्रियाएँ दिखाई गईंखतरनाक संगठन नीति अद्यतन, जहां नियमित रूप से QAnon-सामग्री साझा करने वाले खातों को "चरमपंथी" करार दिया गया था।प्रतिक्रियाओं में, एमएसएम और "एजेंडा" बार-बार सामने आए।

कुछ उपयोगकर्ताओं ने सुझाव दिया कि संवेदनशील सामग्री को वैकल्पिक प्लेटफ़ॉर्म पर ले जाया जाए।हमने एक टीकाकरण विरोधी प्रभावशाली व्यक्ति को शिकायत करते हुए देखा कि फेसबुक द्वारा उनके पेज पर प्रतिबंध लगाया जा रहा है, और उन्होंने अपने अनुयायियों से "अच्छे, सेंसरशिप मुक्त, लाइवस्ट्रीमिंग प्लेटफॉर्म" की सिफारिश करने का आह्वान किया।

उत्तरों में मॉडरेशन-लाइट साइटों का सुझाव दिया गया जैसेगड़गड़ाहट.गेमर्स के बीच लोकप्रिय लाइवस्ट्रीमिंग साइट ट्विच के लिए भी इसी तरह की सिफारिशें की गईं, जिसने तब से लोगों को आकर्षित किया हैधुर दक्षिणपंथी राजनीतिक प्रभावक.

जैसा कि एक उपयोगकर्ता ने कहा,

"मैं ऐसे बहुत से लोगों को जानता हूं जो कई ऐप्स पर सेंसर किए जाते हैं, खासकर फेसबुक और ट्विच उनके लिए काम करते हैं।"

सामग्री मॉडरेशन समस्या को कैसे ठीक कर सकता है?

शैडोबैन का पता लगाने, लेबलिंग का विरोध करने और एल्गोरिदम से लड़ने के लिए समन्वय की ये रणनीति कुछ अंतर्दृष्टि प्रदान करती है कि मेटा द्वारा लागू की गई सभी नीतियों के बावजूद इनमें से कुछ "अति प्रदर्शन करने वाले" खातों पर जुड़ाव कम क्यों नहीं हुआ।

इससे पता चलता है कि मेटा की दमन तकनीकें, प्रसार को रोकने में आंशिक रूप से प्रभावी हैं, लेकिन गलत सूचना साझा करने (और खोजने) में निवेश करने वालों को ऐसा करने से रोकने के लिए कुछ नहीं करती हैं।

सामग्री हटाने और उपयोगकर्ता प्रतिबंध पर मजबूत नीतियों से समस्या का समाधान करने में मदद मिलेगी।तथापि,पिछले साल मेटा की घोषणा से पता चलता हैकंपनी को इसके लिए बहुत कम भूख है।नीतिगत बदलावों में कोई भी ढील यह सुनिश्चित करेगी कि गलत सूचना का यह खेल का मैदान फलता-फूलता रहेगा।

यह आलेख से पुनः प्रकाशित किया गया हैबातचीतक्रिएटिव कॉमन्स लाइसेंस के तहत।को पढ़िएमूल लेख.