व्यापक असर वाले कंटेंट का हमारे क्रॉस-चेक सिस्टम के ज़रिए सटीक रिव्यू करना
अपडेट किया गया 12 नवं 2024
ओवरसाइट बोर्ड ने 6 दिसंबर, 2022 को Meta की क्रॉस-चेक पॉलिसी के बारे में अपना PAO प्रकाशित किया था. ज़्यादातर सुझावों पर पूरी तरह विचार करने के लिए, हमने बोर्ड से इस बात पर सहमति जताई है कि हम 90 दिनों के अंदर उसके सुझावों का रिव्यू करके उनके जवाब दे देंगे. क्रॉस-चेक सिस्टम के बारे में और जानने के लिए, हमारी 'ट्रांसपेरेंसी सेंटर' पोस्ट देखें.
क्रॉस-चेक सिस्टम का ओवरव्यू
Facebook और Instagram के यूज़र हर दिन करोड़ों कंटेंट बनाते हैं. इतने सारे कंटेंट को मॉडरेट करने में कई चुनौतियाँ आती हैं, जैसे कि महत्वपूर्ण मूल्यों और लक्ष्यों के बीच संतुलन बनाने की चुनौतियाँ. हम उल्लंघन करने वाले संभावित कंटेंट का तुरंत रिव्यू करते हैं और अगर वह हमारी पॉलिसी का उल्लंघन करता है, तो उसे हटा देते हैं. लेकिन यूज़र्स की अभिव्यक्ति की सुरक्षा करने के लिए, हमें इस लक्ष्य के साथ में यह भी ध्यान रखना होता है कि हम "गलत फ़ैसले" (सही कंटेंट को गलती से हटा देने के फ़ैसले) न लें. (यहाँ, हम कंटेंट को "हटाने" की बात कर रहे हैं, जिसका उपयोग हम इंटीग्रिटी से जुड़े आम तौर पर लिए जाने वाले एक्शन के बारे में बताने के लिए करते हैं. इसमें चेतावनी स्क्रीन का उपयोग करना या पेजों को हटाना भी शामिल हो सकता है.)
इन सभी चीज़ों का ध्यान रखने के लिए, Meta ने ऐसे कंटेंट की पहचान करने वाला क्रॉस-चेक सिस्टम लागू किया है, जिसके बारे में गलत फ़ैसला लिए जाने का जोखिम ज़्यादा होता है. यह सिस्टम उस जोखिम को कम करने के लिए रिव्यू के अतिरिक्त तरीके उपलब्ध कराता है. क्रॉस-चेक सिस्टम ऐसे कंटेंट के लिए, रिव्यू के अतिरिक्त तरीके उपलब्ध कराता है, जिसे हमारे इंटरनल सिस्टम (ऑटोमेशन या ह्यूमन रिव्यू के ज़रिए), उल्लंघन करने वाले कंटेंट के तौर पर फ़्लैग कर देते हैं. इसका लक्ष्य मॉडरेशन की उन गलतियों को रोकना या कम करना होता है, जिनमें मॉडरेशन ऐसे सही कंटेंट को उल्लंघन करने वाले कंटेंट के तौर पर फ़्लैग कर देता है, जिसे हटाना बहुत ही जोखिम भरा फ़ैसला हो सकता है. मॉडरेशन की ये गलतियाँ कई वजहों से हो सकती हैं, जैसे कि कंटेंट के छिपे हुए अर्थ या संदर्भ को ठीक से न समझ पाने की वजह से. (यहाँ, हम उस "कंटेंट" की बात कर रहे हैं, जिसका रिव्यू हमारे क्रॉस-चेक सिस्टम के ज़रिए किया जाता है. हम किसी पेज या प्रोफ़ाइल को हटाने जैसे अन्य एक्शन का रिव्यू करने के लिए भी क्रॉस-चेक सिस्टम का उपयोग करते हैं.) भले ही क्रॉस-चेक सिस्टम, रिव्यू के अतिरिक्त तरीके उपलब्ध कराता है, लेकिन रिव्यूअर वही कम्युनिटी स्टैंडर्ड लागू करते हैं, जो Facebook या Instagram पर मौजूद अन्य सभी कंटेंट पर लागू होते हैं.
क्रॉस-चेक सिस्टम मानवाधिकारों की सुरक्षा में महत्वपूर्ण भूमिका निभाता है. उदाहरण के लिए, क्रॉस-चेक सिस्टम में युद्धग्रस्त क्षेत्रों से रिपोर्टिंग कर रहे पत्रकारों और नफ़रत या हिंसा की घटनाओं के बारे में जागरूकता फैला रहे कम्युनिटी लीडर्स की चीज़ें और पोस्ट शामिल होती हैं. क्रॉस-चेक रिव्यू में कंटेंट के संदर्भ पर ध्यान दिया जाता है, जिससे उस कंटेंट पर सही एक्शन लेने में मदद मिलती है. क्रॉस-चेक रिव्यू, नागरिक संस्थाओं पर भी लागू हो सकते हैं, जहाँ यूज़र्स की यह देखने में बहुत ज़्यादा दिलचस्पी होती है कि उनके नेता क्या कह रहे हैं.
इसके अलावा, हमारे कई बिज़नेस पार्टनर के साथ Meta के संबंधों को मैनेज करने में भी क्रॉस-चेक सिस्टम की एक महत्वपूर्ण भूमिका है. उदाहरण के लिए, बहुत सारे फ़ॉलोअर्स वाले किसी पेज या प्रोफ़ाइल द्वारा पोस्ट किए गए किसी कंटेंट को सही होने के बावजूद भी हटाने पर, Meta के बिज़नेस पार्टनर्स का और उस पेज या प्रोफ़ाइल को फ़ॉलो करने वाले बहुत सारे यूज़र्स का अनुभव खराब हो सकता है. हम कुछ बहुत बड़े ग्रुप्स पर भी क्रॉस-चेक सिस्टम लागू करते हैं, जहाँ एक गलती लाखों या करोड़ो यूज़र्स को प्रभावित कर सकती है. क्रॉस-चेक सिस्टम, Meta के बिज़नेस पार्टनर्स या ग्रुप्स को हमारी कंटेंट पॉलिसी से छूट नहीं देता, लेकिन यह कभी-कभी रिव्यू के अतिरिक्त तरीके उपलब्ध कराता है, ताकि उन पॉलिसी को सटीकता से लागू किया जा सके.
Facebook और Instagram के यूज़र हर दिन करोड़ों कंटेंट पोस्ट करते हैं. दुनिया भर में हज़ारोंं रिव्यूअर होने के बाद भी, हमारे लिए अपने कम्युनिटी स्टैंडर्ड का संभावित तौर पर उल्लंघन करने वाले हर कंटेंट का मैन्युअल तरीके से रिव्यू करना संभव नहीं होता. उल्लंघन करने वाला जो कंटेंट हम हटाते हैं, हमारी टेक्नोलॉजी उसमें से ज़्यादातर कंटेंट का पता, किसी के रिपोर्ट करने से पहले ही लगा लेती है. जब कोई व्यक्ति Facebook या Instagram पर कुछ पोस्ट करता है, तो हमारी टेक्नोलॉजी जाँच करके यह देखती है कि कहीं उस कंटेंट से कम्युनिटी स्टैंडर्ड का उल्लंघन होने की संभावना तो नहीं है. कई मामलों में, यह पता लगाना आसान होता है. ऐसे मामलों में या तो पोस्ट से स्पष्ट रूप से हमारी पॉलिसी का उल्लंघन होता है या उल्लंघन नहीं होता. लेकिन अन्य मामलों में, कंटेंट को आगे के मूल्यांकन के लिए ह्यूमन रिव्यूअर के पास भेजा जाता है.
हमारे प्राइमरी रिव्यू सिस्टम, ज़्यादा गंभीर कंटेंट को प्राथमिकता देने के लिए टेक्नोलॉजी का उपयोग करते हैं. ऐसे कंटेंट में तेज़ी से फैलने वाला "वायरल" कंटेंट भी शामिल होता है. जब हमारे सिस्टम, कंटेंट को रिव्यू के लिए आगे भेजने के लिए फ़्लैग करते हैं, तब हमारे रिव्यूअर उस कंटेंट को प्लेटफ़ॉर्म पर रहने देने या न रहने देने के बारे में मुश्किल और अक्सर बारीकी से फ़ैसले लेते हैं. वैसे हमारा लक्ष्य हमेशा यही होता है कि हम सही फ़ैसले लें, लेकिन हम जानते हैं कि सही कंटेंट को गलत मानने की गलती कभी-कभी हो ही जाती है और Meta की पॉलिसी का उल्लंघन करने की वजह से ऐसे कंटेंट को हटाने के लिए फ़्लैग कर दिया जाता है, जिससे ऐसा कोई उल्लंघन हुआ ही नहीं होता. इसलिए Meta ने गलत फ़ैसलों का रिव्यू करने और उनमें कमी लाने के लिए गलतियों को रोकने के उपाय लागू किए हैं. क्रॉस-चेक सिस्टम, गलतियों को रोकने की इन्हीं स्ट्रेटजी में से एक है.
क्रॉस-चेक एक ऐसा सिस्टम है, जिसका उपयोग यह पक्का करने के लिए किया जाता है कि एन्फ़ोर्समेंट से जुड़े फ़ैसले सटीकता से और ह्यूमन रिव्यू वाले अतिरिक्त तरीकों का उपयोग करके लिए जाएँ. अगर क्रॉस-चेक के दौरान कोई रिव्यूअर यह कन्फ़र्म करता है कि कोई कंटेंट हमारे कम्युनिटी स्टैंडर्ड का उल्लंघन करता है, तो हम उन्हीं पॉलिसी को लागू करते हैं और उन्हीं के हिसाब से उल्लंघन करने वाले कंटेंट से निपटते हैं. कंटेंट की जटिलता के आधार पर, हम कई लेवल पर रिव्यू करा सकते हैं, जिसमें थोड़े-बहुत मामलों में उनका लीडरशिप से रिव्यू कराना भी शामिल होता है. अगर अंतिम रिव्यूअर यह मानता है कि विवादित कंटेंट हमारे कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता है, तो रिव्यूअर पहले लिए गए एक्शन को "पलट" सकता है और कंटेंट को प्लेटफ़ॉर्म पर बना रहने दे सकता है.
क्रॉस-चेक के पुराने तरीके
जिस सिस्टम को अब क्रॉस-चेक के रूप में जाना जाता है, उसे हमने पहली बार 2013 में लागू किया था. यह सिस्टम साल दर साल बेहतर होता गया है और जहाँ संभव है, वहाँ हमने इसमें आए बदलावों की तारीखें और तारीखों की रेंज बताई है.
यह तय करने के लिए कि किस कंटेंट या एंटिटी का क्रॉस-चेक रिव्यू किया जाए, हमारी टीमें उन यूज़र्स या एंटिटी की पहचान करके उनकी लिस्ट बनाती थीं, जिनके कंटेंट को गलत मानकर उस पर एक्शन लिए जाने का जोखिम ज़्यादा होता था. "सही कंटेंट को गलत समझने का जोखिम" वह होता है, जब ऐसे कंटेंट या एंटिटी के खिलाफ़ गलत एक्शन लिए जाने का जोखिम होता है, जो हमारे कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता. यह तय करने के लिए कि किन यूज़र्स और एंटिटी के कंटेंट को गलत समझे जाने का जोखिम ज़्यादा था, हमारी टीमों ने यूज़र या एंटिटी के प्रकार (जैसे, निर्वाचित अधिकारी, पत्रकार, महत्वपूर्ण बिज़नेस पार्टनर, मानवाधिकार संगठन), फ़ॉलोअर्स की संख्या और एंटिटी की विषय वस्तु सहित कई तरह के मानदंड लागू किए. (एंटिटी एक सामान्य शब्द है, जिसका उपयोग उस जगह के बारे में बताने के लिए किया गया है, जहाँ से कोई कंटेंट आ सकता है या जहाँ वह दिखाई दे सकता है, जैसे कि यूज़र का अकाउंट, पेज या ग्रुप.)
जब उन लिस्ट में शामिल यूज़र्स या एंटिटी के द्वारा ऐसा कंटेंट पोस्ट किया जाता था या कोई ऐसा एक्शन लिया जाता था, जिन्हें हमारे सिस्टम ने हमारी पॉलिसी के संभावित उल्लंघन के लिए फ़्लैग किया होता था, तो हम उस कंटेंट या एंटिटी को क्रॉस-चेक रिव्यू के लिए कतार में शामिल कर लेते थे.
2020 से हमने इसमें ऐसे बदलाव किए कि कतार में मौजूद ज़्यादातर कंटेंट को जोखिम के एक फ़्रेमवर्क का उपयोग करके प्राथमिकता दी जा सके. यह फ़्रेमवर्क कतार के हर कंटेंट को गलत समझे जाने के जोखिम का एक लेवल असाइन करता था, जो यह बताता था कि अगर Meta ने उसे गलत तरीके से हटा दिया, तो वह कितना गंभीर मामला हो सकता है. जोखिम का वह फ़्रेमवर्क आम तौर पर तीन चीज़ों पर निर्भर करता था: (1) एंटिटी की संवेदनशीलता, (2) कथित उल्लंघन की गंभीरता और (3) संभावित एन्फ़ोर्समेंट एक्शन की गंभीरता.
क्रॉस-चेक के मौजूदा तरीके
अपनी सभी पॉलिसी और प्रोसेस की तरह ही हम क्रॉस-चेक सिस्टम में भी लगातार सुधार करने की कोशिश करते रहते हैं और हम इसमें लगातार बदलाव करते आ रहे हैं. इस साल की शुरुआत में, हमने क्रॉस-चेक सिस्टम को बेहतर बनाने के कुछ नए तरीके पता लगाए हैं. इसमें हमने एक संरचनात्मक बदलाव यह किया है कि क्रॉस-चेक सिस्टम अब दो हिस्सों से मिलकर बना होगा: जनरल सेकंडरी रिव्यू (GSR) और सेंसिटिव एंटिटी सेकंडरी रिव्यू (SSR). वैसे हम कुछ तरह के कुछ प्रतिशत यूज़र्स और एंटिटी को SSR में शामिल करने के लिए ऊपर बताए गए, लिस्ट पर आधारित तरीके का उपयोग करते रहेंगे, लेकिन GSR के मामले में हम यह कोशिश कर रहे हैं कि Facebook और Instagram पर मौजूद सभी यूज़र्स और एंटिटी का कंटेंट "क्रॉस-चेक रैंकर" नामक डायनेमिक प्रायोरिटी सिस्टम के आधार पर क्रॉस-चेक रिव्यू के लिए योग्य हो.
GSR में कॉन्ट्रैक्ट रिव्यूअर और हमारी क्षेत्रीय टीम के लोग शामिल होते हैं, जो कोई भी एन्फ़ोर्समेंट एक्शन लिए जाने से पहले हमारी पॉलिसी का उल्लंघन कर सकने वाले कंटेंट और एंटिटी का सेकंडरी रिव्यू करते हैं. किस कंटेंट का क्रॉस-चेक रिव्यू होगा, यह तय करने के लिए यह रिव्यू सिस्टम सिर्फ़ यूज़र या एंटिटी की पहचान पर निर्भर नहीं करता. क्रॉस-चेक रैंकर, विषय की संवेदनशीलता (विषय कितना ट्रेंडिंग/संवेदनशील है), एन्फ़ोर्समेंट की गंभीरता (संभावित एन्फ़ोर्समेंट एक्शन की गंभीरता), सही कंटेंट को गलत समझे जाने की संभावना, अनुमानित पहुँच और एंटिटी की संवेदनशीलता (मुख्य रूप से ऊपर बताई गई लिस्ट के आधार पर) जैसे मापदंडों का उपयोग करके, गलत फ़ैसले के जोखिम के आधार पर कंटेंट को रैंकिंग देता है. आजकल ज़्यादातर क्रॉस-चेक रिव्यू के लिए क्रॉस-चेक रैंकर का उपयोग पहले से ही किया जा रहा है.
SSR, लीगेसी क्रॉस-चेक सिस्टम के जैसा ही है. यह तय करने के लिए कि किस कंटेंट या एंटिटी का SSR किया जाएगा, हम उन यूज़र्स और एंटिटी की लिस्ट बनाकर रख रहे हैं, जिन्हें संभावित तौर पर कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाले कंटेंट के रूप में फ़्लैग कर दिए जाने पर उन पर लिए गए एक्शन का अतिरिक्त क्रॉस-चेक रिव्यू किया जाता है. हालाँकि, हमने इन लिस्ट को बनाने और इनमें बदलाव करने के उस प्रोसेस में कुछ कंट्रोल जोड़े हैं. सितंबर 2020 से पहले, ज़्यादातर कर्मचारी क्रॉस-चेक लिस्ट में किसी भी यूज़र या एंटिटी को जोड़ सकते थे. सितंबर 2020 के बाद, कोई भी कर्मचारी किसी यूज़र या एंटिटी को क्रॉस-चेक लिस्ट में जोड़ने की रिक्वेस्ट तो कर सकता है, लेकिन उन्हें लिस्ट में जोड़ने का अधिकार सिर्फ़ कर्मचारियों के एक निर्धारित ग्रुप के पास है.
SSR लिस्ट को मेंटेन करने की ज़िम्मेदारी अभी हमारी ग्लोबल ऑपरेशन टीम के पास है, जिसमें हमारी कानूनी और पार्टनरशिप टीमें अपनी विशेषज्ञता और अनुभव के ज़रिए मदद करती हैं. हमारी ग्लोबल ऑपरेशन टीम की रिपोर्टिंग संरचना, Meta की पब्लिक पॉलिसी टीम से अलग है, लेकिन क्रॉस-चेक के फ़ैसलों के लिए पब्लिक पॉलिसी टीम की सलाह ली जाती है. ऐसा इसलिए क्योंकि वे पूरी कंपनी में कंटेंट मॉडरेशन के कई क्षेत्रों का कामकाज देखते हैं. इन मामलों में हमारी ऑपरेशन टीम, Meta की पब्लिक पॉलिसी टीम की विशेषज्ञता का फ़ायदा ले सकती है. साथ ही, ऑपरेशन टीम स्थानीय और सांस्कृतिक विषयों पर सलाह लेने के लिए हमारे क्षेत्रीय विशेषज्ञों और अलग-अलग भाषाओं में मदद उपलब्ध कराने वाले विशेषज्ञ रिव्यूअर्स की मदद ले सकती है. अलग रिपोर्टिंग संरचना यह तय करने में मदद करती है कि रिव्यू पर राजनैतिक या आर्थिक प्रभाव न पड़े. प्रासंगिक और सही लिस्ट बनाए रखने के लिए, हमने सावधानी से एक सालाना रिव्यू प्रोसेस भी बनाया है, जिससे हम SSR लिस्ट में शामिल एंटिटी का ऑडिट करके यह तय करते हैं कि क्या उन्हें अब भी इस लिस्ट में रखा जाना चाहिए. हम इस प्रोसेस को समय के साथ बेहतर बनाते रहेंगे.
हाल ही के महीनों में, Meta ने हर दिन औसतन कई हज़ार क्रॉस-चेक किए गए कामों का रिव्यू किया है, जिनमें से ज़्यादातर GSR में पूरे किए गए थे. (हर दिन हमारे कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाले लाखों कंटेंट को फ़्लैग किया जा रहा है और उन पर एक्शन लिया जा रहा है और उनकी तुलना में यह संख्या बहुत कम है.) हर दिन होने वाले इन रिव्यू में SSR की संख्या अब बहुत कम हो गई है. हमें उम्मीद है कि 2021 के अंत और 2022 तक, GSR की प्राथमिकता की वजह से होने वाले क्रॉस-चेक रिव्यू वाले कामों की संख्या लगातार बढ़ती जाएगी.
अगर कोई कंटेंट किसी ऐसे व्यक्ति या एंटिटी का है, जिसे SSR के एक हिस्से के रूप में शामिल किया गया है, तो आम तौर पर उस कंटेंट का रिव्यू सबसे पहले क्षेत्रीय टीम करती है. इसके बाद, एस्केलेशन टीम यह कन्फ़र्म करने के लिए उसका रिव्यू करती है कि कहीं उस कंटेंट से नियमों का उल्लंघन तो नहीं हो रहा. आम तौर पर, अगर क्षेत्रीय टीम को लगता है कि कंटेंट हमारी पॉलिसी का उल्लंघन नहीं कर रहा है, तो एस्केलेशन टीम उसका रिव्यू नहीं करती. अगर कोई कंटेंट किसी ऐसे व्यक्ति या एंटिटी का है, जिसे क्रॉस-चेक रैंकर ने प्राथमिकता दी है, तो आम तौर पर कॉन्ट्रैक्टर्स या क्षेत्रीय टीम उसका रिव्यू करती है, लेकिन एस्केलेशन टीम के पास अतिरिक्त क्षमता होने पर वह टीम उसका रिव्यू करेगी. लीगेसी क्रॉस-चेक सिस्टम की ही तरह, ज़्यादा जटिल मुद्दों का अतिरिक्त रिव्यू किया जा सकता है. इसमें बहुत कम मामलों में लीडरशिप द्वारा रिव्यू किया जाना भी शामिल होता है. अगर अंतिम रिव्यू में यह पाया जाता है कि वह हमारे कम्युनिटी स्टैंडर्ड का उल्लंघन करता है, तो हम उसे हटा देते हैं. अगर हमारे रिव्यू में यह पाया जाता है कि वह उल्लंघन नहीं करता है, तो हम उसे नहीं हटाते हैं.
16 अक्टूबर, 2021 तक, लगभग 660,000 यूज़र्स और एंटिटी ने ऐसे एक्शन लिए थे, जिनके लिए ऊपर बताई गई लिस्ट में शामिल होने के आधार पर किसी न किसी तरह के SSR की ज़रूरत थी. यह संख्या लगातार बदलती रहती है, क्योंकि हम ऊपर बताई गई लिस्ट में यूज़र और एंटिटी को शामिल करने की शर्तों में बदलाव करते रहते हैं और उन बदलावों के आधार पर उस लिस्ट में यूज़र और एंटिटी को जोड़ते या हटाते रहते हैं. SSR के लिए योग्य यूज़र और एंटिटी के उदाहरणों में ये शामिल हैं, लेकिन ये इन्हीं तक सीमित नहीं हैं:
- एस्केलेशन रिस्पॉन्स या ज़्यादा जोखिम वाली घटनाओं से जुड़ी एंटिटी. फ़िलहाल, इसके लिए एक अनौपचारिक प्रक्रिया मौजूद है. इस प्रक्रिया में ज़्यादा जोखिम वाली घटनाओं के लिए तैयारी करने वाली टीमें, उन एंटिटी की पहचान करती हैं, जिनमें ज़रूरत से ज़्यादा एन्फ़ोर्समेंट का जोखिम ज़्यादा होता है. उदाहरण के लिए, अगर किसी यूज़र का विवादास्पद कंटेंट वायरल हो रहा है (जैसे, पुलिस हिंसा का लाइव वीडियो), तो हम उसे गलती से हटाने से बचने के लिए, उस यूज़र को SSR के लिए फ़्लैग कर सकते हैं.
- कानूनी अनुपालन के उद्देश्यों के लिए शामिल की गई एंटिटी. हम कानूनी या विनियामक शर्तों का पालन करने के लिए, कुछ मामलों में SSR का उपयोग करते हैं.
- बहुत ज़्यादा लोगों की नज़र में रहने वाली सार्वजनिक हस्तियाँ और प्रकाशक. हम कुछ एंटिटी को SSR के लिए फ़्लैग करते हैं, क्योंकि उन पर ज़रूरत से ज़्यादा सख्त एक्शन लेने पर बहुत सारे यूज़र्स का अनुभव खराब हो सकता है.
- उपेक्षित आबादी. हम मानवाधिकारों की रक्षा करने वाले लोगों, राजनैतिक आलोचकों और ऐसे अन्य लोगों की पहचान करते हैं, जिनका सरकार द्वारा प्रायोजित या अन्य तरीकों से उत्पीड़न किया जा सकता है या जिन्हें ब्रिगेडिंग या सामूहिक रिपोर्टिंग के ज़रिए टार्गेट किया जा सकता है. हम ऐसा इसलिए करते हैं, ताकि उन्हें इन हमलों से बचाया जा सके.
- नागरिक संस्थाएँ. हम राजनेताओं, सरकारी अधिकारियों, संस्थानों, संगठनों, समर्थकों के समूहों और नागरिक इन्फ़्लुएंसर्स की पहचान करने के लिए, निष्पक्ष शर्तों और हमारी क्षेत्रीय पॉलिसी टीमों की विशेषज्ञता के अनुसार काम करते हैं. हम इन एंटिटी को SSR में शामिल करते हैं, ताकि उन गलतियों को रोका जा सके, जो नियमों का उल्लंघन न करने वाले राजनैतिक बयानों को सीमित करती हैं और अनजाने में चुनावों, पब्लिक पॉलिसी और सामाजिक मुद्दों जैसे नागरिक विषयों की चर्चा को प्रभावित करती हैं. हमारा लक्ष्य देश की सभी नागरिक संस्थाओं के लिए समानता सुनिश्चित करना है. उदाहरण के लिए, अगर हम SSR में राष्ट्रीय कैबिनेट मंत्रालय को शामिल करते हैं, तो इसका मतलब है कि हम SSR में उस देश की सरकार के सभी मंत्रालयों को शामिल करेंगे.
- बिज़नेस. हम ज़्यादा महत्वपूर्ण विज्ञापनदाताओं और उन लोगों का पता लगाते हैं, जिन पर कभी ज़रूरत से ज़्यादा सख्त एक्शन लिया गया था, ताकि उनकी कमाई को नुकसान से बचाया जा सके और हमारे प्लेटफ़ॉर्म पर उनका भरोसा हमेशा बना रहे.
फ़िलहाल हम यह पता लगा रहे हैं कि उन एंटिटी की पहचान करने वाले मापदंडों को बेहतर कैसे बनाया जाए, जिन्हें SSR में शामिल किया जाना चाहिए. जैसे कि हम फ़ॉलोअर्स की संख्या, गलत फ़ैसलों वाले पिछले एन्फ़ोर्समेंट की संख्या और कानूनी/विनियामक शर्तों के साथ-साथ महत्वपूर्ण राजनैतिक/सामाजिक मुद्दों जैसे मामलों में अपने मापदंडों को बेहतर बनाने के तरीके तलाश रहे हैं. यूज़र्स इस फ़ॉर्म के ज़रिए यह रिक्वेस्ट कर सकते हैं कि उन्हें SSR लिस्ट में शामिल न किया जाए. Meta यह कन्फ़र्म नहीं करता कि कोई यूज़र इन लिस्ट में है या उसे हटा दिया गया है. लेकिन हम यूज़र्स की स्वतंत्रता में पूरा विश्वास करते हैं और हम हर रिक्वेस्ट का जल्द से जल्द रिव्यू करेंगे.
क्रॉस-चेक सिस्टम के दो हिस्सों के अलावा, हमारे पास गलतियों को रोकने का एक आंतरिक सिस्टम भी है, जिसे डायनेमिक मल्टी रिव्यू (DMR) कहा जाता है. इस सिस्टम में हम अन्य रिव्यूअर्स की राय जानने के लिए, रिव्यू किए गए केसों को फिर से रिव्यू के लिए भेज सकते हैं (मतलब अगर ज़्यादातर रिव्यूअर शुरुआती फ़ैसले से सहमत हैं, तो केस को बंद कर दिया जाता है), ताकि हम ज़्यादा आत्मविश्वास के साथ फ़ैसले ले सकें. हम वायरल होने, व्यूज़ की संख्या और नुकसान पहुँचाने की आशंका (जैसे, यौन शोषण या खतरनाक लोगों और संगठनों पर हमारी पॉलिसी के संभावित उल्लंघनों) जैसी कई अलग-अलग चीज़ों के आधार पर अंतिम फ़ैसले के लिए ज़रूरी रिव्यू की संख्या को एडजस्ट करके ह्यूमन रिव्यू की क्वालिटी और सटीकता को बेहतर बनाने और गलत फ़ैसलों के जोखिम को कम करने के लिए इस सिस्टम का उपयोग करते हैं.
क्रॉस-चेक सिस्टम में आगे पारदर्शिता से जुड़े कौन-से उपाय शामिल किए जाएँगे
क्रॉस-चेक पॉलिसी एडवाइज़री टीम की राय के आधार पर ओवरसाइट बोर्ड के दिसंबर 2022 के फ़ैसले के जवाब में, हमने गलतियों को रोकने में पारदर्शिता लाने के उपायों की एक सीरीज़ बनाने की प्रतिबद्धता भी जताई है. इन उपायों में शामिल हैं:
- हमारी आंतरिक मानव और नागरिक अधिकार टीमों, हमारे भरोसेमंद पार्टनर्स और हमारे बाहरी सिविल सोसायटी संगठनों के बीच व्यवस्थित और सुदृढ़ सहभागिता, ताकि हम उन मापदंडों के बारे में जानकारी जुटा सकें, जिनका उपयोग हम क्रॉस-चेक लिस्ट के लिए जनहित से जुड़ी एंटिटी की पहचान करने के लिए करते हैं.
- वैश्विक, क्षेत्रीय और स्थानीय सिविल सोसायटी ग्रुप से क्रॉस-चेक लिस्ट के लिए नामांकन पाने का और भी औपचारिक प्रोसेस तैयार करना.
- रिव्यू और ट्रेनिंग के लिए अच्छी क्वालिटी के रिसोर्स में निवेश करना, क्योंकि हम जहाँ तक संभव हो, क्रॉस-चेक से जुड़े सभी फ़ैसलों में ऐसे रिव्यूअर्स की मदद लेने की दिशा में आगे बढ़ रहे हैं, जो क्षेत्रीय भाषा बोलते हैं और जिनके पास क्षेत्रीय विशेषज्ञता है.
- गलतियों को रोकने के हमारे सभी सिस्टम पर रिव्यू के फ़ैसलों के लिए एक असरदार सर्विस लेवल एग्रीमेंट (SLA) लागू करना, जिससे हम अपने मौजूदा रिव्यूअर स्टाफ़िंग मॉडल को ऑप्टिमाइज़ कर सकें, ताकि उस भाषा के रिव्यूअर से जल्द से जल्द रिव्यू करवाना संभव हो सके.
हालाँकि हमने क्रॉस-चेक सिस्टम में काफ़ी सुधार कर लिए हैं, फिर भी हम ऐसे और तरीके तलाश रहे हैं, जिनसे यह सिस्टम हमारे कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाले कंटेंट को हटाने के हमारे लक्ष्यों को सही तरीके से हासिल कर सके और उनका उपयोग करने पर हमसे एन्फ़ोर्समेंट में ऐसी गलतियाँ कम से कम हों, जिनका असर सबसे गंभीर होता है.