हम वैश्विक खतरों का आकलन और उनसे निपटने की तैयारी कैसे करते हैं
अपडेट किया गया 29 अप्रै 2024
मुश्किल परिस्थितियों के दौरान, Meta आने वाले जोखिमों का लगातार आकलन करता रहता है, ताकि हम पॉलिसी और प्रोडक्ट में सीमित समय के लिए ऐसे बदलाव करके लोगों की सटीकता से मदद कर सकें, जिनसे लोगों को सुरक्षित रहने में मदद मिले. इस तरीके में स्थानीय, क्षेत्रीय और राष्ट्रीय घटनाओं (चुनावों सहित) से पहले और उनके दौरान आने वाले संभावित जोखिमों की जाँच की जाती है.
ज़्यादा जोखिम वाली परिस्थितियों से निपटने के लिए, Meta कई अलग-अलग तरीके अपनाता है. जैसे, प्रोडक्ट के फ़ीचर्स को बदलना या उन्हें सीमित कर देना, मैसेज भेजने की सीमा तय करना, कंटेंट के डिस्ट्रीब्यूशन को सीमित कर देना और ऐसे अन्य तरीके.
हम नुकसानदेह हो सकने वाले ट्रेंड्स की पहचान करने के लिए कई तरीके अपनाते हैं. जैसे पब्लिक रिपोर्ट से जानकारी जुटाना, अपने भरोसेमंद पार्टनर्स से मिले सुझावों का रिव्यू करना, कंटेंट से जुड़े ट्रेंड्स पर लगातार नज़र रखना, मानवाधिकारों की सावधानी से जाँच करना और अपनी इंटेलिजेंस टीमों द्वारा किए गए मूल्यांकन की जाँच करना. इस जानकारी और इसके साथ ही मौजूदा कम्युनिटी स्टैंडर्ड और एन्फ़ोर्समेंट सिस्टम से हमें यह पता लगाने में मदद मिलती है कि हम प्रोडक्ट और पॉलिसी में ऐसे किस तरह के बदलाव कर सकते हैं, जिनका उपयोग हम संकट (ज़्यादा जोखिम वाले चुनावों सहित) के दौरान प्लेटफ़ॉर्म के गलत उपयोग को रोकने के लिए कर सकते हैं. इनमें हमारा क्राइसिस पॉलिसी प्रोटोकॉल (CPP) शामिल है, जिससे हमें कंटेंट से जुड़े जोखिमों से निपटने के तरीकों का आकलन करने और यह समझने में मदद मिलती है कि ज़्यादा जोखिम वाली परिस्थितियों में हम अपने सिस्टम में क्या बदलाव कर सकते हैं.
ऐसे में कुछ लोकेशन को टेंपरेरी हाई रिस्क लोकेशन (THRL) के तौर पर मार्क करना एक ज़रूरी और संभावित उपाय हो सकता है. यह एक पॉलिसी टूल है, जिसका उपयोग उन लोकेशन पर हिंसा भड़का सकने वाले कुछ खास तरह के कंटेंट से निपटने के लिए किया जाता है, जिन्हें वहाँ की परिस्थितियों के कारण ज़्यादा जोखिम वाली लोकेशन माना जाता है. संकट से निपटने के लिए Meta अपने पॉलिसी टूल्स और फ़्रेमवर्क के अलावा, इंटीग्रिटी प्रोडक्ट ऑपरेशंस सेंटर (IPOC) पर भी निर्भर करता है. यह एक ऐसा तरीका है, जो ज़रूरत पड़ने पर और किसी खास परिस्थिति के आने से पहले ही कंपनी के अंदर की अलग-अलग टीमों, विषय विशेषज्ञों और क्षमताओं को साथ लेकर आता है, ताकि हम संभावित समस्याओं और नुकसानदेह ट्रेंड से रियल-टाइम में निपट सकें.
चुनाव के दौरान, IPOC कई सोर्स पर नज़र रखेगा. जैसे डेटा एनालिसिस टूल्स, भरोसेमंद पार्टनर्स से मिले इनपुट और पारंपरिक मीडिया पर. हम यूज़र्स की रिपोर्ट के ट्रेंड और हमारे क्लासिफ़ायर द्वारा फ़्लैग किए गए कंटेंट पर भी नज़र रखते हैं.
वैसे तो ये दो अलग-अलग प्रोसेस हैं, लेकिन THRL तय करने का प्रोसेस और CPP का रिव्यू प्रोसेस, हिंसा या ऑफ़लाइन नुकसान के बढ़े हुए जोखिम के कुछ समान सिग्नल पर निर्भर करता है. हम संकट की परिस्थिति में किसी लोकेशन को THRL के तौर पर मार्क कर सकते हैं, लेकिन यह फ़ैसला उसे CPP के तौर पर मार्क किए जाने पर निर्भर नहीं करता.
हमारी टीमें लगातार हमारे प्लेटफ़ॉर्म पर नज़र रखती हैं, ताकि किसी भी तरह के जोखिम का तुरंत पता लगाया जा सके. इससे हमें चेतावनी के सिग्नल की संख्या अचानक बढ़ने या उनमें बदलाव आने पर यह तय करने में मदद मिलती है कि हमें अपने सिस्टम में क्या बदलाव करने चाहिए. यहाँ इस बारे में और जानकारी दी गई है कि ज़्यादा जोखिम वाली परिस्थितियों से निपटने के लिए, हम अपने सिस्टम में किस तरह के बदलाव करते हैं.