False Positive की संख्या
अपडेट किया गया 11 दिसं 2025
False positive की संख्या का क्या मतलब है
False positive की संख्या उन कंटेंट आइटम की कुल संख्या बताती है, जो उल्लंघन न करने के बावजूद हमारे एन्फ़ोर्समेंट सिस्टम या Facebook और Instagram के ह्यूमन रिव्यूअर्स द्वारा गलती से हटा दिए जाते हैं. एन्फ़ोर्समेंट की सटीकता प्रतिशत में होती है, जबकि false positive की संख्या एक अनुमानित संख्या है, जो एन्फ़ोर्समेंट में हुई गलतियों के असल प्रभाव को आँकती है.
False positive की संख्या के बारे में सोचने का एक अन्य तरीका यह है: हमने कितनी बार ऐसे कंटेंट को हटाने के लिए एक्शन लिया जो असल में हमारे कम्युनिटी स्टैंडर्ड का पालन करता था? इस मीट्रिक से हमें अनचाहे परिणामों के पैमाने को समझने और एन्फ़ोर्समेंट में हुई गलतियों से प्रभावित यूज़र्स या क्रिएटर्स की संख्या जानने में मदद मिलती है.
हम false positive की संख्या कैसे पता लगाते हैं
False positive की संख्या का अनुमान लगाने के लिए एक ही समय अवधि में जिन कंटेंट के खिलाफ़ एक्शन लिए गया था, उनकी संख्या और मापी गई सटीकता को एक साथ जोड़ा जाता है. हम जानते हैं कि पूरे प्लेटफ़ॉर्म की सटीकता से सबसे ज़्यादा एक्शन वाले क्षेत्रों की जानकारी सटीक रूप से मिलेगी, इसलिए हम false positive की संख्या निकालने के लिए सीधे इसका उपयोग नहीं करते हैं. इसके बजाय, हम प्लेटफ़ॉर्म के एक छोटे सबसेट के लिए सटीकता का मूल्यांकन करते हैं और फिर उस सबसेट से जुड़े false positive की संख्या का मूल्यांकन करने के लिए सटीकता की उन वैल्यू को संबंधित एन्फ़ोर्समेंट की संख्या के साथ जोड़ते हैं. इसके बाद, false positive की संख्या के हर सबसेट को वापस इकट्ठा किया जाता है, ताकि प्लेटफ़ॉर्म पर false positive की कुल संख्या पता चल सके.
उदाहरण के लिए, कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट से पता चलता है कि हर तिमाही में हम Facebook पर मौजूद सैकड़ों मिलियन कंटेंट पर स्पैम से जुड़े एन्फ़ोर्समेंट एक्शन लेते हैं, लेकिन 10 मिलियन से कम कंटेंट पर हिंसा और उकसावे से जुड़े एक्शन लिए जाते हैं. इस मामले में, स्पैम एन्फ़ोर्समेंट की सटीकता की कुल वैल्यू को हिंसा और उकसावे वाले कंटेंट से जुड़े एन्फ़ोर्समेंट की संख्या पर लागू करना सही नहीं होगा. इसके बजाय, हम दोनों नुकसानों के लिए सटीकता का अलग-अलग मूल्यांकन करते हैं और फिर नुकसान के अनुसार false positive की संख्या निकालने के लिए उस नुकसान से जुड़ी सटीकता लागू करते हैं. इसके बाद, दोनों नुकसान से जुड़ी false positive की संख्या को जोड़कर Facebook के लिए कुल अंतिम वैल्यू निकालते हैं.
अगर किसी खास ग्रैन्युलैरिटी में इतने सैंपल न हों कि सटीकता की भरोसेमंद गणना की जा सके, तो हम सटीकता की गणना करने के लिए अगले सबसे नज़दीकी एग्रीगेशन लेवल का उपयोग करते हैं.
हम false positive की संख्या क्यों निकालते हैं
हम एन्फ़ोर्समेंट में हुई गलतियों की वजह से अपनी कम्युनिटी पर असल में पड़ने वाले असर को समझने के लिए false positive की संख्या निकालते हैं. False positive का मतलब है कि गलत एक्शन की वजह से किसी व्यक्ति या क्रिएटर पर असर पड़ा है, जिससे भरोसा कमज़ोर हो सकता है और खीझ पैदा हो सकती है.
इस मीट्रिक को ट्रैक करने से हमें इन चीज़ों में मदद मिलती है:
- अपने एन्फ़ोर्समेंट सिस्टम के असर और निष्पक्षता का मूल्यांकन करना.
- यह पता लगाना कि क्या ऑटोमेटेड सिस्टम या पॉलिसी में बदलावों की वजह से ज़्यादा (या कम) गलतियाँ हुई हैं.
- समय के साथ गलतियाँ कम करने के लिए सुधार को प्राथमिकता देना.
False Positive की संख्या किन कारणों से बदलती है?
False positive की संख्या कई कारणों से बढ़ या घट सकती है, जिनमें से कुछ कारणों पर Meta का कंट्रोल होता है और कुछ पर नहीं होता है:
- एन्फ़ोर्समेंट एक्टिविटी में बदलाव: अगर कुल मिलाकर ज़्यादा कंटेंट के खिलाफ़ एक्शन लिया जाता है, तो एन्फ़ोर्समेंट की सटीकता स्थिर होने पर भी false positive की संख्या ज़्यादा होगी.
- सीज़नल या ईवेंट-आधारित बढ़ोतरी: बड़े ईवेंट या जान-बूझकर नुकसान पहुँचाने के लिए किए गए हमले की वजह से कुछ समय के लिए एन्फ़ोर्समेंट एक्शन में बढ़ोतरी हो सकती है और उसकी वजह से false positive की संख्या भी बढ़ सकती है.
- डिटेक्शन में सुधार: बेहतर मॉडल या रिव्यूअर ट्रेनिंग से एन्फ़ोर्समेंट की सटीकता बेहतर हो सकती है, जिससे एक्शन की समान संख्या के लिए false positive की संख्या कम हो जाती है.
ध्यान दें
चूँकि false positive की संख्या हमारे सटीकता के मूल्यांकन की मदद से ही निकाली जाती है, इसलिए सटीकता संबंधी सभी चेतावनियाँ false positive की संख्या पर भी लागू होती हैं.