AI की मदद से कंटेंट एन्फ़ोर्समेंट में बदलाव लाना
अपडेट किया गया 19 मार्च 2026
हम कंटेंट का रिव्यू करने और अपने कम्युनिटी स्टैंडर्ड को लागू करने के लिए हमेशा से टेक्नोलॉजी और लोगों का साथ में उपयोग करते आए हैं. जैसी कि हमने हाल ही में घोषणा की थी, हम अपने मौजूदा कंटेंट एन्फ़ोर्समेंट प्रोसेस में और भी एडवांस AI सिस्टम को इंटीग्रेट करके देख रहे हैं. हमारा लक्ष्य पिछले साल गलतियों को कम करने के लिए किए गए बदलावों के सकारात्मक परिणामों को आगे बढ़ाना है. इसके लिए हम ऐसे अपडेट किए गए सिस्टम बना रहे हैं, जो गंभीर उल्लंघनों और गैर-कानूनी कंटेंट को बेहतर तरीके से पकड़ सकें, ज़्यादा स्कैम रोक सकें और असली घटनाओं पर तेज़ी से काम कर सकें.
हालाँकि, हम अपने काम का दायरा बढ़ाने के लिए नई टेक्नोलॉजी का उपयोग बढ़ा रहे हैं, लेकिन हम यह सब लोगों को बेहतर अनुभव देने के लिए ही कर रहे हैं. हमारे विशेषज्ञ ही हमारी पॉलिसी लिखते हैं और बनाते हैं; हमारे AI सिस्टम को डिज़ाइन, ट्रेनिंग देते हैं और उनका मूल्यांकन करते हैं; परफ़ॉर्मेंस का मूल्यांकन करते हैं और अब भी सबसे जटिल, ज़्यादा प्रभाव वाले फ़ैसले लेंगे. यह एक विकास है, जो हम एडवांस AI के स्केल और क्षमताओं को लोगों की विशेषज्ञता और समझ के साथ कैसे मिलाते हैं, जिससे दोनों एक-दूसरे को मज़बूत बनाते हैं, ताकि लोग हमारे प्लेटफ़ॉर्म पर सुरक्षित रहें.
क्या बदल रहा है, क्या नहीं
सावधानी से किया गया धीरे-धीरे लॉन्च
हम इस बदलाव को धीरे-धीरे और सावधानी से लागू कर रहे हैं, ताकि यह पक्का किया जा सके कि हमारा लॉन्च विचारपूर्ण और समझदारी भरा हो. हर AI मॉडल को लॉन्च किए जाने से पहले कई चरणों वाले सख्त टेस्ट से गुज़रना पड़ता है. हम AI-फ़र्स्ट एन्फ़ोर्समेंट पर तभी स्विच करेंगे, जब टेक्नोलॉजी हमारे सभी टेस्ट में लगातार हमारे मौजूदा सिस्टम से बेहतर परफ़ॉर्म करेगी.
नया अपडेट: अब यह सुविधा ज़्यादा भाषाओं में उपलब्ध है और बेहतर तरीके से कंटेंट की पहचान करती है
ये ज़्यादा एडवांस AI सिस्टम ऐसी भाषाओं को कवर करते हैं, जिन्हें ऑनलाइन 98% लोग बोलते हैं, जबकि हमारे पिछले कवरेज में लगभग 80 भाषाएँ शामिल थीं. इससे हमें ज़्यादा सटीक और एक जैसे तरीके से सभी तरह के कंटेंट पर पॉलिसी लागू करने में मदद मिलती है. ये सिस्टम ज़्यादा संदर्भ और सांस्कृतिक बारीकियों को भी समझ सकते हैं, जिसमें विशेष उप-संस्कृतियाँ शामिल हैं, तेज़ी से बदलते और क्षेत्र-विशिष्ट कोड वर्ड, इमोजी के मतलब और स्लैंग.
शुरुआती टेस्ट में यह भी देखा गया है कि ये सिस्टम, एन्फ़ोर्समेंट के लिए ज़रूरी बारीकियों को बेहतर तरीके से पहचानते हैं. उदाहरण के लिए, हमारे AI सिस्टम ने एक ऐसी नकली वेबसाइट का पता लगाया, जो असली वेब एड्रेस की नकल थी और बेहद कम कीमतों व संदिग्ध URL के साथ असली लोगो का इस्तेमाल करके खुद को एक लोकप्रिय स्पोर्ट्स स्टोर के रूप में पेश कर रही थी.
समानता: एन्फ़ोर्समेंट के मुख्य सिद्धांत
- लोग ही केंद्र में होते हैं: कंटेंट का एन्फ़ोर्समेंट करने के हमारे तरीके में लोग अब भी एक महत्वपूर्ण भूमिका निभाते हैं. एक्सपर्ट टीमें Meta के AI एन्फ़ोर्समेंट की स्थापक होती हैं; वे पॉलिसी बनाती हैं, मॉडल को ट्रेनिंग देती हैं, परफ़ॉर्मेंस को वेरिफ़ाई करती हैं और ज़्यादा जोखिम वाले और ज़्यादा असर डालने वाले फ़ैसले लेती हैं, जैसे कि अकाउंट बंद किए जाने के खिलाफ़ अपील पर आखिरी फ़ैसला लेना और कानून द्वारा ज़रूरी होने पर कानून लागू करने वाली संस्था को जानकारी देना.
- कम्युनिटी स्टैंडर्ड: इस बदलाव के तहत हमारे कम्युनिटी स्टैंडर्ड नहीं बदल रहे हैं और वे हमारे प्लेटफ़ॉर्म पर जिन चीज़ों की परमिशन है और नहीं है, उनके लिए हमारे नियमों को परिभाषित करना जारी रखेंगे. सिर्फ़ एक चीज़ बदल रही है और वह है इन पॉलिसी को लागू करने का तरीका.
- रिपोर्ट और अपील करना: आप अब भी ऐसे कंटेंट की रिपोर्ट कर सकते हैं, जिसके बारे में आपको लगे कि वह हमारी पॉलिसी का उल्लंघन करता है. इसके अलावा अगर हम आपके कंटेंट या अकाउंट पर कोई एक्शन लेते हैं, तो आप उस फ़ैसले के खिलाफ़ अपील भी कर सकते हैं.
यह प्रोसेस कैसे पूरा होता है:
हमारे तरीके में AI की क्षमताओं को पूरे प्रोसेस में ह्यूमन एक्सपर्टीज़ के साथ मिलाकर उपयोग किया जाता है.
डिप्लॉयमेंट से पहले सख्त टेस्टिंग
किसी भी AI सिस्टम के द्वारा कोई भी एन्फ़ोर्समेंट से जुड़ा असली फ़ैसला लेने से पहले, हम उसे बारीकी से टेस्ट करते हैं और उसमें सुरक्षा उपाय डालते हैं. हम इसके फ़ैसलों की तुलना हमारे सबसे अनुभवी रिव्यूअर्स के फ़ैसलों से करते हैं और इसे सिर्फ़ तब लागू करते हैं जब हमने देखा हो कि यह कंटेंट एन्फ़ोर्समेंट के हमारे मौजूदा तरीकों की तुलना में लगातार बेहतर परफ़ॉर्म कर रहा है.
क्वालिटी के स्पष्ट स्टैंडर्ड
इस्तेमाल करने से पहले हर मॉडल को खास सटीकता बेंचमार्क पूरे करने होंगे. हम परफ़ॉर्मेंस का मूल्यांकन इसलिए करते हैं, ताकि हम निष्पक्षता, प्रभावशीलता, सही पहचान और सटीकता सुनिश्चित कर सकें. हम यह पक्का करना चाहते हैं कि हम उल्लंघन करने वाले असली कंटेंट की सही पहचान कर रहे हैं और उल्लंघन करने वाले और उल्लंघन न करने वाले कंटेंट के बीच अंतर कर पा रहे हैं.
लगातार निगरानी करना
डिप्लॉय करने के बाद, हर मॉडल का लगातार मूल्यांकन किया जाता है. हम सटीकता को ट्रैक करते हैं, परफ़ॉर्मेंस में अचानक होने वाले बदलावों की निगरानी करते हैं और समस्या होने पर मॉडल को तुरंत एडजस्ट या रिफ़ाइन कर सकते हैं. हमारे सिस्टम तेज़ी से सुधार और अपडेट के लिए बनाए गए हैं, टीमें और टेक्नोलॉजी, ट्रेंड का एनालिसिस करके समस्याओं को जल्दी पहचानती हैं.
हर चरण में ह्यूमन एक्सपर्टीज़
लोग पॉलिसी बनाते हैं. लोग AI को ट्रेनिंग देते हैं. लोग परफ़ॉर्मेंस की निगरानी करते हैं. साथ ही, लोग बारीक अंतर वाले, जटिल और महत्वपूर्ण फ़ैसले लेते हैं. जहाँ AI बड़े पैमाने पर एन्फ़ोर्समेंट को बेहतर बनाता है और निरंतरता बढ़ाता है; वहीं इंसान फ़ैसले लेते हैं और सिस्टम की निगरानी करते हैं.
पॉलिसी के सभी क्षेत्रों में परफ़ॉर्मेंस
हमारे AI मॉडल कई पॉलिसी क्षेत्रों में शुरुआती टेस्टिंग में भी बेहतर परिणाम दे रहे हैं:
धोखाधड़ी और स्कैम
स्कैमर्स को लोगों को धोखा देकर उनकी लॉग इन जानकारी पाने से रोकने के लिए बनाए गए AI समाधान ने हर दिन 5,000 स्कैम की कोशिशों का पता लगाया और उन्हें रोका, जो कि किसी भी मौजूदा रिव्यू टीम ने पहले कभी नहीं किया था.
उल्लंघन करने वाला अश्लील कंटेंट
वयस्क यौन आग्रह से जुड़े उल्लंघनों का पता लगाने के लिए बनाए गए AI सिस्टम ने ऐसे दोगुने से भी ज़्यादा कंटेंट का पता लगाया और गलत फ़ैसलों की दर को 60% से भी कम कर दिया. इसका मतलब है कि हम गलत एन्फ़ोर्समेंट से ज़्यादा लोगों की सुरक्षा करते हुए नुकसानदेह कंटेंट को तेज़ी से ढूँढकर उसे हटा रहे हैं.
कोई और होने का दिखावा करना
AI ने हाई-प्रोफ़ाइल फ़र्ज़ी प्रोफ़ाइलों और अकाउंट की यूज़र रिपोर्ट को 80% तक कम कर दिया है. AI सिर्फ़ नाम मैच करने के बजाय, ज़्यादा संदर्भ का विश्लेषण करके यह पता लगा सकता है कि कोई व्यक्ति किसी सार्वजनिक हस्ती के होने का दिखावा कर रहा है या नहीं, जैसे कि प्रोफ़ाइल की जानकारी, पोस्ट करने के पैटर्न और गलत जानकारी का संकेत देने वाली संबंधित विशेषताएँ.
आगे का प्लान
यह बदलाव धीरे-धीरे हो रहा है, जिसमें हर स्टेप का सावधानी से टेस्ट किया जा रहा है. हम अपनी कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट में एन्फ़ोर्समेंट डेटा प्रकाशित करते हैं और हम जो कुछ भी सीख रहे हैं (जिसमें सफलताएँ और चुनौतियाँ, दोनों शामिल हैं) उसे शेयर करना जारी रखेंगे, क्योंकि AI एन्फ़ोर्समेंट का दायरा ज़्यादा पॉलिसी क्षेत्रों में बढ़ रहा है. हम Meta के अंतर्गत वैश्विक स्तर पर हमारे स्टैंडर्ड और पॉलिसी लागू करने में गहरी विशेषज्ञता रखने वाले लोगों की अपनी विशेष टीम को मज़बूत बनाने की भी योजना बना रहे हैं.
इस बदलाव और हमारी प्रवर्तन प्रक्रियाओं के बारे में पारदर्शिता बरतना ज़रूरी है. इस बारे में और जानने के लिए कि अभी हम उल्लंघनों पर कैसे एक्शन लेते हैं, एक्शन लेना देखें. हमारी पॉलिसी के बारे में जानने के लिए, हमारे कम्युनिटी स्टैंडर्ड देखें. हम अपनी पॉलिसी को बेहतर बनाते समय नियमित रूप से अलग-अलग स्टेकहोल्डर को शामिल करते हैं और इस ट्रांज़िशन के दौरान भी हम रेगुलेटर, बाहरी विशेषज्ञों और ओवरसाइट बोर्ड के साथ काम करते रहेंगे और अपने नज़रिए पर फ़ीडबैक लेते रहेंगे.
हमारे तरीकों को नए खतरों, बदलती हुई स्लैंग और आने वाली चुनौतियों के हिसाब से बनाया गया है, जैसे कि ड्रग्स की बिक्री के लिए कोड की भाषा का उपयोग करना. साथ ही, इसे इस सिद्धांत के आधार पर बनाया गया है कि एडवांस टेक्नोलॉजी और मानव विवेक को मिलाकर उपयोग करने से सबसे अच्छे परिणाम मिलते हैं.