खतरनाक संगठनों और लोगों से निपटने का हमारा तरीका

अपडेट किया गया 11 नवं 2024
हमारे प्लेटफ़ॉर्म पर ऐसे समूहों या लोगों के लिए कोई जगह नहीं है, जो हिंसा, संगठित अपराध, नफ़रत या आतंकवाद को बढ़ावा देते हैं. इस तरह के कंटेंट से निपटने के लिए, हमने कई सालों की मेहनत से खतरनाक लोगों और संगठनों (DOI) से जुड़ी पॉलिसी और प्रक्रियाएँ बनाई हैं और हम उन्हें बेहतर बनाना जारी रखेंगे. जहाँ हम लोगों को ऐसे प्लेटफ़ॉर्म उपलब्ध कराने के लिए प्रतिबद्ध हैं, जहाँ वे अपने जीवन, परिवारों और कम्युनिटी पर असर डालने वाली घटनाओं के बारे में बात कर सकें, वहीं हमारी पॉलिसी यह तय करती है कि हमारे प्लेटफ़ॉर्म पर किस तरह के कंटेंट की परमिशन नहीं होगी.
policy-image
हमारी सभी पॉलिसी हमारे प्लेटफ़ॉर्म को सुरक्षित रखने के लिए बनाई गई हैं
आतंकी संगठनों, नफ़रत फैलाने वाले समूहों, कार्टेल जैसे संगठित अपराध संगठनों, लोगों को हिंसा करने के लिए उकसाने वाली संस्थाओं और सामूहिक गोलीबारी या आतंकी हमलों जैसी उल्लंघन करने वाली चिह्नित घटनाओं के अपराधियों को टार्गेट करने के लिए, Meta के पास इंडस्ट्री की सबसे व्यापक पॉलिसी हैं.
इस DOI पॉलिसी के तहत, हम ऐसी एक्टिविटी में शामिल लोगों और संगठनों को चिह्नित और प्रतिबंधित करते हैं और जब हमें ऐसे किसी कंटेंट की जानकारी मिलती है जो इनकी प्रशंसा और समर्थन करता है, तो हम उसे हटा देते हैं. हम हिंसा भड़काने वाले लोगों और संगठनों को भी चिह्नित और प्रतिबंधित करते हैं. इनमें ऐसे लोग और संगठन शामिल होते हैं, जो भविष्य में हिंसा फैलाने की तैयारी में लगे होते हैं या उसे उकसाते हैं, लेकिन यह ज़रूरी नहीं है कि उन्होंने पहले कभी हिंसा की हो. साथ ही, हम उनकी प्रशंसा और समर्थन करने वाले कंटेंट को भी हटा देते हैं.
हमारी सभी पॉलिसी सार्वजनिक हैं और आप हमारे 'कम्युनिटी स्टैंडर्ड' पेज पर जाकर उनके बारे में और जानकारी पा सकते हैं. इसके अलावा, हम कम्युनिटी स्टैंडर्ड की तिमाही रिपोर्ट में नियमित रूप से यह जानकारी भी प्रकाशित करते हैं कि हम ऐसे कितने कंटेंट को हटाते हैं.
हम चीज़ों को कैसे और क्यों चिह्नित करते हैं
हम उन संगठनों या लोगों को Meta के किसी भी प्लेटफ़ॉर्म पर मौजूद रहने की परमिशन नहीं देते हैं, जो किसी हिंसक या नफ़रत फैलाने वाले मिशन में शामिल होने की घोषणा करते हैं या हिंसा में शामिल होते हैं. हम इन लोगों और संगठनों का आकलन उनके ऑनलाइन और ऑफ़लाइन, दोनों व्यवहारों के आधार पर और उससे भी ज़्यादा, हिंसा से उनके संबंध के आधार पर करते हैं. हम इस पॉलिसी के तहत लोगों, संगठनों और लोगों के नेटवर्क को चिह्नित करते हैं. ज़्यादा असरदार, उचित मात्रा में और एक समान एन्फ़ोर्समेंट सुनिश्चित करने के लिए, हमने चिह्नित संगठनों और लोगों को दो टियर में बाँटा है. आप इन टियर और इनमें शामिल संगठनों के प्रकारों के बारे में ज़्यादा जानकारी हमारे कम्युनिटी स्टैंडर्ड में पा सकते हैं.
हमारी अपनी एक आंतरिक प्रक्रिया है, जिसमें कई सोर्स से जानकारी लेकर उस पर विचार किया जाता है, इस जानकारी का उपयोग करके हम संगठनों और लोगों का मूल्यांकन करते हैं और यह तय करते हैं कि उन्हें चिह्नित किया जाना चाहिए या नहीं. चीज़ों को चिह्नित करने के लिए हमारी परिभाषाएँ और प्रक्रिया, किसी क्षेत्र विशेष या विचारधारा पर निर्भर नहीं करती हैं. इससे हम असरदार, निष्पक्ष और सक्रिय तरीके से अपने सभी प्लेटफ़ॉर्म की सुरक्षा कर पाते हैं.
यह काम लगातार चलता रहता है. हम जोखिमों का लगातार आकलन कर रहे हैं. हम समूहों और लोगों के व्यवहार, बदलती परिस्थितियों, नई जानकारी, आंतरिक विशेषज्ञों के विश्लेषण और बाहरी स्टेकहोल्डर के इनपुट के आधार पर समूहों और लोगों को चिह्नित करने के लिए उनका मूल्यांकन कर रहे हैं. उदाहरण के लिए, जैसा कि हमने जनवरी 2024 में अनाउंस किया था, जब कोई चिह्नित संगठन या व्यक्ति अपना व्यवहार बदलता है, तो उसे हमारी लिस्ट से हटाया भी जा सकता है, खास तौर पर तब जब (1) उसे अमेरिकी सरकार द्वारा स्पेशली डेज़िग्नेटेड नारकोटिक्स ट्रैफ़िकिंग किंगपिन (SDNTK); फ़ॉरेन टेरेरिस्ट ऑर्गेनाइज़ेशन (FTO) या स्पेशली डेज़िग्नेटेड ग्लोबल टेररिस्ट (SDGT) के रूप में चिह्नित न किया गया हो; (2) वह अब हिंसा या नफ़रत फैलाने में शामिल न हो और (3) वह हिंसा और नफ़रत का प्रतीक न हो या उसका उपयोग हिंसा भड़काने अथवा हिंसक या नफ़रत फैलाने वाले षडयंत्र में न किया जाता हो.
हम पारदर्शिता को बहुत महत्वपूर्ण मानते हैं तथा लगातार इसके फ़ायदों और नुकसानों का आकलन करते रहते हैं, लेकिन सुरक्षा और कानूनी जोखिमों से बचने के लिए हम फ़िलहाल चिह्नित लोगों और संगठनों की लिस्ट की जानकारी शेयर नहीं करते, ताकि ये खतरनाक लोग और संगठन हमारे एन्फ़ोर्समेंट प्रोसेस से बचने के तरीके न ढूँढ सकें.
हम खतरनाक संगठनों और लोगों पर एक्शन कैसे लेते हैं
हम DOI की एक्टिविटी से निपटने के लिए लोगों, टेक्नोलॉजी, पार्टनरशिप और रिसर्च में भारी निवेश करते हैं.
  • टेक्नोलॉजी: हम AI और ह्यूमन इंटेलिजेंस दोनों का उपयोग करके इस दिशा में काम करते हैं, हम रिसर्च में भी निवेश करते हैं और बाहरी विशेषज्ञों और संगठनों के साथ भी काम करते हैं, ताकि हम इस बदलते हुए माहौल में सबसे आगे रह सकें. हम वीडियो, फ़ोटो, ऑडियो, टेक्स्ट और यहाँ तक कि हिंसा से संबंधित लोगो तथा फ़ोटो या वीडियो जैसे ग्राफ़िक्स की पहचान के लिए AI का उपयोग करते हैं. हम पूरी इंडस्ट्री के लिए ओपन-सोर्स टूल्स भी उपलब्ध कराते हैं, ताकि हमारे पार्टनर अपने प्लेटफ़ॉर्म पर खतरनाक संगठनों और लोगों से लड़ने के लिए टेक्नोलॉजी का उपयोग कर सकें. उदाहरण के लिए, इंडस्ट्री की हर कंपनी के लिए इस काम को आसान बनाने और उनके प्लेटफ़ॉर्म को आतंकवादी कंटेंट से मुक्त रखने के लिए हमने दिसंबर 2022 में “Hasher Matcher Actioner” (HMA) उपलब्ध कराया था. यह एक ओपन सोर्स सॉफ़्टवेयर टूल है, जो फ़ोटो या वीडियो की कॉपी की पहचान करने और उन पर एक साथ एक्शन लेने में प्लेटफ़ॉर्म की मदद करेगा.
  • लोग: भाषा और संदर्भ अक्सर जटिल होते हैं. टेक्नोलॉजी किसी DOI की प्रशंसा और किसी संस्कृति से जुड़ी आलोचना में हर बार अंतर नहीं कर सकती. इसलिए Meta ने अरबों डॉलर का निवेश किया है और लगभग 40 हज़ार लोगों को सुरक्षा और बचाव के काम में लगाया है. इसके लिए हमारे पास अलग-अलग तरह के सैकड़ों विशेषज्ञों की एक टीम है, जिनमें कानून प्रवर्तन और राष्ट्रीय सुरक्षा के विशेषज्ञ तथा आतंकवाद निरोधक इंटेलिजेंस और कट्टरता से जुड़े शैक्षणिक अध्ययनों के विशेषज्ञ शामिल हैं, जो सिर्फ़ यही काम करते हैं.
  • पार्टनरशिप: जब तक दुनिया में नुकसान पहुँचाने वाली एक्टिविटी मौजूद हैं, वे इंटरनेट पर भी मौजूद रहेंगी और कोई भी एक कंपनी इन समस्याओं का समाधान अकेले नहीं कर सकती. इसलिए हमारे लिए अन्य कंपनियों, समाज, रिसर्चर और सरकारों के साथ पार्टनरशिप करना बेहद ज़रूरी है. हम पूरी दुनिया की सरकारों और सरकारों के बीच काम करने वाली एजेंसियों के साथ मिलकर काम करते हैं और ऐसे संगठनों के साथ पार्टनरशिप करते हैं, जो आतंकवाद, हिंसक उग्रवाद, साइबर इंटेलीजेंस और नुकसान पहुँचाने वाले ऑनलाइन व्यवहार के विशेषज्ञ होते हैं.
    • GIFCT: हमने YouTube, Microsoft और Twitter के साथ मिलकर 2017 में ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़्म (GIFCT) बनाया था. यह एक ऐसा संगठन है, जिसे आतंकवादियों और हिंसक उग्रवादियों को डिजिटल प्लेफ़ॉर्म का गलत उपयोग करने से रोकने के लिए बनाया गया है. 2019 में GIFCT एक स्वतंत्र NGO बन गया और हमले होने पर यह पूरी इंटस्ट्री के संकट प्रबंधन के बीच तालमेल बनाता है.
    • कानून लागू करने वाली संस्था: जब हमें मानव जीवन को होने वाले किसी निश्चित, तात्कालिक और गंभीर खतरे का पता चलता है, तो हम कानून लागू करने वाली संस्था को तुरंत इसकी सूचना देते हैं. Meta, हिंसक हमलों के संबंध में भी कानून लागू करने वाली संस्थाओं के साथ काम करता है. वैसे हम हमें मिलने वाले हर सरकारी अनुरोध की जाँच करके हम यह पक्का करते हैं कि वह कानूनी तौर पर मान्य है और मानवाधिकारों के अंतरराष्ट्रीय स्तर पर मान्यता प्राप्त स्टैंडर्ड, जैसे सही प्रक्रिया, प्राइवेसी, स्वतंत्र अभिव्यक्ति और कानून के आधार पर सही है. अगर हम पाते हैं कि अनुरोध में कोई कमी है या वह ज़रूरत से ज़्यादा व्यापक है, तो हम उसे अस्वीकार कर देते हैं. आप कानून लागू करने वाली संस्था के साथ हमारे काम के बारे में ज़्यादा जानकारी यहाँ से पा सकते हैं.
  • स्वतंत्र रिसर्च: हम थिंक-टैंक, शिक्षाविदों और NGO से हिंसक उग्रवादियों और आतंकवादियों द्वारा इंटरनेट के उपयोग के कई विषयों पर स्वतंत्र रिसर्च करवाते हैं, ताकि हमारी इंडस्ट्री इन महत्वपूर्ण समस्याओं को समझे और इस दिशा में प्रगति करे. 2022 में, Meta ने मिडिलबरी इंस्टीट्यूट ऑफ़ इंटरनेशनल स्टडीज़ के सेंटर ऑन टेररिज़्म, एक्स्ट्रीमिज़्म एंड काउंटर-टेरेरिज़्म के साथ एक रिसर्च पार्टनरशिप करने की अनाउंसमेंट की थी, ताकि हिंसक उग्रवाद के उभरते ट्रेंड और ऐसे कारगर टूल्स का विश्लेषण किया जा सके, जो उग्रवाद से लड़ने में कम्युनिटी की मदद करते हैं.
  • स्ट्रेटेजी बनाकर नेटवर्क खत्म करना: वैसे तो आतंकवाद और संगठित होकर नफ़रत फैलाने के खिलाफ़ हमारे ज़्यादातर एक्शन हमारे कंटेंट हटाने के सामान्य प्रोसेस के तहत लिए जाते हैं, लेकिन कभी-कभी यह काफ़ी नहीं होता. यहाँ चुनौती हमेशा बनी रहती है तथा चिह्नित खतरनाक लोग और संगठन कभी-कभी हमारे एक्शन से बच निकलने और हमारे प्लेटफ़ॉर्म पर फिर से अपना नेटवर्क खड़ा करने की कोशिश करते हैं. इन नेटवर्क को खत्म करने के लिए, हम स्ट्रेटेजी बनाकर नेटवर्क खत्म करना (SND) नाम के मुख्य तरीके का उपयोग करते हैं. SND की मदद से हम पहले से प्रतिबंधित DOI संगठनों और लोगों के नेटवर्क को एक ही बार में हटा सकते हैं. यह काम या तो तब किया जाता है, जब उन्हें पहली बार चिह्नित किया जाता है या इन चिह्नित ग्रुप को हमारे प्लेटफ़ॉर्म से दूर रखने के हमारे लगातार प्रयासों के तौर पर ऐसा किया जा सकता है. ऐसे समूहों को पूरी तरह खत्म कर देने पर उनकी हमारे प्लेटफ़ॉर्म पर वापसी मुश्किल हो जाती है. इससे उन्हें साफ़ तौर पर यह पता भी चल जाता है कि हमें उनकी मौजूदगी के बारे में पता है और हम उन्हें अपने प्लेटफ़ॉर्म पर जगह नहीं देना चाहते. आखिर में, इस तकनीक से हम इस बात का अध्ययन कर पाते हैं कि ये DOI किस तरह हमारे डिटेक्शन से बचने की कोशिश कर सकते हैं. साथ ही अगर हम उनके अकाउंट हटा देते हैं, तो वे किस तरह हमारे ऐप्स पर लौटने की कोशिश कर सकते हैं.
रोकथाम का काम
Meta में, हम अपने प्लेटफ़ॉर्म को सुरक्षित और साफ़-सुथरा बनाए रखने के लिए प्रतिबद्ध हैं. हम जिन तरीकों से ऐसा करते हैं, उनमें से एक तरीका पहले से ही रोकथाम करना होता है. इसमें DOI को लोगों या कम्युनिटी के बीच जगह बनाने से पहले ही उनके प्रसार को रोकने के कदम उठाए जाते हैं. इसमें टार्गेटेड उपायों का उपयोग करना और सकारात्मक अभिव्यक्ति को बढ़ावा देना शामिल होता है. हम मानते हैं कि सकारात्मक बातचीत महत्वपूर्ण होती है और हम ऐसा माहौल बनाने की कोशिश करते हैं, जिसमें इस तरह की बातचीत को बढ़ावा मिले.
अपनी कोशिशों को और मज़बूती देने के लिए, हम ऐसे सिविल सोसायटी ऑर्गेनाइज़ेशन (CSO) के साथ सक्रिय रूप से काम करते हैं, जो उग्रवाद, संगठित होकर नफ़रत फैलाने वाली गतिविधियों और आपराधिक गतिविधियों के खिलाफ़ ही काम करते हैं. हम इन संगठनों की क्षमता बढ़ाकर और उन्हें जवाबी भाषा वाला कंटेंट बनाने के लिए ज़रूरी रिसोर्स देकर उनकी मदद करते हैं. यह कंटेंट उग्रवादी सोच को चुनौती देता है और एक अलग नज़रिया प्रदान करता है, जो ज़्यादा सकारात्मक और समावेशी ऑनलाइन माहौल को बढ़ावा देने में मदद करता है.
हम कई पहलुओं पर और सक्रिय तरीके से उग्रवाद से निपटते हैं, जिसमें उसे रोकना और दूसरों के साथ सहयोग करना और सकारात्मक भाषा को बढ़ावा देना शामिल होता है.
  • The Resiliency Initiative एक ऐसा प्रोग्राम है, जो एशिया, अफ़्रीका और अमेरिका में हिंसक उग्रवाद को रोकने/उससे निपटने (P/CVE) की कैंपेन स्ट्रेटेजी के CSO को ट्रेन करता है और जवाबी भाषा वाले कारगर कैंपेन चलाने की उनकी क्षमता बढ़ाता है. Resiliency Initiative के एक हिस्से के तौर पर Meta ने सर्च फ़ॉर कॉमन ग्राउंड (SFCG) के साथ अमेरिका में पार्टनरशिप लॉन्च की थी. इसका उद्देश्य ऐसे कम्युनिटी आधारित पार्टनर्स की सहायता करना है, जो नफ़रत से फैली हिंसा से स्थानीय तौर पर निपटने और समाज और कम्युनिटी को उससे निपटने में सक्षम बनाने के लिए काम कर रहे हैं.
  • ज़्यादा सुरक्षित सर्च: जब लोग खतरनाक संगठनों और लोगों से जुड़े शब्द खोजते हैं, तब हम ज़रूरी होने पर, उन्हें उपयोगी रिसोर्स पर भेजते हैं. जब यूज़र्स Facebook, Instagram और Threads पर DOI से जुड़े शब्द सर्च करते हैं, तो उन्हें उन शब्दों के बजाय ऐसे रिसोर्स दिए जाते हैं, जो DOI कंटेंट की सर्च से दूर जाने में उनकी मदद करते हैं और यूज़र्स को जानकारी वाले रिसोर्स देते हैं.
    हम ऑस्ट्रेलिया, अमेरिका, यूनाइटेड किंगडम, जर्मनी, भारत, इंडोनेशिया और पाकिस्तान सहित कई देशों में एक सर्च प्रोग्राम भी चलाते हैं. अगर कोई व्यक्ति ऐसे शब्द खोजता है, जो हर मार्केट के लिए अलग होते हैं और आम तौर पर DOI के कुछ नुकसानों पर फ़ोकस करते हैं, तो हम ऐसे स्थानीय CSO की मदद से उसे अतिरिक्त जानकारी और रिसोर्स उपलब्ध कराते हैं, जो उग्रवाद के जोखिम वाले यूज़र्स को सहायता सेवाएँ देने में माहिर होते हैं.
  • कम्युनिटी संगठनों को रिसोर्स उपलब्ध कराना: हम एक सुरक्षा विज्ञापन प्रोग्राम भी चलाते हैं, जो जवाबी भाषा के प्रोग्राम चलाते समय CSO पार्टनर्स को विज्ञापन क्रेडिट और स्ट्रेटेजिक सहायता देकर नुकसान को पहले ही रोकने में उनकी मदद करता है. इन संगठनों के साथ काम करने का हमारा लक्ष्य DOI से निपटने के लिए अपनी पार्टनरशिप को बढ़ाना है.
यह काम लगातार चलता रहता है और हम जानते हैं कि जब तक खतरनाक संगठन और लोग दुनिया में मौजूद हैं, तब तक वे इंटरनेट पर भी मौजूद रहेंगे और इसलिए हमें सतर्क रहना होगा. ये समूह पकड़े जाने से बचने के लिए नई-नई तरकीबें आज़माते रहते हैं या हमारी पॉलिसी और एन्फ़ोर्समेंट से बचने की कोशिश करते हैं. इसी नुकसानदेह व्यवहार के चलते, हम उनसे एक कदम आगे रहने, अपने तरीकों का मूल्यांकन करने और उन्हें अपडेट करने के लिए लगातार काम करते रहते हैं.