हम अलग-अलग क्षेत्रों (मार्केट) में उपयोग किए जाने वाले अपमानजनक शब्दों की लिस्ट कैसे बनाते हैं और उनका उपयोग कैसे करते हैं
अपडेट किया गया 12 अग 2022
हम अलग-अलग क्षेत्रों (मार्केट) में उपयोग किए जाने वाले अपमानजनक शब्दों की लिस्ट कैसे बनाते हैं
हमारे कम्युनिटी स्टैंडर्ड के अनुसार गाली एक ऐसा शब्द है जिसे हमेशा से ही आपत्तिजनक माना जाता रहा है और जिसका उपयोग किसी सुरक्षित विशिष्टता वाली कम्युनिटी का अपमान करने के लिए किया जाता है. किस शब्द को गाली माना जाए या नहीं, यह तय कई टीमें मिलकर करती हैं, जैसे कि पॉलिसी, मार्केट और स्टेकहोल्डर एंगेजमेंट टीम वगैरह. ऐसे शब्दों की लिस्ट बनाने के लिए, हमारी क्षेत्रीय टीमें अपने क्षेत्र या कम्युनिटी (जिसे हम मार्केट कहते हैं) की भाषा या संस्कृति का लगातार मात्रात्मक और गुणात्मक विश्लेषण करती रहती हैं. इसमें यह रिव्यू किया जाता है कि किसी शब्द को स्थानीय रूप से और आम बोलचाल में किस तरह उपयोग किया जाता है, हमारे प्लेटफ़ॉर्म पर वह शब्द कितना प्रचलन में है और उपयोग किए जाने पर उसका क्या मतलब होता है. वे समाचारों, शैक्षणिक अध्ययनों और भाषा से संबंधित अन्य रिसर्च के ज़रिए मिले सांस्कृतिक ज्ञान का उपयोग कर सकते हैं. इस काम में हमारी क्षेत्रीय टीमों को हमारी पॉलिसी और ऑपरेशनल प्रोसेस के अन्य विशेषज्ञों से भी मदद मिलती है. उन्हें सांस्कृतिक संदर्भ दिया जाता है (समाचार, शैक्षणिक आलेख वगैरह) और उस शब्द को शामिल करने वाले कंटेंट के कम से कम 50 भागों को कलेक्ट किया जाना और उनका आकलन किया जाना ज़रूरी होता है. जब यह विश्लेषण पूरा हो जाता है, तो पॉलिसी के लिए ज़िम्मेदार टीम, स्थानीय मार्केट द्वारा दी गई सभी चीज़ों का रिव्यू करती है ताकि Meta की प्रासंगिक पॉलिसी के आधार पर कंटेंट का आकलन किया जाए. यह तय करने की ज़िम्मेदारी उस मार्केट में रिसर्च करने वाली विशेषज्ञ टीमों की होती है कि अपमानजनक शब्दों या गालियों की लिस्ट में ऐसे ज़्यादा से ज़्यादा शब्द हों और यह लिस्ट अप टू डेट हो.
हम यह भी विश्लेषण करते हैं कि हमारे प्लेटफ़ॉर्म पर कुछ खास शब्दों का उपयोग किस तरह किया जाता है ताकि हम यह तय कर सकें कि उन्हें गाली माना जाना चाहिए या नहीं. उदाहरण के लिए, हमारे प्लेटफ़ॉर्म पर शब्दों के उपयोग में हमें कुछ ऐसी गालियाँ मिल सकती हैं जिनके वेरिएशन या संबंधित शब्द पहले नहीं पता थे और जिन्हें भी लिस्ट में शामिल करने पर विचार किया जाना चाहिए. ऐसे मामलों को पहचानने के लिए, हम अपने सभी प्लेटफ़ॉर्म पर उपयोग किए गए अपमानजनक शब्दों (गालियों) को समझने की कोशिश करते हैं. इसके अलावा, गालियों की लिस्ट और पॉलिसी में उन परिस्थितियों के बारे में मार्गदर्शन भी दिया जाएगा जिनमें किसी गाली के उपयोग की परमिशन है, जब उनका उपयोग स्पष्ट रूप से खुद के बारे में बात करने के लिए किया गया है, जब उसके वैकल्पिक अर्थ में किया जाता है, जब गालियों के उपयोग के बारे में चर्चा की जाती है, जब गाली की रिपोर्ट की जाती है, जब गाली के उपयोग की निंदा की जाती है या जब गाली का उपयोग स्पष्ट रूप से सकारात्मक संदर्भ में किया जाता है.
हम किसी क्षेत्र से जुड़े अपमानजनक शब्दों की लिस्ट का उपयोग कैसे करते हैं
किसी भाषा को कई देशों और संस्कृतियों में उपयोग किया जा सकता है, लेकिन गालियाँ अक्सर किसी खास क्षेत्र या कम्युनिटी से जुड़ी होती हैं (जिसे हम मार्केट कहते हैं). इसलिए हम क्षेत्र विशेष में बोली जाने वाली गालियों की लिस्ट तैयार करते हैं, न कि सिर्फ़ किसी भाषा की. उल्लंघन करने वाले हर प्रकार के कंटेंट को चेक करने के लिए हमारे पास रिव्यूअर हैं जो अलग-अलग क्षेत्रों की अलग-अलग भाषाओं से जुड़ा रिव्यू करते हैं (ज़्यादा से ज़्यादा बोलियों को कवर करने के लिए). रिव्यूअर को उनकी भाषा की विशेषज्ञता और उल्लंघन के प्रकार में कुशलता के आधार पर टास्क असाइन किए जाते हैं, ताकि उन्हें यह जानकारी रहे कि उनको मिले कंटेंट वाले टास्क के हिसाब से लिस्ट में कौन-कौन से अपमानजनक शब्दों (गालियाँ) को डालना ठीक रहेगा. रिव्यूअर को कंटेंट असाइन करते समय, हमारी कंटेंट मॉडरेशन राउटिंग में भाषा और क्षेत्र दोनों का ध्यान रखा जाता है, लेकिन आम तौर पर इस जटिल राउटिंग में भाषा को ज़्यादा महत्व दिया जाता है. उदाहरण के लिए, दक्षिणी लैटिन अमेरिकी मार्केट से जुड़े टास्क में चिली, उरुग्वे, अर्जेंटीना, पेराग्वे और उन क्षेत्रों से आया कंटेंट शामिल होगा, जिनकी मुख्य भाषा स्पेनिश है. हर मार्केट के टास्क एल्गोरिदम में “कैच ऑल” (सभी अपशब्दों को ढूँढने वाली) नाम की एक शर्त भी शामिल होती है. इस शर्त के मुताबिक, अगर कोई भाषा मार्केट में शामिल देशों से मैच नहीं होती है, तो उस भाषा के सभी टास्क अपने आप उन मार्केट में असाइन कर दिए जाते हैं जो उस भाषा के लिए सबसे ज़्यादा प्रासंगिक हों. उदाहरण के लिए, फ़्रेंच भाषा के ऐसे जॉब जो भौगोलिक रूप से दक्षिणी लैटिन अमेरिकी मार्केट (उदाहरण के लिए अर्जेंटीना) से आते हैं, उन्हें फ़्रेंच मार्केट के रिव्यू टास्क में भेज दिया जाएगा. इसके उलट होने पर भी यही प्रोसेस अपनाई जाती है. जब किसी भाषा में कोई ऐसी गाली दिखती है जो कंटेंट के शेष हिस्से से अलग होती है, तो हमारी बड़े पैमाने पर काम करने वाली रिव्यू टेक्नोलॉजी इसे हाइलाइट करती है और बताती है कि यह गाली किसी दूसरे मार्केट की गालियों की लिस्ट में है ताकि उसे बड़े पैमाने पर और सभी मार्केट के टास्क में संभावित रूप से उल्लंघन करने वाली भाषा के रूप में फ़्लैग किया जा सके.
टास्क एल्गोरिदम में भाषा और देश दोनों का ध्यान रखा जाता है, क्योंकि उस समय और मार्केट के संदर्भ में कुछ अपशब्दों से किसी को परेशानी नहीं होती. उनके वैकल्पिक अर्थ हो सकते हैं, जो इस बात पर निर्भर करता है कि उनका उपयोग कैसे या कहाँ किया गया है. किसी शब्द के उपयोग करने की परमिशन दी जा सकती है या नहीं, यह तय करने में रिव्यूअर के लिए मार्केट का संदर्भ समझना ज़रूरी होता है. अगर संदर्भ मौजूद नहीं है और परमिशन देने योग्य कोई अन्य मामला भी नहीं बनता है, तो हम कंटेंट को उल्लंघन करने वाला मानते हैं.
हम किसी भौगोलिक क्षेत्र (मार्केट) में उपयोग किए जाने वाले अपमानजनक शब्दों (गालियों) की लिस्ट कैसे बनाते हैं और उसे कैसे अपडेट करते हैं
हम अपमानजनक शब्दों की लिस्ट का वार्षिक रूप से ऑडिट करते हैं. यह काम हमारी ऑपरेशनल टीमें, हमारी क्षेत्रीय मार्केट टीमों की मदद से करती हैं. ये दोनों मिलकर अपमानजनक शब्दों (गालियों) का रिव्यू करके यह तय करती हैं कि क्या वह शब्द अभी भी उतना ही आपत्तिजनक है जिसकी वजह से उसे शुरुआती लिस्ट में जोड़ा गया था. हम बड़े पैमाने पर रिव्यू करने वाले पार्टनर सहित हमारी क्षेत्रीय टीमों को इस बात के लिए भी प्रोत्साहित करते हैं कि वे अपने मार्केट में होने वाले भाषा संबंधी बदलावों पर नज़र बनाए रखें और उसके आधार पर उन नई गालियों की जानकारी दें जिन्हें उनके मार्केट की लिस्ट में जोड़ा जाना चाहिए या यह सुझाव दें कि लिस्ट में मौजूद शब्दों पर फिर से विचार किया जाना चाहिए. आखिर में, हमसे इंटरैक्ट करने वाले आम नागरिकों और गैर-सरकारी संगठनों से उन शब्दों के बारे में राय माँगी जाती हैं, जिन्हें गालियाँ माना जाना चाहिए.