Meta, रिव्यू के लिए कंटेंट को प्राथमिकता किस तरह देता है
अपडेट किया गया 12 नवं 2024
अन्य मामलों में, पता लगाना ज़्यादा मुश्किल होता है. हो सकता है पोस्ट का भाव स्पष्ट न हो, उसकी भाषा खास तौर पर जटिल हो या इसकी फ़ोटो संदर्भ पर ज़्यादा निर्भर हो. इन मामलों में, हम लोगों के ज़रिए अतिरिक्त रिव्यू करते हैं.
ह्यूमन रिव्यू के लिए चीज़ों को प्राथमिकता देना
हमारी ह्यूमन रिव्यू टीमों को सबसे पहले किस कंटेंट का रिव्यू करना चाहिए यह तय करते समय हम 3 मुख्य चीज़ों पर विचार करते हैं:
गंभीरता
इस बात की कितनी संभावना है कि कंटेंट से ऑफ़लाइन और ऑनलाइन, दोनों में नुकसान हो सकता है?
वायरल होना
कंटेंट को कितनी तेज़ी से शेयर किया जा रहा है?
उल्लंघन करने की संभावना
इस बात की कितनी संभावना है कि विवादास्पद कंटेंट से वास्तव में हमारी पॉलिसी का उल्लंघन होता है?
ह्यूमन रिव्यू टीम हमारी टेक्नोलॉजी को बेहतर बनाने में मदद करती हैं
हमारी ह्यूमन रिव्यू टीम मुश्किल और अक्सर बारीकी से फ़ैसले करने के लिए पॉलिसी के विशेष क्षेत्रों और जगहों में अपनी विशेषज्ञता का उपयोग करती हैं. जब भी रिव्यूअर्स कोई फ़ैसला लेते हैं, तो हम उसका उपयोग अपनी टेक्नोलॉजी को ट्रेन करने में करते हैं. समय के साथ, इन लाखों फ़ैसलों से हमारी टेक्नोलॉजी बेहतर होती जाती है, जिससे हम उल्लंघन करने वाले ज़्यादा कंटेंट को हटा पाते हैं.
सही फ़ैसले लेने में रिव्यूअर्स की मदद करना
टेक्नोलॉजी से ह्यूमन रिव्यू टीम को अपना काम बेहतरीन तरीके से करने में मदद मिलती है
कई अन्य मशीन लर्निंग मॉडल की तरह ही, जैसे-जैसे हमारी टेक्नोलॉजी को उल्लंघन करने वाले कंटेंट के और उदाहरण मिलते जाते हैं, वैसे-वैसे वह समय के साथ बेहतर होती जाती है. इसका मतलब है कि ह्यूमन रिव्यू टीम गंभीर, वायरल, बारीक अंतर वाले, नए तरह के और जटिल कंटेंट पर ज़्यादा ध्यान देती हैं—बिल्कुल उस तरह के फ़ैसले जिनमें लोग टेक्नोलॉजी की तुलना में बेहतर फ़ैसले लेते हैं.
कंटेंट रिव्यू की प्राथमिकता के बारे में सामान्य सवाल
एन्फ़ोर्समेंट की प्राथमिकता में समय के साथ किस तरह बदलाव हुआ है?
पहले, ह्यूमन रिव्यू टीम ऐसे कंटेंट का रिव्यू करने में अपना ज़्यादातर समय देती थीं, जिसकी लोग रिपोर्ट करते थे. इसका मतलब था कि वे अक्सर कम-गंभीरता वाले या स्पष्ट रूप से उल्लंघन नहीं करने वाले कंटेंट का रिव्यू करने में बहुत ज़्यादा समय देती थीं और उन्हें नुकसान की सबसे ज़्यादा संभावना वाले सबसे गंभीर कंटेंट का रिव्यू करने के लिए पर्याप्त समय नहीं मिल रहा था. इसका मतलब यह भी था कि ह्यूमन रिव्यू के ज़रिए लिए गए कई फ़ैसले हमारी एन्फ़ोर्समेंट टेक्नोलॉजी को बेहतर बनाने के लिए उतने उपयोगी नहीं थे.
प्राथमिकता को लेकर हमारे मौजूदा तरीके में इन विषयों पर ध्यान दिया जाता है, जिससे हम सबसे पहले संभावित रूप से सबसे नुकसानदेह कंटेंट का रिव्यू कर पाते हैं और हमारी टेक्नोलॉजी को तेज़ी से बेहतर बना पाते हैं.
क्या ह्यूमन रिव्यू टीम हर यूज़र रिपोर्ट का रिव्यू करती हैं?
ज़रूरी नहीं है. यूज़र रिपोर्ट का रिव्यू करने में ह्यूमन रिव्यू टीम और टेक्नोलॉजी दोनों ही भूमिका अदा करती हैं. जहाँ हमारी टेक्नोलॉजी किसी कंटेंट का विश्लेषण कर सकती है, उन मामलों में वह विवादास्पद कंटेंट पर अपने आप एक्शन लेगी या नहीं लेगी.
आप यह कैसे पक्का करते हैं कि ह्यूमन रिव्यू में लिए गए फ़ैसलों से आपकी टेक्नोलॉजी पूर्वाग्रह पैदा नहीं करती है?
Meta के ऐप्स और प्रोडक्ट्स में AI के विस्तार से संबंधित निष्पक्षता और समावेश की चिंताओं पर ध्यान देने के लिए, हमने अपनी ज़िम्मेदार AI टीम बनाई है, जो नैतिकतावादियों, सामाजिक और राजनीतिक विशेषज्ञों, पॉलिसी विशेषज्ञों, आर्टिफ़िशियल इंटेलिजेंस के शोधकर्ताओं और इंजीनियरों की एक खास और अलग-अलग विषयों की टीम है. टीम का पूरा लक्ष्य AI ज़िम्मेदारी से जुड़ी समस्याओं से निपटने के लिए गाइडलाइन, टूल और प्रोसेस विकसित करना और यह पक्का करने में मदद करना है कि ये सिस्टमेटिक रिसोर्स Meta पर व्यापक रूप से उपलब्ध हों.