नफ़रत फैलाने वाली भाषा का पता लगाने की चुनौती
अपडेट किया गया 19 जन 2022
टेक्नोलॉजी और ह्यूमन रिव्यू टीम के लिए, नफ़रत फैलाने वाली भाषा का पता लगाना काफ़ी मुश्किल होता है. अलग-अलग संस्कृतियों, भाषाओं व क्षेत्रों के मुहावरों और उनके अर्थ से जुड़ी बारीकियों में काफ़ी अंतर होता है. साथ ही, कभी-कभी लोग ऐसे शब्द शेयर करते हैं जो सामान्य रूप से नफ़रत फैलाने वाली भाषा हो सकती है, लेकिन वे किसी समस्या के बारे जागरूकता फैलाने के लिए ऐसा करते हैं या शब्द में सुधार करने की कोशिश में खुद के संबंध में उपयोग करते हैं.
ये ऐसी चुनौतियाँ हैं, जिनका सामना टेक्स्ट में मौजूद नफ़रत फैलाने वाली भाषा का पता लगाने के लिए करना पड़ता है. Facebook और Instagram पर कई फ़ोटो या वीडियो में हमें नफ़रत फैलाने वाली भाषा मिलती है. जैसे, किसी मीम में विशेष ग्रुप के लोगों पर हमला करने के लिए टेक्स्ट और फ़ोटो का साथ में उपयोग किया जा सकता है. यह टेक्नोलॉजी के लिए और बड़ी चुनौती है.
ऐसे कंटेंट को पकड़ना तब और भी मुश्किल हो जाता है, जब लोग इसे बदलने की कोशिश करते हैं ताकि यह पकड़ा न जाए. जैसे, वे शब्दों की वर्तनी गलत लिख सकते हैं, कुछ वाक्यांशों के उपयोग से बच सकते हैं या उनकी फ़ोटो और वीडियो में बदलाव कर सकते हैं.
नफ़रत फैलाने वाली भाषा का पता लगाने के लिए आर्टिफ़िशियल इंटेलिजेंस का उपयोग करने में हुई बढ़ोतरी
हमने नफ़रत फैलाने वाली भाषा का पता लगाने के लिए, पिछले कुछ सालों में अपने टूल्स को बेहतर बनाया है, इसलिए अब हम ऐसा बहुत-सा कंटेंट लोगों के रिपोर्ट करने के पहले ही हटा देते हैं और कुछ मामलों में, किसी के देखने के पहले ही यह हटा दिया जाता है.
हम ऐसी फ़ोटो और टेक्स्ट की पहचान करने के लिए AI का उपयोग करते हैं, जो उस कंटेंट जैसे हैं, जिसे हम पहले ही नफ़रत फैलाने वाली भाषा मानकर हटा चुके हैं. हमारी टेक्नोलॉजी, रिएक्शन और कमेंट देखकर भी इस बात का मूल्यांकन करती है कि कंटेंट में कितनी समानता है.
इन तरीकों से हमारी टेक्नोलॉजी को नफ़रत फैलाने वाली भाषा का पता ज़्यादा सही तरीके से लगाने में मदद मिलती है, तब भी जब उसका अर्थ स्पष्ट ना हो या पता लगने से बचने के लिए कंटेंट में बदलाव किए गए हों.
Facebook AI के ब्लॉग में इसका विस्तृत विश्लेषण पढ़ें