تحدي الكشف عن الخطاب الذي يحض على الكراهية
تاريخ التحديث ١٩/٠١/٢٠٢٢
يصعب على التقنية وفِرق المراجعة البشرية اكتشاف الخطابات التي تحض على الكراهية بوجه خاص. إذ تختلف التعبيرات الاصطلاحية والفروق الدقيقة على نطاق واسع عبر الثقافات واللغات والمناطق. كذلك يشارك الأشخاص أحيانًا كلمات قد تمثل في العادة خطابًا يحض على الكراهية، لكنهم يفعلون ذلك لزيادة الوعي بالمشكلة أو يستخدمونها للإشارة إلى الذات بغرض توعية المجتمع لتجنب مثل هذه المصطلحات.
ويمثل كل ذلك تحديات تقتصر على اكتشاف الخطاب الذي يحض على الكراهية في النصوص. لكننا نكتشف الكثير من أشكال الخطاب الذي يحض على الكراهية على فيسبوك وInstagram في الصور أو مقاطع الفيديو. فقد يستخدم ميم، على سبيل المثال، بعض النصوص والصور معًا لمهاجمة مجموعة معينة من الأشخاص. وهذا يشكل تحديًا أكثر صعوبة أمام التقنية.
يزداد تعقيد مثل هذا النوع من المحتوى عندما يحاول الأشخاص تجنب الاكتشاف عن طريق إجراء تغييرات في المحتوى الذي ينشرونه. على سبيل المثال، قد يكتبون الكلمات بأحرف غير صحيحة أو يتجنبون عبارات معينة أو يعدلون الصور ومقاطع الفيديو في المنشورات.
التقدم في استخدام الذكاء الاصطناعي لاكتشاف الخطابات التي تحض على الكراهية
لقد قمنا بتحسين أدواتنا لاكتشاف الخطابات التي تحض على الكراهية على مدار السنوات العديدة الماضية، لذلك نزيل الآن الكثير من هذا المحتوى قبل أن يبلغ عنه الأشخاص - وفي بعض الحالات، قبل أن يظهر لأي شخص.
نستخدم الذكاء الاصطناعي لتحديد الصور والنصوص المتطابقة مع المحتوى الذي أزلناه بالفعل باعتباره خطابًا يحض على الكراهية. وتنظر تقنيتانا أيضًا في التفاعلات والتعليقات لتقييم مدى تشابه عناصر المحتوى.
تساعد هذه التقنيات تقنياتنا على اكتشاف الخطابات التي تحض على الكراهية بشكل أكثر دقة، حتى عندما يكون المعنى غير واضح أو عند إجراء تغييرات في المحتوى لتجنب اكتشافه.
قراءة تحليل تفصيلي في مدونة الذكاء الاصطناعي على فيسبوك