آلية عمل تقنية الإنفاذ
تاريخ التحديث ١٢/١١/٢٠٢٤
تصميم النماذج ووضع التوقعات
تبدأ العملية بمهام فِرق الذكاء الاصطناعي لدينا. إنهم يصممون نماذج تعلّم الآلة التي يمكنها أداء المهام، مثل التعرُّف على محتويات الصورة أو فهم النص. وبعد ذلك، يأتي دور فِرق التكامل- المسؤولة عن توسيع نطاق الاكتشاف وإنفاذ سياساتنا - والتي تقوم بالبناء على هذه النماذج لإنشاء نماذج أكثر تحديدًا تُقدم توقعات حول الأشخاص والمحتوى. تساعدنا هذه التوقعات على إنفاذ سياساتنا.
على سبيل المثال، يتوقع نموذج الذكاء الاصطناعي ما إذا كان المحتوى خطابًا يحض على الكراهية أم محتوى عنيفًا وصادمًا. ويحدد نظام منفصل - تقنية الإنفاذ في فيسبوك - ما إذا كان يجب اتخاذ إجراء ما، مثل حذف المحتوى أو خفض مرتبته أو إرساله إلى فريق مراجعة بشرية لإجراء مزيد من المراجعة.
التعلُّم بالتكرار، والتحقُّق البشري
عندما نصمم تقنية جديدة لإنفاذ المحتوى لأول مرة، نعمل على تدريبها للبحث عن إشارات معينة. على سبيل المثال، تبحث تقنية ما عن العُري في الصور، بينما تتعلم تقنية أخرى فهم النص. وفي البداية، قد يكون هناك قدر ضئيل من الثقة في قدرة التقنية الجديدة على تحديد ما إذا كان محتوى ما ينتهك سياساتنا أم لا.
تستطيع فِرق المراجعة بعد ذلك اتخاذ القرار النهائي، وبإمكان التقنية أن تتعلم من كل قرار بشري. بمرور الوقت - بعد التعلُّم من آلاف القرارات البشرية - تصبح التقنية أكثر دقة.
تتطور سياساتنا أيضًا بمرور الوقت لمواكبة التغيُّرات التي تطرأ على منتجاتنا والأعراف الاجتماعية واللغة. نتيجة لذلك، تُعد عملية تدريب التقنية وفِرق المراجعة لدينا تدريجية ومتكررة.
اكتشاف الانتهاكات المتكررةتؤدي التقنية دورًا رائعًا في اكتشاف المحتوى ذاته مرارًا وتكرارًا - ملايين المرات، إذا لزم الأمر. وسوف تتخذ تقنيتنا إجراءً بشأن أي محتوى جديد إذا تطابق مع محتوى مخالف آخر أو كان على قدر كبير من التشابه معه. وهذا الأمر مفيد بشكل خاص للحملات الإعلانية التي تنشر معلومات مضللة سريعة الانتشار والميم وعناصر المحتوى الأخرى التي يمكن أن تنتشر بسرعة مذهلة.
تمييز الفروق الدقيقة
تستطيع التقنية العثور على المحتوى نفسه وإزالته مرارًا وتكرارًا. لكن من الصعب جعل الآلة تفهم الفروق الدقيقة في اختيار الكلمات أو كيف يمكن للاختلافات الصغيرة أن تغير السياق.
الصورة الأولى عبارة عن المحتوى المضلل الأصلي الذي يتضمن معلومات مضللة عن السلامة الصحية العامة.
الصورة الثانية عبارة عن لقطة شاشة للصورة الأولى، وهذه المرة مع وجود شريط القائمة الخاص بجهاز الكمبيوتر في الجزء العلوي.
أخيرًا، الصورة الثالثة تبدو مشابهة جدًا للصورتين الأولى والثانية، ولكنها تحتوي على تغييرين بسيطين في الكلمات مما يجعل العنوان الرئيسي دقيقًا ولم يعد زائفًا.
من السهل إلى حد ما على البشر فهم ذلك الاختلاف، ولكن من الصعب على التقنية أن تفهمه بالشكل الصحيح. ويوجد خطر وقوع الكثير من الأخطاء من جانب أو آخر. إذا كانت التقنية شديدة العدوانية، فسوف تزيل ملايين المنشورات غير المخالفة. وإذا لم تكن عدوانية بدرجة كافية، فستعتقد أن لقطة الشاشة التي بها شريط القائمة مختلفة عن الصورة الأصلية، وستفشل في اتخاذ إجراء بشأن المحتوى.
إننا نقضي الكثير من الوقت في العمل على هذا الأمر. وعلى مدار السنوات القليلة الماضية، نفذنا العديد من الاستثمارات لمساعدة تقنياتنا على التحسُّن في مجال اكتشاف الفروق الدقيقة في المحتوى. وهي تصبح أكثر دقة كل يوم مع استمرارها في التعلُّم.
