المراجعة الدقيقة للمحتوى عالي التأثير من خلال نظام التحقق الشامل
تاريخ التحديث ١٢/١١/٢٠٢٤
نشر مجلس الإشراف في 6 ديسمبر 2022 رأيًا استشاريًا بشأن سياسات المحتوى حول سياسات التحقق الشامل لدى شركة Meta. ولدراسة التوصيات المقدمة بشكل كامل، فقد اتفقنا مع المجلس على المراجعة والرد خلال 90 يومًا. لمعرفة المزيد عن نظام التحقق الشامل، يُرجى زيارة منشور مركز الشفافية.
نظرة عامة على التحقق الشامل
ينشئ المستخدمين على فيسبوك وInstagram المليارات من عناصر المحتوى كل يوم. تنطوي عملية الإشراف على محتوى بهذا الحجم على تحديات بما في ذلك المفاضلة بين القيم والأهداف المهمة. ونحن نسعى إلى إجراء مراجعة سريعة للمحتوى الذي قد يكون مخالفًا لنتمكن من إزالته إذا تبين أنه ينتهك سياساتنا. ولكن يجب أن نوازن بين هذا الهدف ومخاطر "النتائج الإيجابية الخاطئة" (عمليات الإزالة الخاطئة للمحتوى غير المخالف) لحماية حرية الرأي لدى المستخدمين. (نشير هنا إلى مصطلح "إزالة" المحتوى، وهو مصطلح نستخدمه لوصف إجراءات الحفاظ على السلامة بشكل أعم. وقد تتضمن هذه الإجراءات أيضًا، على سبيل المثال، استخدام الشاشات التحذيرية أو إزالة الصفحات.)
للموازنة بين هذه الاعتبارات، نفذت Meta نظامًا للتحقق الشامل لتحديد المحتوى الذي يمثل خطرًا أكبر من حيث "النتائج الإيجابية الخاطئة" وتوفير مستويات إضافية من المراجعة للتخفيف من هذا الخطر. ويوفر التحقق الشامل مستويات إضافية من المراجعة لأنواع معينة من المحتوى التي تقرر أنظمتنا الداخلية تمييزها كعناصر محتوى مخالفة (من خلال الأتمتة أو المراجعة البشرية)، وذلك لمنع أو تقليل أخطاء الإشراف عالية المخاطر الناتجة عن الإيجابية الخاطئة والتي قد تحدث بسبب عوامل مختلفة مثل الحاجة إلى فهم الدقة أو السياق. (نشير هنا إلى مصطلح "المحتوى" الذي تتم مراجعته من خلال أنظمتنا للتحقق الشامل. ونستخدم أيضًا التحقق الشامل لمراجعة الإجراءات الأخرى مثل إزالة الصفحات أو الملفات الشخصية.) وعلى الرغم من أن التحقق الشامل يوفر مستويات إضافية من المراجعة، يطبق المراجعون نفس معايير المجتمع التي تنطبق على كل عناصر المحتوى الأخرى على فيسبوك أو Instagram.
يلعب نظام التحقق الشامل دورًا مهمًا في المساعدة على حماية حقوق الإنسان. على سبيل المثال، يتضمن نظام التحقق الشامل الكيانات ومنشورات الصحفيين الذين يغطون أخبار مناطق الصراعات وقادة المجتمع الذين يعززون الوعي تجاه حالات الكراهية أو العنف. وتراعي عمليات مراجعة التحقق الشامل السياق الذي يفيد في اتخاذ الإجراء الصحيح بشأن هذا المحتوى. وقد تنطبق عمليات مراجعة التحقق الشامل أيضًا على الكيانات المدنية، حيث يزيد اهتمام الأشخاص بمشاهدة ما يقوله قادتهم.
علاوة على ذلك، تلعب أنظمة التحقق الشامل دورًا مهمًا في إدارة علاقات Meta مع العديد من شركاء الأعمال. فقد تؤدي الإزالة عن طريق الخطأ لمحتوى نشرته صفحة أو ملف شخصي يتابعه الكثير من الأشخاص، على سبيل المثال، إلى تجارب سلبية لكل من شركاء أعمال Meta وعدد المستخدمين الكبير الذي يتابعهم. كما نطبق التحقق الشامل أيضًا على بعض المجموعات الكبيرة جدًا، حيث يمكن أن يؤثر الخطأ على مئات الآلاف أو ملايين المستخدمين. لا يستثني نظام التحقق الشامل شركاء أعمال Meta أو المجموعات من سياسات المحتوى، لكنه يوفر أحيانًا مستويات إضافية من المراجعة لضمان تطبيق هذه السياسات بدقة.
ينشر المستخدمون على فيسبوك وInstagram المليارات من عناصر المحتوى كل يوم. حتى مع تخصيص آلاف المراجعين حول العالم، لا يمكن يدويًا مراجعة كل عنصر محتوى يحتمل أن ينتهك معايير مجتمعنا. الغالبية العظمى من المحتوى المخالف الذي نزيله تكتشفه تقنيتنا بشكل استباقي وقبل أن يبلغ عنه أي شخص. عندما يقوم شخص ما بالنشر على فيسبوك أو Instagram، تتحقق تقنياتنا مما إذا كان المحتوى يخالف معايير المجتمع أم لا. في كثير من الأحيان، يتم تحديد ذلك بسهولة. إما أن المنشور يخالف سياساتنا بوضوح أو لا. ولكن في حالات أخرى، يتم تصعيد المحتوى إلى مراجع بشري لإجراء مزيد من التقييم.
تستعين أنظمة المراجعة الرئيسية لدينا بالتقنية لتحديد أولوية المحتوى عالي الخطورة، وهو ما يتضمن المحتوى "سريع الانتشار على نطاق واسع". عندما تميّز الأنظمة المحتوى لتصعيده، يُصدر مراجعونا أحكامًا صعبة وغالبًا ما تنطوي على فروق دقيقة بشأن ما إذا كان ينبغي إبقاء المحتوى على المنصة أم لا. وفي حين أننا نهدف دائمًا إلى اتخاذ القرارات الصحيحة، فإننا ندرك أن النتائج الإيجابية الخاطئة تحدث وأنه يتم تحديد بعض عناصر المحتوى لإزالتها بسبب انتهاك سياسات Meta رغم أنها غير مخالفة فعليًا. ولذلك فقد استثمرت Meta في التقنيات التي تساعد على منع حدوث الأخطاء لمراجعة النتائج الإيجابية الخاطئة بشكل أكبر والتقليل منها. يعتبر التحقق الشامل أحد هذه الإستراتيجيات الرامية إلى منع حدوث الأخطاء.
يُستخدم نظام التحقق الشامل للمساعدة على ضمان اتخاذ قرارات الإنفاذ بدقة وبمستويات إضافية من المراجعة البشرية. إذا أكد المراجع خلال التحقق الشامل أن المحتوى ينتهك معايير المجتمع، نقوم بإنفاذ هذه السياسات ونتعامل مع المحتوى المخالف وفقًا لذلك. وتبعًا لتعقيد المحتوى، قد نطبق مستويات متعددة من المراجعة، تشتمل في حالات نادرة على إجراء المراجعة بواسطة القيادات. إذا قرر المراجع النهائي أن المحتوى المعني لا ينتهك معايير مجتمعنا، يمكنه "إلغاء" الإجراء الأولي وإبقاء المحتوى على المنصة.
ممارسات التحقق الشامل القديمة
نفذنا النظام المعروف حاليًا باسم "التحقق الشامل" لأول مرة عام 2013. وقد تطورت تفاصيل النظام على مر السنين، كما أضفنا، قدر الإمكان، التواريخ أو نطاقات التواريخ التي توضح متى حدثت هذه التغييرات.
لتحديد المحتوى أو الكيانات التي خضعت لمراجعة التحقق الشامل، حددت فِرقنا وجمّعت قائمة بالمستخدمين أو الكيانات التي يُعتقد أنها تنطوي على مخاطر أعلى مرتبطة بإجراءات النتائج الإيجابية الخاطئة ضدها. يشير مصطلح "مخاطر النتائج الإيجابية الخاطئة" إلى مخاطر اتخاذ إجراءات إنفاذ غير صحيحة ضد المحتوى أو الكيانات التي لا تنتهك فعليًا معايير مجتمعنا. لتحديد المستخدمين والكيانات التي اقترنت بمخاطر عالية للنتائج الإيجابية الخاطئة، طبقت فِرقنا مجموعة متنوعة من المعايير، بما في ذلك نوع المستخدم أو الكيان (على سبيل المثال، مسؤول منتخَب أو صحفي أو شريك أعمال بارز أو منظمة معنية بحقوق الإنسان)، وعدد المتابعين، وموضوع تخصص الكيان. (الكيان هو مصطلح عام للمكان الذي خرج منه المحتوى أو ظهر به، مثل حساب مستخدم أو صفحة أو مجموعة.)
عندما نشر المستخدمون أو الكيانات المدرجة في هذه القوائم المحتوى أو اتخذوا إجراءات اعتبرتها أنظمتنا مخالفة محتملة لسياساتنا، فإننا نضيف المحتوى أو الكيان إلى قائمة انتظار مراجعة التحقق الشامل.
اعتبارًا من 2020، أجرينا تغييرات أسفرت عن إعطاء الأولوية لمعظم المحتوى الموجود في قائمة الانتظار باستخدام إطار عمل لتحديد المخاطر، والذي حدد مستوى مخاطر للنتائج الإيجابية الخاطئة التي قد تحدث إذا أزالت Meta المحتوى عن طريق الخطأ. اعتمد إطار عمل المخاطر هذا بشكل عام على ثلاثة عوامل: (1) حساسية الكيان، و(2) خطورة الانتهاك المزعوم، و(3) خطورة إجراءات الإنفاذ المحتملة.
ممارسات التحقق الشامل الحالية
كما هو الحال مع كل سياساتنا وعملياتنا، فإننا دائمًا نسعى إلى ابتكار طرق للتحسين ونقوم بإجراء تغييرات بشكل مستمر. في وقت مبكر من هذا العام، حددنا بعض الفرص الإضافية لتحسين نظام التحقق الشامل. ويتمثل أحد التغييرات الهيكلية التي أجريناها في أن نظام التحقق الشامل أصبح يتألف الآن من عنصرين: المراجعة الثانوية العامة (GSR) والمراجعة الثانوية للكيانات الحساسة (SSR). بينما سنستمر في استخدام نهجنا الموضح أعلاه والذي يستند إلى القوائم لإدراج نسبة مئوية من مستخدمين وكيانات معينة في المراجعة الثانوية للكيانات الحساسة، فإننا نعمل، من خلال المراجعة الثانوية العامة، على ضمان أن يكون المحتوى الذي يقدمه جميع المستخدمين والكيانات على فيسبوك وInstagram مؤهلاً لمراجعة التحقق الشامل استنادًا إلى نظام ترتيب أولويات ديناميكي يعرف باسم "أداة تصنيف التحقق الشامل."
يشارك في المراجعة الثانوية العامة مراجعو العقود وأعضاء فِرق المناطق حيث يقومون بإجراء مراجعة ثانوية للمحتوى والكيانات التي قد تنتهك سياساتنا قبل اتخاذ إجراء الإنفاذ. لا تستند هذه المراجعة فقط إلى هوية المستخدم أو الكيان لتحديد المحتوى الذي يخضع لمراجعة التحقق الشامل. تقوم أداة تصنيف التحقق الشامل بتصنيف المحتوى استنادًا إلى مخاطر النتائج الإيجابية الخاطئة باستخدام معايير مثل حساسية الموضوع (مدى رواج/حساسية الموضوع)، وخطورة الإنفاذ (خطورة إجراء الإنفاذ المحتمل)، واحتمالية حدوث نتيجة إيجابية خاطئة، والوصول المتوقع، وحساسية الكيان (يتم الاستناد بدرجة كبيرة عند تحديد الخطورة إلى القوائم المجمعة المذكورة أعلاه). تُستخدم أداة تصنيف التحقق الشامل بالفعل مع معظم مراجعات التحقق الشامل في الوقت الحالي.
تتشابه المراجعة الثانوية للكيانات الحساسة مع نظام التحقق الشامل القديم. لتحديد المحتوى أو الكيانات التي تخضع للمراجعة الثانوية للكيانات الحساسة، نستمر في الاحتفاظ بقوائم للمستخدمين والكيانات التي تخضع إجراءات الإنفاذ بشأنها إلى مراجعة تحقق شامل إضافية في حالة تمييزها على أنها تشكّل انتهاكًا محتملاً لمعايير المجتمع. ومع هذا، فقد أضفنا ضوابط تحكم عملية جمع وتنقيح هذه القوائم. قبل سبتمبر 2020، كان بإمكان معظم الموظفين إضافة مستخدم أو كيان إلى قائمة التحقق الشامل. وبعد سبتمبر 2020، وفي حين يمكن لأي موظف طلب إضافة مستخدم أو كيان إلى قوائم التحقق الشامل، تقتصر صلاحية الإضافة إلى القائمة على مجموعة معينة من الموظفين.
تقع مسؤوليات حوكمة قائمة المراجعة الثانوية للكيانات الحساسة حاليًا على عاتق مؤسسة عملياتنا العالمية المعنية بالمحتوى، مدعومة من فّرق الشؤون القانونية والشراكات لما لها من معارف وخبرات متخصصة. وعلى الرغم من أن لفريق العمليات العالمية المعنية بالمحتوى هيكل تبعية منفصل عن فريق السياسة العامة في Meta، تتم استشارة فريق السياسة العامة للاستفادة من إسهاماته بشأن قرارات التحقق الشامل - وذلك نظرًا لمشاركته في العديد من جوانب الإشراف على المحتوى على مستوى الشركة. في هذه الحالات، قد يستفيد فريق العمليات من خبرات فريق السياسة العامة في Meta، جنبًا إلى جنب مع خبرائنا الإقليميين ومراجعينا المتخصصين المحايدين لغويًا، لتحسين وجهات النظر المحلية والثقافية. تساعد هياكل التبعية المنفصلة على ضمان استقلالية المراجعة عن التأثير السياسي أو الاقتصادي. للاحتفاظ بقوائم ملائمة ومناسبة، حرصنا أيضًا على تطوير عملية مراجعة سنوية حثيثة لتدقيق الكيانات المدرجة على قائمة المراجعة الثانوية للكيانات الحساسة للتأكد من استمرار أهليتها، وسنسعى باستمرار إلى تحسين هذه العملية.
في الأشهر الأخيرة، تعمل Meta على مراجعة عدة آلاف في المتوسط من مهام التحقق الشامل يوميًا، حيث تكتمل الغالبية العظمى منها في مرحلة المراجعة الثانوية العامة. (بالنظر إلى الملايين من عناصر المحتوى التي يتم تمييزها واتخاذ إجراء بشأنها بسبب انتهاك معايير مجتمعنا يوميًا، تعتبر تلك نسبة صغيرة.) تُشكّل المراجعة الثانوية للكيانات الحساسة الآن الجزء الأقل من هذه المراجعات اليومية. ونتوقع حدوث تحوّل مستمر في عدد مهام مراجعة التحقق الشامل نتيجة تحديد أولويات المراجعة الثانوية العامة حتى نهاية عام 2021 وبداية عام 2022.
إذا تقرر خضوع جزء من محتوى يُقدمه فرد أو كيان للمراجعة الثانوية للكيانات الحساسة، فإنه يخضع للمراجعة أولاً بواسطة فِرق المناطق. بعد ذلك يتولى فريق التصعيدات مراجعته للتأكد مما إذا كان مخالفًا أم لا. وبوجه عام، إذا تبيّن لفريق المناطق أن المحتوى لا ينتهك سياساتنا، فلن يراجعه فريق التصعيدات. إذا تم نشر جزء من محتوى يُقدمه فرد أو كيان يحظى بأولوية مرتفعة بموجب أداة تصنيف التحقق الشامل، عادةً ما تتم مراجعة هذا الجزء بواسطة المتعهدون أو فريق المناطق، إلا إذا توفرت لفريق التصعيدات قدرة إضافية على المراجعة. كما كان يحدث مع نظام التحقق الشامل القديم، قد تخضع المشكلات عالية التعقيد إلى مراجعة إضافية، تشتمل في حالات نادرة على إجراء المراجعة بواسطة القيادات. إذا تبيّن من خلال المراجعة النهائية أن المحتوى يخالف معايير مجتمعنا، فإننا نقوم بإزالته. إذا تبيّن من خلال المراجعات التي نجريها أن المحتوى غير مخالف، فإننا نتركه على المنصة.
حتى 16 أكتوبر 2021، كان هناك ما يقرب من 660 ألف مستخدم وكيان لهم إجراءات تتطلب شكلاً من أشكال المراجعة الثانوية للكيانات الحساسة استنادًا إلى تضمينهم في القوائم التي سبق توضيحها. وهذا الرقم يتغير باستمرار مع قيامنا بإضافة أو حذف مستخدمين أو كيانات إلى هذه القوائم والتي سبق توضيحها أعلاه استنادًا إلى تطور معايير التضمين. تتضمن أمثلة المستخدمين والكيانات المؤهلة للمراجعة الثانوية للكيانات الحساسة، على سبيل المثال لا الحصر:
- الكيانات ذات الصلة بعمليات الاستجابة التصعيدية أو الأحداث عالية الخطورة. في الوقت الحالي، هناك عملية غير رسمية حيث تقوم الفرق التي تستعد للأحداث عالية الخطورة بتحديد الكيانات المعرضة لمخاطر الإفراط في الإنفاذ. على سبيل المثال، إذا حظي محتوى المستخدم محل الخلاف بانتشار واسع وسريع (على سبيل المثال فيديو بث مباشر لأعمال عنف ترتكبها قوات الشرطة)، فقد نحدد هذا المستخدم لمراجعة ثانوية للكيانات الحساسة لمنع الإزالة عن طريق الخطأ.
- الكيانات التي تم تضمينها لأغراض الامتثال للقانون. نستخدم المراجعة الثانوية للكيانات الحساسة في حالات معينة للامتثال إلى المتطلبات القانونية أو التنظيمية.
- الناشرون والشخصيات العامة التي تحظى بقدر كبير من المشاهدات. نحدد الكيانات التي ستخضع للمراجعة الثانوية للكيانات الحساسة لأن الإفراط في الإنفاذ قد يؤدي إلى تجربة سلبية لشريحة كبيرة من المستخدمين.
- السكان المهمشون. نحدد المدافعين عن حقوق الإنسان، والمعارضين السياسيين وغيرهم ممن نعتقد أنهم قد يكونوا مستهدفين بأي مضايقات أو عمليات حشد عدائية أو بلاغات جماعية برعاية الدولة أو غيرها، وذلك بهدف حمايتهم ضد هذه الهجمات.
- الكيانات المدنية. نتبع المعايير الموضوعية وخبرات فرق السياسة الإقليمية لتحديد السياسيين والمسؤولين الحكوميين والمؤسسات والمنظمات ومجموعات التأييد والمؤثرين المدنيين. ونقوم بتضمين هذه الكيانات من أجل المراجعة الثانوية للكيانات الحساسة لمنع الأخطاء التي قد تحد من الخطاب السياسي غير المخالف وتؤثر سلبًا في مناقشة الموضوعات المدنية مثل الانتخابات والسياسة العامة والقضايا الاجتماعية. نهدف إلى ضمان التكافؤ على مستوى الكيانات المدنية في البلد الواحد - على سبيل المثال، إذا قمنا بتضمين إحدى الوزارات الوطنية في المراجعة الثانوية للكيانات الحساسة، فسنقوم بتضمين جميع الوزارات في حكومة ذلك البلد في المراجعة الثانوية للكيانات الحساسة.
- الأنشطة التجارية. نقوم بتحديد المعلنين الأكثر أهمية، بالإضافة إلى أولئك الذين عانوا من الإفراط في الإنفاذ، لحماية الإيرادات وبناء ثقة طويلة الأمد في منصتنا.
نراجع حاليًا آلية تحسين معايير تحديد الكيانات التي ينبغي أن تخضع للمراجعة الثانوية للكيانات الحساسة. على سبيل المثال، ندرس سبل تطوير معاييرنا في مجالات مثل عدد المتابعين وعدد عمليات الإنفاذ السابقة الناتجة عن النتائج الإيجابية الخاطئة، والمتطلبات القانونية/التنظيمية، بالإضافة إلى القضايا السياسية/المجتمعية المهمة. يجوز للمستخدمين طلب عدم إدراجهم في قائمة المراجعة الثانوية للكيانات الحساسة (SSR) من خلال هذا النموذج. ولا تؤكد Meta ما إذا كان المستخدمون مدرجين في هذه القوائم أو تمت إزالتهم منها. ومع ذلك، فإننا نؤمن بشدة باستقلالية المستخدم وسنراجع كل الطلبات في أقرب وقت ممكن.
بالإضافة إلى عنصري نظام التحقق الشامل، وضعنا أيضًا نظامًا داخليًا لمنع الأخطاء يُعرف باسم "المراجعة الديناميكية المتعددة" (DMR). وهو نظام يتيح لنا إعادة الحالات التي خضعت للمراجعة لتتم مراجعتها للحصول على تصويت الأغلبية على القرار (على سبيل المثال، إذا وافقت أغلبية المراجعين على القرار، يتم إغلاق الحالة)، وبذلك نكون على درجة أعلى من الثقة في أننا اتخذنا القرار الصحيح. نستعين بهذا النظام لتحسين جودة ودقة المراجعة البشرية والتخفيف من حدة مخاطر القرارات غير الصائبة من خلال ضبط عدد المراجعات التي نطلبها من أجل القرار النهائي استنادًا إلى عدد من العوامل المختلفة مثل سرعة الانتشار وعدد المشاهدات واحتمالية الإسهام في حدوث ضرر (على سبيل المثال، الانتهاكات المحتملة لسياساتنا بشأن الاستغلال الجنسي أو الأفراد الخطرين والمنظمات الخطرة).
التدخلات المستقبلية بشأن شفافية التحقق الشامل
استجابة للقرار الصادر في ديسمبر 2022 عن مجلس الإشراف بشأن إحالة نظام التحقق الشامل إلى المجلس للحصول على رأي استشاري بشأن سياسات المحتوى، فقد التزمنا أيضًا بسلسلة من تدخلات الشفافية الرامية إلى منع الأخطاء. تتضمن هذه التدخلات ما يلي:
- مشاركة منظمة وقوية مع فِرقنا الداخلية المعنية بحقوق الإنسان والحقوق المدنية، وشركائنا الموثوق بهم، ومنظمات المجتمع المدني الخارجية الأخرى لاستكشاف طرق نستند إليها في وضع المعايير التي نستخدمها لتحديد كيانات المصلحة العامة لقوائم التحقق الشامل.
- استكشاف عملية أكثر رسمية للإدراج في قوائم التحقق الشامل من مجموعات المجتمع المدني العالمية والإقليمية والمحلية.
- الاستثمار في مراجعة الجودة وموارد التدريب مع قيامنا بإسناد كل قرارات التحقق الشامل إلى مراجعين يتحدثون اللغة المعنية ويتمتعون بالخبرة الإقليمية متى أمكننا ذلك.
- تنفيذ مجموعة قوية من اتفاقيات مستوى الخدمة (SLA) لمراجعة القرارات على مستوى أنظمة منع الأخطاء لدينا، مما يتيح لنا تحسين نموذجنا الحالي لتوظيف المراجعين بهدف تحقيق أسرع مراجعة لغوية ممكنة.
على الرغم من أننا أجرينا تحسينات مهمة على نظام التحقق الشامل، لا نزال نستكشف سبل ضمان موازنة هذا النظام بشكل أكبر بين أهدافنا وإزالة المحتوى الذي ينتهك معايير مجتمعنا على أن نضمن في الوقت ذاته تقليل أخطاء الإنفاذ التي لها أكبر تأثير.