كيفية ترتيب الأولويات لمراجعة المحتوى في Meta
تاريخ التحديث ١٢/١١/٢٠٢٤
في أحيان أخرى، يكون التحديد أكثر صعوبة. ربما لا يكون توجه المنشور واضحًا، فقد تكون لغته معقدة أو الصور المضمنة فيه لا يمكن تفسيرها دون سياق مناسب. في هذه الحالات، نقوم بمراجعة إضافية بالاعتماد على الأفراد.
ترتيب أولوية العوامل للمراجعة البشرية
عند تحديد المحتوى الذي يجب مراجعته من خلال فريق المراجعة البشرية أولاً، نضع في اعتبارنا 3 عوامل رئيسية:
الخطورة
ما احتمالية أن يتسبب هذا المحتوى في ضرر على شبكة الإنترنت وخارجها؟
سرعة الانتشار
ما سرعة مشاركة المحتوى؟
احتمالية المخالفة
ما احتمالية مخالفة المحتوى ذي الصلة لسياساتنا؟
تساعد فرق المراجعة البشرية على تحسين التكنولوجيا الخاصة بنا
تستخدم فرق المراجعة البشرية خبراتها في مجالات سياسة ولغات معينة لاتخاذ قرارات صعبة وغالبًا دقيقة حول المحتوى. في كل مرة يتخذ فيها المراجعون قرارًا، نستخدم هذه المعلومات لتعديل التكنولوجيا الخاصة بنا. وبمرور الوقت ومع ملايين القرارات، تتحسن التكنولوجيا الخاصة بنا مما يُتيح لنا إزالة المزيد من المحتوى المخالف.
مساعدة المراجعين على اتخاذ القرارات الصحيحة
تساعد التكنولوجيا فرق المراجعة البشرية على القيام بوظيفتها على أفضل وجه ممكن
مثل العديد من نماذج التعلم الآلي، تتحسن التكنولوجيا الخاصة بنا بمرور الزمن لأنها تتلقى المزيد من أمثلة المحتوى المخالف. وهذا يعني أن فرق المراجعة البشرية صارت قادرة على التركيز أكثر على المحتوى الخطير وسريع الانتشار والدقيق والجديد والمعقد. وهو نوع المحتوى الذي يحكم عليه الأشخاص عادةُ أفضل من التكنولوجيا.
أسئلة شائعة حول تحديد أولويات مراجعة المحتوى
كيف تغيرت أولويات الإنفاذ بمرور الوقت؟
في السابق، كانت فرق المراجعة البشرية تقضي القدر الأكبر من وقتها في مراجعة المحتوى الذي تم تقديم بلاغات بشأنه. وهذا يعني أنهم كانوا يقضون وقتًا طويلاً جدًا في مراجعة المحتوى منخفض الخطورة أو المحتوى غير المخالف بشكل واضح، ولا يقضون ما يكفي من الوقت في مراجعة المحتوى الأكثر خطورة والذي قد يتسبب في ضرر فادح. كما يعني أن عددًا كبيرًا من قرارات المراجعة البشرية لم تكن مفيدة لتطوير تكنولوجيا الإنفاذ.
يتعامل منهجنا الحالي في ترتيب الأولويات مع هذه المشكلات حيث يُتيح لنا منح الأولوية لمراجعة المحتوى الذي يحتمل بدرجة كبيرة أن يكون ضارًا وتحسين التكنولوجيا الخاصة بنا بوتيرة أسرع.
هل تراجع فرق المراجعة البشرية جميع بلاغات المستخدمين؟
ليس بالضرورة. تلعب فرق المراجعة البشرية والتكنولوجيا دورًا في مراجعة بلاغات المستخدمين. في الحالات التي تقوم فيها التكنولوجيا الخاصة بنا بتحليل محتوى معين، تقوم تلقائيًا باتخاذ إجراء بشأنه أو تتجاهله.
كيف تضمن عدم انحياز القرارات البشرية للتكنولوجيا الخاصة بك؟
للتعامل مع أية مخاوف بشأن العدالة والشمولية فيما يتعلق بنشر الذكاء الاصطناعي في تقنيات Meta، قمنا بإنشاء فريق الذكاء الاصطناعي المسؤول، وهو فريق متعدد التخصصات من علماء الأخلاق وعلماء الاجتماع والسياسة والخبراء السياسيين والباحثين والمهندسين في مجال الذكاء الاصطناعي. ويهدف الفريق إلى تطوير الإرشادات والأدوات والعمليات للتعامل مع مشكلات مسؤولية الذكاء الاصطناعي والمساعدة على ضمان توفُّر هذه الموارد النظامية على مستوى شركة Meta.