معدل الاكتشاف الاستباقي
تاريخ التحديث ٢٢/٠٢/٢٠٢٣
تعرض أداة القياس هذه النسبة المئوية لكل عناصر المحتوى أو الحسابات التي اتخذنا إجراءات بشأنها والتي اكتشفناها واتخذنا إجراءات بشأنها قبل أن يُبلغنا المستخدمون عنها. نستخدم أداة القياس هذه كمؤشر لمدى فعّالية جهودنا في اكتشاف الانتهاكات.
تعتبر استثماراتنا في تكنولوجيا تعلّم الآلة ضرورية لمساعدتنا على اكتشاف الانتهاكات بشكل أسرع.
نحن نوازن بين الاستعانة بتعلّم الآلة وفريق من الخبراء المدربين الذين يراجعون المحتوى المخالف ويتخذون إجراءات بشأنه.
معدل الاكتشاف الاستباقي لبعض أنواع الانتهاكات التي قد تنطوي عليها عناصر المحتوى التي يحتمل أن تشكل مخالفة مرتفع، مما يعني أننا نعثر على معظم عناصر المحتوى ونتخذ إجراءات ضدها قبل أن يبلّغ المستخدمون عنها. وهو ما يحدث تحديدًا في المجالات التي استطعنا فيها تطوير تقنية تعلّم الآلة لتتعرف تلقائيًا على المحتوى الذي قد ينتهك معاييرنا.
تعد هذه التقنية واعدة للغاية لكنها لا تزال بحاجة للتطوير لعدة سنوات لكي تكون فعّالة مع كل أنواع الانتهاكات. على سبيل المثال، لا تزال هناك بعض القيود في القدرة على فهم السياق والدقائق اللغوية، لا سيّما المحتوى المستند إلى النص. وهو ما يفرض تحديات إضافية لاكتشاف أنواع معينة من الانتهاكات بشكل استباقي.
من الممكن أن تتحرك أداة القياس بالارتفاع أو الانخفاض نتيجة عوامل خارجية. على سبيل المثال، حدوث هجوم إلكتروني يتمثل في مشاركة ناشري المحتوى غير المهم أو الاحتيالي 10 مليون منشور يحتوي على نفس عنوان URL الضار. إذا اكتشفنا وجود عنوان URL الضار قبل إبلاغ أي مستخدم عنه، فسيرتفع معدل الاكتشاف الاستباقي أثناء الهجوم الإلكتروني وسينخفض بعد ذلك، حتى مع عدم تغير وسائلنا التقنية خلال هذه الفترة. قد يرتفع معدل أداة القياس هذه أو ينخفض استنادًا إلى مقدار التغيير الذي يطرأ على عملياتنا وأدواتنا - على سبيل المثال، قد يرتفع المعدل في حالة تحسن تقنية الاكتشاف، أو تنخفض إذا تحسنت بلاغات مستخدمينا وأصبحنا نعتمد بشكل أقل على الاكتشاف الاستباقي.
نظرًا لاستناد أداة القياس هذه إلى عدد عناصر المحتوى التي تم اتخاذ إجراءات بشأنها، تنطبق العديد من الاعتبارات ذاتها. ولا يعكس معدل الاكتشاف الاستباقي المدة التي استغرقناها لاكتشاف المحتوى المخالف أو عدد مرات مشاهدته قبل اكتشافنا له. ولا يعكس أيضًا عدد الانتهاكات التي أخفقنا في اكتشافها على الإطلاق أو عدد مرات مشاهدة هذا المحتوى. وعلى الرغم من أن النسبة المئوية للمحتوى الذي اكتشفناه بشكل استباقي قد تكون مرتفعة للغاية، إذ تصل إلى 99% في بعض الفئات، فإن النسبة المئوية الصغيرة المتبقية قد تسبب تأثيرًا ملحوظًا بالنسبة إلى الأشخاص.
طريقة حساب معدل الاكتشاف الاستباقي
نقوم باحتساب هذه النسبة المئوية على النحو التالي: عدد عناصر المحتوى التي اتخذنا إجراءات بشأنها والتي اكتشفناها واتخذنا إجراءات بشأنها قبل أن يُبلغ الأشخاص الذين يستخدمون فيسبوك أو Instagram عنها، مقسومًا على إجمالي عدد عناصر المحتوى التي اتخذنا إجراءات بشأنها.
بالنسبة إلى الحسابات الزائفة على فيسبوك، نقوم باحتساب أداة القياس هذه كنسبة مئوية لحسابات فيسبوك التي تم تعطيلها لأنها زائفة والتي اكتشفناها واتخذنا إجراءات بشأنها قبل أن يُبلغ المستخدمون عنها. ويتم احتسابها كعدد الحسابات التي تم تعطيلها بعد أن اكتشفناها واتخذنا إجراءات بشأنها قبل أن يُبلغ المستخدمون عنها، مقسومًا على إجمالي عدد الحسابات التي تم تعطيلها لأنها زائفة.
التنبيهات
نقوم بحساب معدل الاكتشاف الاستباقي من خلال إسناد بلاغات المستخدمين إلى المحتوى بشكل صارم. على سبيل المثال، إذا أبلغ شخص ما عن صفحة وأثناء مراجعتنا لها، وجدنا بعض المحتوى المخالف بها واتخذنا إجراءات بشأنه، فسنذكر في تقاريرنا أننا قمنا باتخاذ إجراءات بشأن ذلك المحتوى استباقيًا (ما لم تكن هناك بلاغات إضافية من المستخدمين بشأن هذا المحتوى تحديدًا).
عرض أحدث تقارير إنفاذ معايير المجتمع