التحول في إنفاذ المحتوى باستخدام الذكاء الاصطناعي
تاريخ التحديث ١٩/٠٣/٢٠٢٦
لقد اعتدنا دائمًا على مزيج من التكنولوجيا والأشخاص لمراجعة المحتوى وإنفاذ معايير مجتمعنا. كما أعلنا مؤخرًا، فإننا بصدد تجربة دمج أنظمة ذكاء اصطناعي أكثر تقدمًا في عمليات إنفاذ المحتوى الحالية لدينا. وهدفنا هو مواصلة البناء على النتائج الإيجابية للتغييرات التي أجريناها للحد من الأخطاء في العام الماضي، من خلال استخدام أنظمة محدَّثة يمكنها رصد المزيد من انتهاكات المحتوى شديدة الخطورة والمحتوى غير القانوني، وإيقاف المزيد من عمليات الخداع، والاستجابة بشكل أسرع للأحداث الواقعية.
ومع ذلك، حتى مع استخدام المزيد من التكنولوجيا الجديدة لتوسيع نطاق الإمكانيات، سيظل الأشخاص في محور نهجنا. ويظل خبراؤنا مسؤولين عن كتابة سياساتنا وإنشائها؛ وتصميم أنظمة الذكاء الاصطناعي لدينا وتدريبها وتقييمها؛ وقياس الأداء؛ ويتخذون قرارات معقدة وعالية التأثير. وهذا تطور في كيفية دمج نطاق الذكاء الاصطناعي المتقدم وإمكانياته مع خبرات الأشخاص وآرائهم، حيث يدعم كل طرف الآخر؛ للحفاظ على أمان الأشخاص على منصاتنا.
ما الذي تغير وما الذي لم يتغير
طرح يتسم بالحذر والتدريج
نحن نتعامل مع هذا التحول بحذر وعلى مدار الوقت، ونأخذ وقتنا لضمان أن يكون طرحنا مدروسًا ومتأنيًا. يخضع كل نموذج من نماذج الذكاء الاصطناعي لاختبار صارم متعدد المراحل قبل النشر. لن ننتقل إلى استخدام الإنفاذ المدعوم بالذكاء الاصطناعي إلا عندما تُحقق التكنولوجيا أداءً أفضل من أنظمتنا الحالية باستمرار في كل الاختبارات التي أجريناها.
ما الجديد: تغطية المزيد من اللغات وتحسين الاكتشاف
تغطي أنظمة الذكاء الاصطناعي الأكثر تطورًا اللغات التي يتحدث بها 98% من الأشخاص على الإنترنت، بما يتجاوز بكثير تغطيتنا السابقة لحوالي 80 لغة؛ مما يساعدنا على تطبيق السياسات بشكل أكثر دقة واتساقًا عبر مليارات المحتويات. ويمكن لهذه الأنظمة أيضًا فهم المزيد من السياق والفروق الثقافية الدقيقة، بما في ذلك الثقافات الفرعية المتخصصة، والكلمات الرمزية التي تتغير بسرعة وتختص بالمنطقة، ومعنى الرموز التعبيرية، واللغة العامية.
فقد أظهرت الاختبارات المبكرة بالفعل نتائج واعدة في العثور على هذه الفروق الدقيقة لعمليات الإنفاذ، مثلما اكتشفت أنظمة الذكاء الاصطناعي لدينا موقعًا مزيفًا ينتحل عنوان موقع ويب مشروعًا ويحاول أن يبدو كمتجر رياضي شهير من خلال استخدام الشعار الحقيقي مع أسعار منخفضة بشكل غير معتاد وعنوان ويب مريب.
الأمور التي لم تتغير: مبادئ الإنفاذ الأساسية
- لا يزال الأشخاص محور اهتمامنا: لا يزال الأشخاص يؤدون دورًا رئيسيًا في نهجنا لإنفاذ المحتوى. إن فِرَق الخبراء هي المسؤولة عن إنفاذ سياسات الذكاء الاصطناعي في Meta؛ حيث تضع السياسات، وتدرب النماذج، وتتحقق من الأداء، وتتخذ قرارات ذات مخاطر عالية وتأثير كبير، مثل اتخاذ القرار النهائي بشأن طلبات الطعن على تعطيل الحسابات، وإبلاغ جهات إنفاذ القانون عندما يقتضي القانون ذلك.
- معايير المجتمع: لن تتغير معايير المجتمع المُتَّبعة لدينا كجزء من هذا التحول وستستمر في تحديد قواعدنا لما هو مسموح به وغير مسموح به على مستوى منصاتنا. الشيء الوحيد الذي يتغير هو طريقة إنفاذ هذه السياسات.
- الإبلاغ والطعون: لا يزال بإمكانك الإبلاغ عن المحتوى الذي تعتقد أنه ينتهك سياساتنا. وإذا اتخذنا إجراءً بشأن محتواك أو حسابك، فلا يزال بإمكانك الطعن على هذا القرار.
طريقة العمل
يجمع نهجنا بين قدرات الذكاء الاصطناعي والخبرة البشرية المدمجة طوال العملية.
إجراء اختبارات صارمة قبل النشر
قبل أن يتخذ أي نظام ذكاء اصطناعي قرارات إنفاذ فعلية، نقوم باختباره بشكل صارم وإنشاء عناصر حماية داخل النظام. ونقارن قراراته بقرار المراجعين ذوي الخبرة لدينا ولا نستخدمها إلا عندما نرى أنها تحقق أداءً أفضل من الأساليب التي نستخدمها حاليًا لإنفاذ المحتوى.
وضع معايير واضحة للجودة
يجب أن يستوفي كل نموذج معايير دقة محددة قبل النشر. ونقوم بتقييم الأداء لضمان الاتساق والفعالية والإنصاف والدقة، كما نتأكد من أننا نستطيع التعرف بشكل صحيح على الانتهاكات الفعلية والتمييز بين المحتوى المخالف وغير المخالف.
المراقبة المستمرة
بمجرد التنفيذ، يتم تقييم كل نموذج بشكل مستمر. كما نتتبع الدقة، ونراقب أي تغيرات غير متوقعة في الأداء، ويمكننا تعديل النماذج أو تحسينها بسرعة في حالة ظهور المشكلات. لقد تم تصميم أنظمتنا لإجراء عمليات التكرار والتصحيح السريعة، حيث تراجع الفِرق والتكنولوجيا الاتجاهات الرائجة لاكتشاف المشكلات مبكرًا.
خبرة بشرية في كل مرحلة
الأشخاص هم الذي يصممون السياسات. وهم الذين يدرِّبون الذكاء الاصطناعي. وهم الذين يراقبون الأداء. وهم الذين يتعاملون مع القرارات الأكثر دقة ودرجة وتأثيرًا. يعالج الذكاء الاصطناعي الإنفاذ الأفضل على نطاق واسع ويحسن الاتساق؛ بينما يقدم البشر الحكم والإشراف على النظام.
الأداء على مستوى مجالات السياسة
أظهرت نماذج الذكاء الاصطناعي لدينا تحسينات حتى في مرحلة الاختبار المبكر عبر مجالات متعددة للسياسة كما يلي:
عمليات الاحتيال والخداع
تمكن أحد حلول الذكاء الاصطناعي المصممة لمنع المحتالين من خداع الأشخاص للإفصاح عن تفاصيل تسجيل الدخول الخاصة بهم بنجاح من اكتشاف 5000 محاولة احتيال يوميًا لم يكتشفها أي فريق مراجعة موجود من قبل، وتمكن من إيقافها.
محتوى ينتهك معايير محتوى البالغين
أدت أنظمة الذكاء الاصطناعي التي تم تصميمها لاكتشاف انتهاكات الإغواء الجنسي للبالغين إلى اكتشاف قدر أكبر من المحتوى المخالف بمعدل ضعفي ما اكتشفه الأشخاص، مع العمل أيضًا على تقليل معدل الأخطاء بنسبة تزيد عن 60%. وهذا يعني أننا نجد المحتوى الضار ونزيله بشكل أسرع مع حماية المزيد من الأشخاص من عمليات الإنفاذ الخاطئة.
انتحال الشخصية
ساعدت أنظمة الذكاء الاصطناعي لدينا إلى تقليل بلاغات المستخدمين عن انتحال شخصية عالية المستوى بنسبة 80%. بدلاً من مجرد مطابقة الأسماء، يمكن للذكاء الاصطناعي التعرُّف على إذا ما كان الشخص ينتحل شخصية عامة من خلال تحليل المزيد من السياق، مثل تفاصيل الملف الشخصي، وأنماط النشر، والسمات المرتبطة التي تشير إلى عدم المصداقية.
التطلُّع نحو المستقبل
يحدث هذا الانتقال على مراحل، مع اختبار دقيق في كل خطوة. وننشر بيانات الإنفاذ في تقرير إنفاذ معايير المجتمع وسنواصل مشاركة ما نتعلمه، بما في ذلك النجاحات والتحديات، مع توسيع نطاق إنفاذ الذكاء الاصطناعي عبر المزيد من مجالات السياسة. ونخطط أيضًا لتعزيز فريقنا المتخصص من الأشخاص على مستوى العالم داخل Meta والذي يتمتع بخبرة وثيقة في تطبيق معاييرنا وسياساتنا.
تعد الشفافية حول هذا التحول وعمليات الإنفاذ التي نتبعها أمرًا غاية في الأهمية. للتعرف على المزيد حول كيفية اتخاذ إجراءات بشأن الانتهاكات اليوم، راجع اتخاذ إجراء. للحصول على تفاصيل حول سياساتنا، يُرجى الاطِّلاع على معايير مجتمعنا. نحن نعمل بانتظام على إشراك مجموعة متنوعة من المساهمين في تطوير سياساتنا، وسنواصل هذا النهج طوال فترة التحول، وذلك من خلال التعاون مع الجهات التنظيمية والخبراء الخارجيين ومجلس الإشراف لإدراج ملاحظاتهم في نهجنا.
لقد تم تصميم منهجنا لتكييف الوسائل مع التهديدات الجديدة واللغة العامية المستجدة والتحديات الناشئة، مثل اللغة المشفرة لبيع المخدرات. وهو قائم على مبدأ أن أفضل النتائج تتحقق من خلال الجمع بين التكنولوجيا المتقدمة والتقدير البشري.