نهجنا بشأن المنظمات الخطرة والأفراد الخطرين
تاريخ التحديث ١١/١١/٢٠٢٤
لا مكان على منصتنا للجماعات أو الأفراد الذين يروّجون العنف أو الجريمة المنظمة أو الكراهية أو الإرهاب. وعلى مدار سنوات من العمل، لم نتوقف عن تطوير سياسات وإجراءات بشأن الأفراد الخطرين والمنظمات الخطرة للتعامل مع هذا النوع من المحتوى. وفي حين أننا ملتزمون بتوفير مساحة يستطيع من خلالها الأشخاص تناول ما يدور حول العالم من أحداث قد تؤثر على حياتهم وحياة عائلاتهم ومجتمعاتهم، تهدف سياستنا إلى أن تحدد بوضوح الأمور غير المسموح بها على منصاتنا.
سياساتنا مصممة للحفاظ على منصاتنا كمساحات آمنة
تمتلك Meta واحدة من أكثر السياسات شمولاً في هذا المجال لاستهداف المنظمات الإرهابية، وجماعات الكراهية، والمنظمات الإجرامية المنظمة مثل عصابات المخدرات، والكيانات التي تحرض على العنف، ومرتكبي الأحداث المصنفة على أنها مخالفة مثل عمليات إطلاق النار بشكل جماعي أو الهجمات الإرهابية.
بموجب سياسة المنظمات الخطرة والأفراد الخطرون هذه، نقوم بتصنيف وحظر الأفراد والمنظمات المتورطة في الأنشطة المحظورة، ونزيل المحتوى الذي يمجدهم ويدعمهم بمجرد اكتشافه. ونصنّف أيضًا ونحظر الكيانات التي تحرض على العنف، ونقصد بها الكيانات التي تشارك في الإعداد أو الدعوة إلى ارتكاب أعمال عنف في المستقبل دون أن تشارك بالضرورة في أعمال العنف حتى الآن، ونقوم بإزالة أي تمجيد أو دعم لها أيضًا.
سياساتنا معلنة للجمهور، ويمكنك الاطلاع على مزيد من التفاصيل بشأنها في صفحة معايير المجتمع الخاصة بنا. بالإضافة إلى ذلك، فإننا ننشر بانتظام في تقرير معايير المجتمع ربع السنوي تفاصيل حول مقدار المحتوى الذي نقوم بإزالته.
طريقتنا في التصنيف وأسباب قيامنا به
نحن لا نسمح للمنظمات أو الأفراد الذين يتبنون مهمات تنطوي على أعمال عنف أو كراهية أو يشاركون في أعمال عنف بالوجود على منصات Meta. ونقيّم تلك الكيانات استنادًا إلى سلوكها سواء على الإنترنت أو على أرض الواقع، والأهم من ذلك، علاقاتها بالعنف. بموجب هذه السياسة، نضع تصنيفًا للأفراد والمنظمات ومجموعات الأشخاص. لضمان اتخاذ إجراءات إنفاذ فعّالة ومتناسبة ومتسقة، قمنا بتقسيم التصنيفات إلى مستويين. يمكنك قراءة المزيد عن هذه المستويات، وأنواع المنظمات التي تندرج تحت كل مستوى بزيارة معايير مجتمعنا.
نتبع عملية داخلية قوية تعتمد على مصادر معلومات متعددة لتقييم المنظمات والأفراد ومدى إمكانية تصنيفهم. إن وضعنا لتعريفات خاصة بنا وتطوير عملية التصنيف التي نتبعها، دون تحيز تجاه منطقة أو أيديولوجية بعينها، يتيح لنا أن نتحلى بالقوة والعدالة والاستباقية اللازمة لحماية منصاتنا.
هذا العمل ليس جامدًا. فنحن نبذل جهودًا مستمرة لتقييم المخاطر والجماعات والأفراد بهدف تصنيفهم استنادًا إلى سلوكياتهم والظروف المتغيرة والمعلومات الجديدة وتحليل الخبراء الداخليين وإسهامات أصحاب المصلحة الخارجيين. على سبيل المثال، كما أعلنا في يناير 2024، عندما يغيّر كيان أو فرد مصنّف سلوكه، يصبح مؤهلاً أيضًا للإزالة من قائمتنا - لا سيّما إذا لم يكن (1) مصنفًا من قبل الحكومة الأمريكية على أنه أحد زعماء تهريب المخدرات المصنّفين تحديدًا (SDNTK)؛ أو منظمة إرهابية أجنبية (FTO)؛ أو إرهابي عالمي مصنّف تحديدًا (SDGT)؛ (2) لم يعد متورطًا في العنف أو الكراهية؛ و(3) لا يشكَل رمزًا للعنف والكراهية أو يُستخدم للتحريض على المزيد من العنف أو نشر الدعاية التي تحض على العنف أو الكراهية.
في حين أننا نقدر الشفافية بشكل كبير ونواصل تقييم المقايضات، فإننا لا نشارك تفاصيل قائمة التصنيف الخاصة بنا في الوقت الحالي للحد من المخاطر الأمنية والقانونية ومنع هذه الجهات الفاعلة الخطيرة من التحايل على آليات الإنفاذ التي نتبعها.
كيفية اتخاذ إجراءات إنفاذ ضد المنظمات الخطرة والأفراد الخطرين
نستثمر بشكل كبير في الأشخاص والتكنولوجيا والشراكات والأبحاث لمكافحة نشاط المنظمات الخطرة والأفراد الخطرين.
- التكنولوجيا: نتعامل مع هذا الأمر من خلال مزيج من الذكاء الاصطناعي والذكاء البشري، كما نستثمر في الأبحاث ونعمل مع خبراء ومنظمات خارجية للبقاء على اطلاع على هذا البيئة المتغيرة. نستخدم الذكاء الاصطناعي لاكتشاف مقاطع الفيديو والصور والصوت والنص وحتى الرسومات مثل الشعارات وتصوير العنف. كما نقدم أدوات مفتوحة المصدر على مستوى الصناعة لمساعدة الشركاء على الوصول إلى التكنولوجيا لمكافحة المنظمات الخطرة والأفراد الخطرين على منصاتهم الخاصة. على سبيل المثال، في ديسمبر 2022، لمساعدة جميع الشركات على مستوى الصناعة في الحفاظ على خلو منصاتها من المحتوى الإرهابي، قمنا بإتاحة أداة "Hasher Matcher Actioner" (التجزئة والمطابقة واتخاذ الإجراءات) - وهي أداة برمجية مجانية مفتوحة المصدر ستساعد المنصات على اكتشاف نسخ الصور أو مقاطع الفيديو واتخاذ إجراءات ضدها بشكل جماعي.
- الأشخاص: غالبًا ما يتسم السياق واللغة بالتعقيد، ولا يمكن للتكنولوجيا دائمًا التمييز بين تمجيد المنظمات الخطرة والأفراد الخطرين والنقد الثقافي المحدد. لهذا السبب، استثمرت Meta مليارات الدولارات ولديها ما يقرب من 40 ألف شخص يعملون في مجال السلامة والأمن. وفي إطار ذلك، لدينا فريق متعدد الوظائف يضم مئات الأشخاص ذوي الخبرة في مجالات مثل إنفاذ القانون والأمن القومي، واستخبارات مكافحة الإرهاب، والدراسات الأكاديمية في التطرف، يكرّس أفراده أنفسهم لهذا العمل.
- الشراكات:طالما وُجِدت الأنشطة الضارة على أرض الواقع، فستكون موجودة على الإنترنت، ولا يمكن لشركة واحدة التغلب على هذه المشاكل بمفردها. ولهذا السبب تشكّل الشراكات مع الآخرين - الشركات والمجتمع المدني والباحثين والحكومات - أهمية بالغة. نحن نتعاون مع الحكومات والوكالات الحكومية الدولية في جميع أنحاء العالم، ونقيم شراكات مع المنظمات ذات الخبرة في الإرهاب والتطرف العنيف والاستخبارات السيبرانية والسلوك العدائي عبر الإنترنت.
- المنتدى العالمي لمكافحة الإرهاب على الإنترنت: تعاوننا مع YouTube وMicrosoft وTwitter عام 2017 لإنشاء المنتدى العالمي لمكافحة الإرهاب على الإنترنت (GIFCT)، وهي منظمة تم إنشاؤها بهدف منع الإرهابيين والمتطرفين العنيفين من استغلال المنصات الرقمية. أصبحت المنتدى العالمي لمكافحة الإرهاب على الإنترنت منظمة غير حكومية مستقلة عام 2019 وينسّق الاستجابة للأزمات عبر الصناعة استجابة للهجمات.
- إنفاذ القانون: عندما يتنامى إلى علمنا وجود تهديد محدد ووشيك وحقيقي لحياة البشر، فإننا نبادر بإخطار جهات إنفاذ القانون. تتعاون Meta أيضًا مع سلطات إنفاذ القانون بشأن الهجمات العنيفة، لكننا دائمًا ما ندقق في كل طلب حكومي نتلقاه للتأكد من أنه قانوني وصحيح ويتسق مع المعايير الدولية المعترف بها لحقوق الإنسان، بما في ذلك الإجراءات القانونية الواجبة والخصوصية وحرية التعبير وسيادة القانون. إذا قررنا أن طلبًا ما يبدو ناقصًا أو فضفاضًا للغاية، فإننا نعترض عليه. يمكنك قراءة المزيد عن تعاوننا مع سلطات إنفاذ القانون هنا.
- الأبحاث المستقلة: نكلِّف مراكز الأبحاث والأكاديميين والمنظمات غير الحكومية بإجراء أبحاث مستقلة حول مواضيع مختلفة تتعلق باستخدام الإنترنت من قبل المتطرفين العنيفين والإرهابيين، وذلك لمساعدة صناعتنا على فهم هذه القضايا المهمة وإحراز تقدم بشأنها. في عام 2022، أعلنت Meta عن عقد شراكة بحثية مع مركز دراسات الإرهاب والتطرف ومكافحة الإرهاب التابع لمعهد ميدلبري للدراسات الدولية لتحليل الاتجاهات المتطورة في التطرف العنيف والأدوات الفعّالة التي تساعد المجتمعات على مكافحته.
- تعطيل الشبكات الاستراتيجية: على الرغم من أن معظم إجراءاتنا ضد الإرهاب والكراهية المنظمة تأتي من الإزالة الروتينية للمحتوى، فقد لا يكفي ذلك في بعض الأحيان. تشكل هذه الشبكات مساحة عدائية، حيث تحاول الكيانات الخطرة المعينة أحيانًا الالتفاف على إجراءات الإنفاذ التي نتخذها وإعادة تشكيل الشبكات على منصتنا. ولمكافحة هذه الشبكات، نتبع نهجًا رئيسيًا يسمى تعطيل الشبكة الاستراتيجية (SND). ويتيح لنا هذا النهج أن نزيل دُفعة واحدة شبكة من الجهات الفاعلة المحظورة بالفعل التي تندرج تحت مظلة المنظمات الخطرة والأفراد الخطرين، إما عند تصنيفها لأول مرة أو في إطار جهودنا المستمرة لإبقاء هذه المجموعات المصنفة خارج منصتنا. إن تعطيل هذه المجموعات كُليًا يجعل من الصعب عليها العودة إلى المنصة. ويرسل رسالة واضحة مفادها أننا على دراية بوجودهم وأن هذه المجموعات غير مرحّب بها على منصاتنا. وأخيرًا، يسمح لنا هذا الأسلوب بدراسة كيفية محاولة هذه الجهات الفاعلة التي تندرج تحت مظلة المنظمات الخطرة والأفراد الخطرين تجاوز اكتشافنا لها، وجهودهم في محاولة العودة إلى تطبيقاتنا بعد إزالة حساباتهم.
- في يونيو 2023، نشرت المجلة الأكاديمية المستقلة وقائع الأكاديمية الوطنية للعلوم (PNAS)دراسة أعدها الباحثان لدى Meta دانيال روبرت توماس وليلي أ. واحدي لدراسة فعّالية استراتيجية تعطيل الشبكات الاستراتيجية في تعطيل جماعات الكراهية. وقد تبيّن لنا أن هذه الاستراتيجية فعّالة - وتساعد على توفير تجربة مستخدم أكثر صحة وأمانًا على منصاتنا.
جهود الوقاية
نحن في Meta ملتزمون بالحفاظ على سلامة ونزاهة منصاتنا. تتمثل إحدى طرق تحقيق تلك الغاية في الوقاية الاستباقية، والتي تنطوي على اتخاذ تدابير استباقية لمنع انتشار الجهات الفاعلة التي تندرج تحت مظلة المنظمات الخطرة والأفراد الخطرين قبل أن تمتد جذورها بين الأفراد أو المجتمعات. ويشمل ذلك استخدام تدخلات مستهدفة وتعزيز الخطاب الإيجابي. ونعتقد أن الحوار البنّاء أمر ضروري، ونسعى جاهدين لتوفير بيئة تشجع على مثل هذه التبادلات.
لتعزيز جهودنا، نعمل بشكل فعّال مع منظمات المجتمع المدني المعنية بمكافحة التطرف والكراهية المنظمة والأنشطة الإجرامية. وندعم هذه المنظمات من خلال بناء قدراتها وتزويدها بالموارد اللازمة لإنشاء محتوى مضاد للخطاب المتطرف. يتحدى هذا المحتوى الروايات المتطرفة ويقدم وجهات نظر بديلة، مما يساعد على تعزيز بيئة أكثر إيجابية وشمولاً على الإنترنت.
يتسم نهجنا في مكافحة التطرف بتعدد الجوانب والاستباقية، ويتضمن مزيجًا من الوقاية والتعاون وتعزيز الخطاب الإيجابي.
- مبادرة المرونة هي برنامج لتدريب منظمات المجتمع المدني في جميع أنحاء آسيا وأفريقيا والولايات المتحدة على استراتيجيات حملة منع/مكافحة التطرف العنيف وبناء قدراتها على تنفيذ حملات فعّالة للخطاب المضاد. وفي إطار مبادرة المرونة، أطلقت Meta شراكة مقرها الولايات المتحدة مع منظمة البحث عن أرضية مشتركة (SFCG) لدعم الشركاء المجتمعيين الذين يعملون محليًا لمكافحة العنف المدفوع بالكراهية وبناء المرونة الاجتماعية والمجتمعية.
- عمليات بحث أكثر أمانًا: في بعض الأحيان، وعند الضرورة، نوفر أيضًا للأشخاص مصادر تعليمية عندما يبحثون عن مصطلحات مرتبطة بالمنظمات الخطرة والأفراد الخطرين. عندما يبحث المستخدمون عن مصطلحات متعلقة بالمنظمات الخطرة والأفراد الخطرين، على فيسبوك وInstagram وThreads، يتم توجيههم بدلاً من ذلك إلى موارد تعليمية، مما يساعد على تثبيط البحث عن محتوى متعلق بهذه المنظمات الخطرة والأفراد الخطرين وتوفير موارد تعليمية للمستخدمين.لدينا أيضًا برنامج بحثي في العديد من البلدان، بما في ذلك أستراليا والولايات المتحدة والمملكة المتحدة وألمانيا والهند وإندونيسيا وباكستان. إذا بحث شخص ما عن مصطلحات محددة خاصة بسوق معين وترتبط عادةً بأضرار المنظمات الخطرة والأفراد الخطرين، فإننا نقدم له معلومات وموارد إضافية بالتعاون مع منظمة مجتمع مدني محلية متخصصة في تقديم خدمات الدعم للمستخدمين المعرضين لخطر التطرف.
- توفير الموارد لمنظمات المجتمع: لدينا أيضًا برنامج إعلانات السلامة، والذي يعمل على دعم شركاء منظمات المجتمع المدني لمنع الضرر بشكل استباقي من خلال تزويدهم بأرصدة إعلانية ودعم استراتيجي عند تنفيذهم لبرامج الخطاب المضاد. من خلال التعاون مع هذه المنظمات، نهدف إلى توسيع شراكاتنا لمكافحة الجهات الفاعلة التي تندرج تحت مظلة المنظمات الخطرة والأفراد الخطرين.
هذا العمل عبارة عن جهد مستمر، ونحن ندرك أنه طالما استمر وجود المنظمات الخطرة والأفراد الخطرين في العالم، فسيستمر وجودهم على الإنترنت، ولهذا السبب يجب أن نظل يقظين. تتبنى هذه المجموعات تكتيكات جديدة لتجنب اكتشافها أو تحاول التهرب من سياساتنا وإجراءات الإنفاذ التي نتبعها - وهذا السلوك العدائي هو ما يدفعنا إلى العمل باستمرار على أن نسبقهم بخطوة، من خلال تقييم نهجنا وتحديثه.