הגישה שלנו כלפי ארגונים ואנשים מסוכנים

מעודכן ‏11 בנוב' 2024‏
בפלטפורמה שלנו אין מקום לקבוצות או לאנשים שמקדמים אלימות, פשע מאורגן, שנאה או טרור. במשך שנים של עבודה, פיתחנו ואנחנו ממשיכים לפתח תהליכים וכללי מדיניות בנושא ארגונים ואנשים מסוכנים (DOI) כדי לטפל בתוכן מסוג זה. אנחנו מחויבים לספק מרחב שבו אנשים יכולים לדבר על אירועים שקורים ברחבי העולם ומשפיעים על חייהם, המשפחות שלהם והקהילות שלהם, והמדיניות שלנו קיימת כדי לקבוע גבול ברור לגבי מה אסור בפלטפורמה שלנו.
policy-image
כללי המדיניות שלנו נועדו לשמור על בטיחות הפלטפורמה
Meta מציעה מדיניות מהמקיפות ביותר בתעשייה שמתמקדת בארגוני טרור, קבוצות שנאה, ארגוני פשיעה כגון קרטלים, ישויות שמסיתות לאלימות ועבריינים שאחראים לאירועים אלימים, כגון אירועי ירי המוני או התקפות טרור.
במסגרת המדיניות בנושא DOI, אנחנו מסמנים ומשעים אנשים וארגונים שמעורבים בפעילויות כאלה, ומוחקים ניסיונות לפאר אותם או לתמוך בהם כאשר הדבר מובא לידיעתנו. אנחנו גם מסמנים ומשעים ישויות שמסיתות לאלימות – ישויות שמעורבות בהכנות או בקידום של אירועי אלימות עתידיים אבל לא בהכרח היו מעורבות באלימות ממשית בהווה – וגם מוחקים ניסיונות לפאר אותן ולתמוך בהן.
המדיניות שלנו פומבית ואפשר לקרוא פרטים נוספים עליה בדף כללי הקהילה שלנו. בנוסף, אנחנו מפרסמים באופן תדיר פרטים על כמות התוכן שהסרנו בדוח כללי הקהילה הרבעוני שלנו.
איך ומדוע אנחנו מסמנים
איננו מאפשרים לארגונים או לאנשים שמכריזים על משימה של אלימות או שטנה או שעוסקים באלימות לקבל נוכחות בפלטפורמות של Meta. אנחנו מבצעים הערכה של אותן ישויות בהתאם להתנהגות שלהן באינטרנט ומחוץ לאינטרנט, ובמיוחד על סמך הקשר שלהן לאלימות. במסגרת המדיניות הזו, אנחנו מסמנים אנשים, ארגונים ורשתות של אנשים. כדי לאפשר אכיפה יעילה, פרופורציונלית ועקבית יותר, חילקנו את הסימונים לשתי רמות. אפשר לקרוא פרטים נוספים על הרמות האלה ועל סוגי הארגונים שכלולים בכל אחת מהם בכללי הקהילה שלנו.
אנחנו נעזרים בתהליך פנימי מבוסס היטב משלנו, שמביא בחשבון מקורות מידע מרובים, ובאמצעותו אנחנו שוקלים אם צריך לסמן ארגונים ואנשים. פיתוח הגדרות ותהליכי סימון משלנו, ללא קשר לאזור או לאידאולוגיה, מאפשר לנו לנהוג בצורה החלטית, הוגנת ויוזמת בהגנה על הפלטפורמות שלנו.
לא מדובר בעבודה סטטית. אנחנו כל הזמן מעריכים סיכונים ושוקלים סימון של קבוצות ואנשים על סמך ההתנהגות שלהם, הנסיבות המשתנות, מידע חדש, ניתוח פנימי מצד מומחים ומידע מבעלי עניין חיצוניים. לדוגמה, כפי שהכרזנו בינואר 2024, כשארגון או אדם מסומן משנה את התנהגותו, הוא זכאי להסרה מהרשימה שלנו, במיוחד אם הוא (1) לא סומן על ידי הממשל האמריקאי בתור דמות מרכזית בסחר בסמים (SDNTK); ארגון טרור זר (FTO); או מחבל גלובלי שהוכרז באופן מיוחד (SDGT); (2) כבר לא מעורב באלימות או בשנאה, וכן (3) לא מהווה סמל לאלימות ושנאה או משמש להסתה לאלימות או להפצת אלימות או תעמולת שנאה.
אנחנו מעריכים מאוד שקיפות וממשיכים לשקול ללא הרף את האיזונים במשוואה, אבל נכון לעכשיו איננו משתפים פרטים לגבי רשימת הסימונים שלנו כדי לצמצם סיכונים מבחינת אבטחה וציות לחוק, וכן כדי למנוע מגורמים מסוכנים אלה לתמרן את מנגנוני האכיפה שלנו.
איך אנחנו מבצעים אכיפה נגד ארגונים ואנשים מסוכנים
אנחנו משקיעים רבות באנשים, בטכנולוגיה, בשותפויות ובמחקר כדי לסכל פעילות של DOI.
  • טכנולוגיה: הגישה שלנו למרחב הזה מורכבת משילוב של AI ובינה אנושית, ואנחנו גם משקיעים במחקר ועובדים עם מומחים וארגונים חיצוניים כדי להתעדכן בשינויים שמתרחשים בסביבה הזאת. אנחנו משתמשים ב-AI כדי לזהות סרטונים, תמונות, שמע, טקסט ואפילו גרפיקה כמו סמלי לוגו ותיאורי אלימות. אנחנו גם מציעים כלי קוד פתוח בכל תחומי התעשייה כדי לעזור לשותפים לגשת לטכנולוגיות שעוזרות להם להיאבק בארגונים ובאנשים מסוכנים בפלטפורמות שלהם. לדוגמה, בדצמבר 2022, כדי לאפשר לכל חברה בתעשייה להרחיק בקלות רבה יותר תוכן בנושא טרור מהפלטפורמות שלה, הצענו את Hasher Matcher Actioner ‏(HMA), כלי תוכנה חינמי של קוד פתוח שיעזור לפלטפורמות לזהות עותקי תמונות או סרטונים ולפעול נגדם באופן מרוכז.
  • אנשים: הקשר ושפה נוטים להיות מורכבים וטכנולוגיות לא תמיד יודעות להבחין בין ניסיונות לפאר DOI לבין ביקורת עם מאפיינים תרבותיים ספציפיים. לכן Meta השקיעה מיליארדי דולרים ומעסיקה קרוב ל-40 אלף איש בתחום הבטיחות והאבטחה. כחלק מהמאמץ הזה, יש לנו צוות רב-תחומי שמורכב ממאות אנשים עם מגוון תחומי התמחות, מאכיפת חוק וביטחון לאומי ועד למודיעין בנושא לוחמה בטרור ומחקרים אקדמיים בנושא רדיקליזציה, שמתמקדים בעבודה בנושא הזה.
  • שותפויות: כל עוד קיימת פעילות פוגענית בעולם, היא תהיה קיימת גם באינטרנט, ואין חברה אחת שיכולה לפתור בעיות כאלה בכוחות עצמה. לכן שותפויות עם חברות, קהילות, חוקרים וממשלות הן מרכיב קריטי. אנחנו פועלים ביחד עם ממשלות וסוכנויות בין-ממשלתיות מכל העולם ובשיתוף עם ארגונים שמתמחים בטרור, בקיצוניות אלימה, במודיעין סייבר ובהתנהגות עוינת ברשת.
    • GIFCT: איחדנו כוחות עם YouTube,‏ Microsoft ו-Twitter ב-2017 ויצרנו את פורום האינטרנט הגלובלי למלחמה בטרור (GIFCT), ארגון שנוסד במטרה למנוע מטרוריסטים ומקיצונים אלימים לנצל לרעה פלטפורמות דיגיטליות. GIFCT הפך לארגון לא-ממשלתי עצמאי ב-2019 שתפקידו לתאם תגובות למשברים בענף במקרים של התקפות.
    • רשויות אכיפת חוק: כאשר נודע לנו על איום ספציפי, קרוב ואמין על חיי אדם, אנחנו לא מהססים לפנות לרשויות אכיפת החוק. Meta גם עובדת עם רשויות אכיפת חוק נגד איומים אלימים, אך מקפידה לבדוק ביסודיות כל בקשה ממשלתית שהיא מקבלת כדי לוודא שיש לה תוקף חוקי ושהיא עומדת בסטנדרטים בינלאומיים מוכרים בתחום של זכויות אדם, כולל הליך הוגן, פרטיות, חופש הביטוי ושלטון החוק. אם הגענו למסקנה שהבקשה לא עומדת בכללים או כוללנית מדי, אנחנו מסרבים לה. אפשר לקרוא פרטים נוספים על העבודה שלנו עם רשויות אכיפת החוק כאן.
  • מחקר עצמאי: אנחנו מזמינים מחקרים עצמאיים של צוותי חשיבה, אקדמאים וארגונים לא-ממשלתיים בנושאים מגוונים שקשורים לשימוש של קיצונים אלימים וטרוריסטים באינטרנט, במטרה לעזור לתעשייה שלנו להבין את הנושאים החשובים האלה ולרשום בהם התקדמו. ב-2022, Meta הכריזה על שותפות מחקר עם המרכז לטרור, קיצוניות ומלחמה בטרור של מכון מידלברי ללימודים בינלאומיים (Middlebury Institute of International Studies), שנועדה לנתח טרנדים מתפתחים בקיצוניות אלימה וכלים אפקטיביים שיעזרו לקהילות להיאבק בה.
  • שיבושי רשת אסטרטגיים: רוב פעילות האכיפה שלנו נגד טרור וביטויי שנאה מאורגנים מתרכזת בהסרת תוכן באופן שגרתי, אבל לפעמים זה לא מספיק. זהו מרחב של עימותים ולפעמים ישויות מסוכנות מסומנות מנסות לעקוף אמצעי אכיפה ולבנות מחדש רשתות בפלטפורמה שלנו. כחלק מהמאבק ברשתות האלה, אנחנו מיישמים גישה עיקרית בשם שיבוש רשת אסטרטגי (SND). גישת SND מאפשרת לנו להסיר בבת אחת רשתות שהקימו גורמי DOI שכבר הושעו בעבר, במועד הסימון המקורי שלהם או כחלק מפעילות מתמשכת להרחקת הקבוצות המסומנות מהפלטפורמות שלנו. השבתה גורפת של התארגנויות כאלה מקשה עליהן לחזור לפלטפורמה. היא גם שולחת מסר ברור שאנחנו מודעים לנוכחות שלהן ושהקבוצות האלה לא רצויות בפלטפורמות שלנו. לסיום, הטכניקה הזאת מאפשרת לנו לחקור איך גורמי DOI עלולים לנסות לעקוף את הזיהוי שלנו, וגם איך הם ינסו לחזור לאפליקציות שלנו אחרי שאנחנו מסירים את החשבונות שלהם.
מאמצי מניעה
ב-Meta, אנחנו מחויבים לשמור על בטיחות ויושרה בפלטפורמות שלנו. אחת מהדרכים להשיג זאת היא מניעה בשלב מוקדם, שכוללת נקיטת צעדים יזומים כדי למנוע התפשטות של DOI, לפני שהם מצליחים להתבסס בקרב אנשים או קהילות. זה כולל שימוש בהתערבות ממוקדת וקידום שיח חיובי. אנחנו מאמינים שדיאלוג בונה הוא דבר חיוני ושואפים ליצור סביבה שמעודדת חילופי דברים חיוביים.
כדי להוסיף ולחזק את מאמצינו, אנחנו יוזמים שיתופי פעולה עם ארגוני חברה אזרחית (CSO) שמוקדשים למאבק בקיצוניות, בביטויי שנאה מאורגנים ובפעילויות פליליות. כדי לתמוך בארגונים האלה, אנחנו בונים את היכולות שלהם ומספקים להם משאבים נדרשים ליצירת תוכן של דיבור נגדי. התוכן הזה מעמיד למבחן נרטיבים קיצוניים ומציע נקודות מבט חלופיות, במטרה לקדם סביבה מקוונת חיובית ומכלילה יותר.
הגישה שלנו למאבק בקיצוניות היא רב-תחומית ויוזמת, כולל שילוב של מניעה, שיתוף פעולה וקידום שיח חיובי.
  • Resiliency Initiative היא תוכנית שמכשירה ארגוני חברה אזרחית באסיה, באפריקה ובארה"ב בנושא אסטרטגיות של קמפיינים למניעת קיצוניות אלימה ומאבק בה (P/CVE) ובניית יכולות של קמפיינים אפקטיביים לקידום דיבור נגדי. כחלק מ-Resiliency Initiative, ‏Meta השיקה בארה"ב שותפות עם Search for Common Ground ‏(SFCG) לתמיכה בשותפים קהילתיים שפועלים ברמה המקומית נגד אלימות שניזונה משנאה ובונים עמידות חברתית וקהילתית.
  • חיפושים בטוחים יותר: במקרים המתאימים, אנחנו גם מכוונים אנשים למקורות מידע לחיפוש מונחים שמקושרים לארגונים ולאנשים מסוכנים. כשמשתמשים מחפשים מונחי DOI בפייסבוק, באינסטגרם וב-Threads, הם מקבלים במקום זאת מקורות מידע שנועדו להרתיע חיפושים של תוכן DOI ולספק משאבי למידה למשתמשים.
    אנחנו גם מפעילים תוכנית חיפוש במספר מדינות, כולל אוסטרליה, ארצות הברית, בריטניה, גרמניה, הודו, אינדונזיה ופקיסטן. אם מישהו מחפש מונחים ספציפיים לשוק מסוים שלרוב קשורים לנזקי DOI מסוימים, אנחנו מציעים לו מידע ומקורות נוספים בשיתוף עם ארגון CSO מקומי שמתמחה בהצעת שירותי תמיכה למשתמשים בסכנת התדרדרות לקיצוניות.
  • הפניית משאבים לארגונים קהילתיים: אנחנו גם מפעילים תוכנית למודעות בטוחות שנועדה לתמוך בשותפי CSO שפועלים באופן יזום למניעת פגיעות, כשאנחנו מעניקים להם קרדיטים לפרסום ותמיכה אסטרטגית בהפעלת תוכניות של דיבור נגדי. העבודה המשותפת עם הארגונים האלה נועדה לחזק את השותפויות שלנו כחלק מהמאבק ב-DOI.
זו עבודה בלתי פוסקת ואנחנו יודעים שכל עוד ארגונים ואנשים מסוכנים קיימים בעולם, הם יהיו קיימים באינטרנט, לכן אנחנו שומרים על ערנות. הקבוצות האלה משתמשות בטקטיקות חדשות כדי לחמוק מזיהוי או כדי לעקוף את המדיניות והאכיפה שלנו. התנהגות עוינת שכזאת היא הסיבה שאנחנו ממשיכים לעבוד כדי להקדים אותם תוך כדי הערכה ועדכון של הגישה שלנו.