איך אנחנו מעריכים סיכונים גלובליים ומתכוננים אליהם
מעודכן 29 באפר' 2024
Meta מעריכה באופן שוטף את הסיכונים לפגיעה מיידית במהלך אירועים קריטיים, כדי שנוכל להגיב באמצעות פעולות ממוקדות ומוגבלות בזמן במסגרת המדיניות והמוצרים על מנת לשמור על בטיחותם של אנשים. גישה זו כוללת בדיקה של סיכונים פוטנציאליים לפני ובמהלך אירועים מקומיים, אזוריים וארציים, כולל בחירות.
בתגובה לאירועים בסיכון גבוה, ל-Meta יש כמה גישות אפשריות לטיפול במגוון תרחישים, ביניהן, שינוי או הגבלה של תכונות מוצר, קביעת מגבלות על שיעורי הודעות והגבלת תפוצה של תוכן.
כדי לזהות מגמות שעלולות להיות מזיקות, אנחנו אוספים מידע מדיווחים ציבוריים, בודקים המלצות משותפים מהימנים, מבצעים תצפיות שוטפות על מגמות תוכן, עורכים בדיקות נאותות בנושא זכויות אדם ובוחנים הערכות של צוותי הבינה שלנו. מידע זה, יחד עם כללי הקהילה ומערכות האכיפה הקיימים, עוזר לנו להחליט על פעולות הריסון שאנחנו עשויים לנקוט במסגרת המוצרים והמדיניות על מנת למנוע שימוש לרעה במהלך משברים, כולל בחירות בסיכון גבוה. זה כולל את פרוטוקול המדיניות לגבי משברים (CPP), שעוזר לנו לבחון דרכים לטיפול בסיכוני תוכן ולהחליט על דרכי הפעולה הנדרשות לכל מצב, כדי לערוך התאמות במערכות שלנו בתגובה לסיכון מוגבר.
פעולת ריסון חשובה שאנחנו עשויים לנקוט היא הגדרת מקומות כמיקומים בסיכון גבוה זמני (THRL). זהו כלי מדיניות המשמש לטיפול בסוגים ספציפיים של תוכן שעלול להיות אלים במיקומים שהוגדרו כבעלי סיכון גבוה עקב אירועים בעולם האמיתי. בנוסף לכלי המדיניות ולמסגרות שלנו לנקיטת פעולות ריסון בזמן משבר, Meta מסתמכת גם על מרכזים ליושרה בתפעול מוצרים (IPOC). זהו אמצעי שמאגד יחד צוותים, מומחים ויכולות שונים מכל חלקי החברה בהתאם לצורך, ולפעמים גם כהכנה מראש לקראת מצב ספציפי, כדי להגיב בזמן אמת לבעיות או למגמות פוטנציאליות.
בתקופת בחירות, מרכז IPOC ינטר מספר מקורות, כולל כלי ניתוח נתונים, משוב משותפים מהימנים ומדיה מסורתית. אנחנו גם עוקבים אחר מגמות בדיווחי משתמשים ובתוכן שסומן על ידי מנגנוני הסיווג שלנו.
אף על פי שמדובר בתהליכים נפרדים, תהליך ההגדרה של מיקומי THRL ותהליך בחינת ההחלטות במסגרת ה-CPP מתבססים בחלקם על אותם אותות המצביעים על סיכון מוגבר לאלימות או לפגיעה ממשית. אנחנו עשויים לשקול להגדיר מקום מסוים כמיקום THRL בזמן משבר, אך הדבר אינו תלוי או מותנה בהחלטה במסגרת ה-CPP.
הצוותים שלנו מנטרים את הפלטפורמות שלנו באופן שוטף כדי להעריך את סביבת הסיכונים המתפתחת, ולעזור לקבוע אילו התאמות נדרשות בתגובה לעליות חדות או לשינויים באותות שאנחנו עוקבים אחריהם. עיינו כאן כדי לקבל מידע נוסף על הדרכים שבהן אנחנו עורכים התאמות במערכות שלנו בתגובה לסיכון מוגבר.