Як ми оцінюємо і готуємося до глобальних ризиків
ОНОВЛЕНО 29 квіт. 2024 р.
Meta постійно оцінює ризики неминучої шкоди внаслідок критичних подій, щоб ми могли реагувати за допомогою цілеспрямованих, обмежених у часі дій щодо політик і продуктів, які допоможуть забезпечити безпеку людей. Цей спосіб передбачає аналіз потенційних ризиків до і під час місцевих, регіональних та національних подій, зокрема виборів.
У відповідь на події з високим ризиком Meta може застосовувати кілька підходів, щоб вирішувати різні сценаріїв, наприклад, зміна або обмеження функцій продуктів, введення обмежень на швидкість обміну повідомленнями, обмеження поширення контенту тощо.
Ми ідентифікуємо потенційно небезпечні тренди, збираючи інформацію з публічних звітів, перевіряючи рекомендації наших довірених партнерів, постійно спостерігаючи за трендами контенту, належною ретельністю у питаннях прав людини і вивчаючи оцінки наших аналітичних команд. Ця інформація, як і поточні Стандарти спільноти і системи забезпечення дотримання правил, допомагає визначити тип продукту і заходи політики, які ми можемо використовувати для запобігання неправомірному використанню під час криз, зокрема ризикованих виборів. Сюди належить наш Протокол політики в кризових ситуаціях (CPP), що допомагає нам оцінити способи усунення ризиків, пов’язаних із контентом, та окремі заходи, які ми можемо вжити, щоб адаптувати наші системи у відповідь на підвищений ризик.
Важливим і потенційним заходом може бути позначення місць як тимчасових зон підвищеного ризику (THRL) — політичний інструмент, що використовується для боротьби з певними типами потенційно насильницького контенту в місцях, які були визначені як зони підвищеного ризику у зв’язку з реальними подіями. Разом з інструментами і механізмами нашої політики для пом’якшення кризових ситуацій, Meta також використовує Центри управління цілісністю продукту (IPOC) — систему, що об’єднує різні команди, експертів у цій галузі і фахівців з усієї компанії в міру потреби, а іноді й заздалегідь, щоб реагувати на потенційні проблеми чи тренди в режимі реального часу.
Під час виборів IPOC контролюватиме різні джерела, зокрема інструменти аналізу даних, інформацію від довірених партнерів і традиційних ЗМІ. Ми також контролюємо тренди у скаргах користувачів і контенті, що позначені нашими класифікаторами.
Незважаючи на те, що це окремі процеси, процес визначення THRL і процес перевірки визначення CPP використовують деякі з тих самих сигналів підвищеного ризику насильства або шкоди в реальному світі. Хоча ми можемо розглянути питання щодо визначення THRL під час кризи, це не залежить від визначення CPP.
Наші команди постійно контролюють наші платформи, щоб оцінити мінливе середовище ризиків і допомогти визначити будь-які зміни у відповідь на різкі стрибки або зміни сигналів, які ми відстежуємо. Перегляньте тут, щоб отримати додаткову інформацію про способи адаптації наших систем до підвищених ризиків.