Как Meta оценивает глобальные риски и готовится к ним?
ОБНОВЛЕНО 29 апр 2024 г.
В периоды кризиса Meta постоянно анализирует риски возможных последствий, чтобы принимать точечные и временные меры по защите людей. В рамках этого подхода мы анализируем потенциальные риски до и во время местных, региональных и национальных мероприятий, в том числе выборов.
Для реагирования на мероприятия с высоким риском Meta применяет различные подходы в зависимости от сценария, в том числе изменение или ограничение функций продукта, ограничение числа обращений при обмене сообщениями и распространения контента.
Мы выявляем потенциально опасные тенденции. Для этого мы собираем информацию из общедоступных отчетов, просматриваем рекомендации от доверенных партнеров, ведем постоянное наблюдение за тенденциями в контенте, проводим комплексную проверку в области прав человека и изучаем оценки наших специалистов по аналитике. Эта информация, вместе с нашими Нормами сообщества и системами обеспечения соблюдения правил в отношении контента, служит основой для выбора мер на уровне продуктов и политик. Эти меры мы можем использовать для предотвращения нарушений в периоды кризиса, в том числе во время выборов, представляющих высокий риск. Протокол кризисной политики помогает нам оценивать способы устранения рисков, связанных с контентом, а также определять отдельные меры для адаптации наших систем в условиях повышенного риска.
Важной мерой по снижению рисков может быть присвоение определенным местам статуса временной зоны повышенного риска. Это политический инструмент, который используется для борьбы с определенными типами потенциально тяжелого для восприятия контента в местах, признанных зонами повышенного риска из-за реальных событий. В дополнение к нашим инструментам и принципам политики для снижения рисков, Meta также использует Операционные центры обеспечения целостности продукта (IPOC). Эти центры объединяют команды, профильных экспертов и ресурсы со всей компании для реагирования в реальном времени на потенциальные проблемы, действуя по ситуации или заблаговременно.
Во время проведения выборов Операционный центр обеспечения целостности продукта отслеживает различные источники, в том числе инструменты для анализа данных, сведения от доверенных партнеров и традиционные медиа. Мы также отслеживаем тенденции в жалобах пользователей и в контенте, отмеченном нашими классификаторами.
Процессы присвоения статуса временной зоны повышенного риска и рассмотрения в рамках Протокола кризисной политики — это разные процедуры, однако они используют некоторые общие сигналы, указывающие на повышенный риск насилия или вреда в реальной жизни. Хотя мы и можем рассмотреть вопрос о присвоении статуса временной зоны повышенного риска во время кризиса, это решение не зависит от решений, принимаемых в рамках Протокола кризисной политики.
Наши команды постоянно отслеживают платформы, чтобы оценивать риски. Это помогает определять, какие корректировки необходимы в ответ на всплески или изменения в отслеживаемых нами сигналах. Узнать о том, как мы адаптируем наши системы в ответ на повышенные риски, можно здесь.