Как работают команды проверки контента?
ОБНОВЛЕНО 12 ноя 2024 г.
Компанию Meta часто спрашивают, как устроен наш процесс проверки контента, как мы обеспечиваем соблюдение наших правил и применяют ли их во всем мире наши команды проверки контента. Вот чем занимаются наши команды проверки контента и как они используют наши технологии проверки для выполнения своих задач.
Проверка контента: когда мы используем технологии, а когда — проверку вручную
При обнаружении нарушений Норм сообщества Meta задействует системы обеспечения соблюдения правил в отношении контента. Например, мы используем искусственный интеллект и инструменты на базе машинного обучения, чтобы выявлять и удалять большие объемы контента, нарушающего правила (часто ещё до того, как его кто-нибудь увидит).
Если же наша система что-то упустила или нуждается в дополнительных данных, мы задействуем тысячи проверяющих со всего мира, которые обеспечивают соблюдение Норм сообщества.
Потенциальные нарушения передаются командам проверки контента, а каждому проверяющему назначается очередь публикаций для отдельной оценки. В случаях, когда наша система не обнаружила нарушение, бывает достаточно просто взглянуть на публикацию, чтобы определить, противоречит ли она нашим правилам (например, содержит ли изображение обнаженного тела взрослого человека).
Однако в некоторых ситуациях очень важен контекст. Например, наша система может быть не уверена, является ли целью публикации травля другого человека. При работе с этой частью правил часто требуется дополнительный контекст и понимание нюансов, поскольку они отражают характер личных отношений. В таком случае мы отправляем публикацию командам проверки контента, где ее оценят специалисты по соответствующим тематике и языку. При необходимости они также могут передать заявку профильным специалистам из команды по обеспечению безопасности контента или соблюдения правил в отношении контента.
По мере необходимости мы также предоставляем проверяющим дополнительную информацию из материалов с жалобами. Например, слова, которые традиционно считаются расистскими оскорблениями, в устах одного человека могут быть враждебными, а для другого человека в другом контексте — средством самоутверждения. В некоторых случаях мы предоставляем проверяющим дополнительный контекст в отношении таких слов, чтобы помочь им применять наши правила и принимать решения о том, оставить такую публикацию или удалить ее.