Как технологии помогают определить приоритетность проверки?

ОБНОВЛЕНО 19 янв 2022 г.
Нарушающий правила контент, обнаруженный с помощью технологий Meta или на основе жалоб пользователей, сразу же автоматически передается специалистам по проверке, которые хорошо знакомы с его тематикой и владеют соответствующим языком.
Затем мы используем технологии для ранжирования и определения приоритетности контента, чтобы команды проверки могли сосредоточиться на самых важных случаях. Это касается материалов, которые могут нанести реальный вред (например, публикаций, связанных с терроризмом и самоубийствами), и вирусного контента, который нарушает наши правила и может охватить широкую аудиторию.
Чтобы у команд проверки контента было больше времени на принятие правильных решений, мы постоянно совершенствуем свои технологии и процессы.
Как Meta определяет приоритетность контента для проверки?
Почему команды проверки контента важны для обеспечения соблюдения правил в отношении контента?
Чтобы уменьшить вред сообществу, наши технологии и команды проверки контента всегда работают вместе. Ниже приведены лишь некоторые из способов, которыми специалисты по проверке, используя автоматические инструменты, помогают усилить нашу систему, обеспечивающую соблюдение правил в отношении контента.
Обучение технологий
Своими решениями специалисты по проверке обучают и совершенствуют наши технологии, помогая им обнаруживать подобный контент. Этот цикл обратной связи помогает поддерживать актуальность наших систем.
При рассмотрении нарушений команды проверки вручную отмечают правила, на которых основаны их решения в отношении контента, аккаунта или действия. Эта важная информация помогает нам повышать качество алгоритмов искусственного интеллекта, которые превентивно обнаруживают вредный контент.
Помимо прочего, наши технологии хорошо справляются с 2 задачами: обнаруживают неоднократные нарушения и выявляют явные случаи тяжелого для восприятия или иного недопустимого контента. Однако в ситуациях, когда сложно наверняка оценить, применяется ли правило к конкретному случаю, специалисты по проверке справляются лучше.