Контрольные выборки контента для оценки целостности
ОБНОВЛЕНО 25 авг 2022 г.
Тестирование продуктов и функций обеспечения безопасности — это важная часть усилий по улучшению нашей платформы. Подобное тестирование является стандартной процедурой в технологической и многих других отраслях. Тестирование помогает нам создавать инструменты, пресекающие распространение враждебных высказываний и других типов проблемного контента на нашей платформе.
В ходе тестирования мы создаем контрольную выборку контента, который нарушает Нормы сообщества, но к которому не сразу принимаются меры. Эти контрольные выборки помогают нам понять влияние мер по обеспечению целостности, а также получить контрольные показатели для сравнения результатов в случае принятия и непринятия надлежащих мер.
Контрольные группы контента позволяют собрать важную статистику для принятия мер, однако нашим главным приоритетом остается безопасность сообщества. Именно поэтому мы принимаем меры в отношении контента из таких контрольных групп. Мы делаем это с небольшой задержкой (не более 7 дней), чтобы успевать собирать данные, необходимые для оценки эффективности наших мер. Если контент из контрольной выборки содержит серьезные нарушения (например, изображение эксплуатации детей), мы безотлагательно примем меры в его отношении.
Контрольные выборки контента — это важный инструмент, позволяющий оценить изменения в принимаемых мерах, понять, насколько эффективно принимаемые меры препятствуют распространению контента с нарушениями, и узнать, в каких областях инвестиции в обеспечение целостности дадут максимальные результаты.