Як технології допомагають визначити пріоритетність перевірки

ОНОВЛЕНО 19 січ. 2022 р.
Незалежно від того, чи на контент, що потенційно порушує правила, поскаржилися люди або його виявили технології Meta, автоматизація допомагає нам швидко спрямовувати контент рецензентам — людям, які мають необхідні знання у відповідній галузі й мові.
Потім ми використовуємо технології для ранжування контенту й надання йому пріоритету, щоб наші команди перевірки насамперед могли зосередитися на найважливіших випадках. Сюди входить контент, який може завдати шкоди в реальному світі, наприклад публікації, пов’язані з тероризмом і самогубством, а також вірусний контент, який порушує наші правила й може охопити велику аудиторію.
Щоб команди, які проводять перевірки, приділяли більше часу на прийняття потрібних рішень, ми постійно вдосконалюємо наші технології та процеси.
Як компанія Meta визначає пріоритет контенту для перевірки
Чому команди перевірки є важливими для забезпечення дотримання правил щодо контенту
Щоб зменшити шкоду в нашій спільноті, наші технології та команди перевірки людиною завжди працюють разом. Нижче наведено кілька способів, за допомогою яких рецензенти в тандемі з технологіями допомагають укріпити всю нашу систему забезпечення дотримання правил щодо контенту.
Навчання наших технологій
Коли рецензенти приймають рішення щодо певного контенту, вони одночасно навчають і вдосконалюють наші технології, щоб із часом вони могли ідентифікувати інші подібні матеріали. Цей цикл зворотного зв’язку між людиною та технологіями є життєво важливим для підтримки актуальності наших систем.
Під час перевірки вмісту, що порушує правила, команди перевірки вручну позначають політику, якою вони керуються у своєму рішенні, тобто вони позначають політику, яку порушують контент, обліковий запис або певні дії. Ці важливі дані маркування допомагають нам покращити якість наших алгоритмів штучного інтелекту, які на випередження шукають шкідливий контент.
Наші технології особливо ефективні у двох сферах: виявленні повторних порушень та ідентифікації зображення сцен насильства або екстремального контенту. Але коли існує високий рівень неоднозначності, складності або нюансів щодо того, чи застосовуються наші політики до певного контенту, рецензенти зазвичай приймають кращі рішення, ніж технології.