Частка попередньо перевіреного контенту
ОНОВЛЕНО 22 лют. 2023 р.
Цей показник відображає частку контенту або облікових записів, які ми виявили й щодо яких ужили заходів до того, як користувачі почали скаржитися на них. Ми використовуємо цей показник як індикатор ефективності виявлення порушень.
Наші інвестиції в розвиток технології машинного навчання мають вирішальне значення для швидшого виявлення.
Ми поєднуємо машинне навчання з експертизою наших фахівців, які перевіряють контент і вживають заходів у разі виявлення порушень правил спільноти.
За деякими категоріями порушень ми завчасно виявляємо контент, що потенційно порушує правила спільноти, тобто переважно знаходимо проблемний контент і вживаємо відповідних заходів до того, як користувачі почнуть скаржитися на нього. Результати значно покращилися після того, як ми впровадили технологію машинного навчання, яка автоматично ідентифікує контент, що потенційно порушує наші стандарти.
Це надзвичайно перспективна технологія, проте знадобляться роки, щоб можна було побачити ефективні результати за всіма категоріями порушень. Зокрема, можливості цієї технології все ще дуже обмежені у розпізнаванні контексту й смислових нюансів, особливо якщо йдеться про текстовий контент. Це додатково ускладнює завчасне виявлення деяких порушень.
Показники можуть зростати й знижуватися залежно від зовнішніх факторів. Прикладом може бути кібератака, під час якої спамери поширюють 10 мільйонів дописів з однією шкідливою URL-адресою. Якщо ми виявимо шкідливу URL-адресу до того, як будь-який користувач поскаржиться на неї, частка попередньо перевіреного контенту збільшиться під час кібератаки й знизиться згодом — навіть якщо наша технологія виявлення не змінювалася протягом цього періоду. Цей показник також може збільшуватись або зменшуватись залежно від того, як змінюються наші процеси та інструменти. Наприклад, він зросте, якщо наша технологія виявлення покращиться, але знизиться, якщо ми вдосконалимо інструмент для надання скарг користувачами й менше покладатимемося на попереднє виявлення.
Оскільки цей показник залежить від обсягу контенту, до якого вжито заходів, до нього багато в чому застосовуються ті самі підходи. Частка попередньо перевіреного контенту не відображає, скільки часу ми витратили, щоб виявити контент, що порушує правила, або скільки разів такий контент переглядали, перш ніж його було виявлено. Крім того, ця частка не відображає, скільки всього порушень нам не вдалося виявити або скільки разів цей контент переглянули. І хоча відсоток попередньо виявленого контенту може бути дуже високим (у деяких категоріях — до 99%), навіть такий невеликий залишковий відсоток може мати сильний вплив на людей.
Розрахунок частки попередньо перевіреного контенту
Ми розраховуємо цей відсоток за допомогою поділу кількості одиниць контенту, які ми виявили й до яких ужили заходів до того, як користувачі Facebook або Instagram почали скаржитися на них, на загальну кількість одиниць контенту, до яких було вжито заходів.
У випадку фальшивих облікових записів Facebook ми розраховуємо цей показник як відсоткову частку вимкнених фальшивих облікових записів, які ми виявили й до яких ужили заходів до того, як користувачі почали скаржитися на них. Ця частка розраховується за допомогою поділу кількості вимкнених облікових записів, які ми виявили й до яких ужили заходів до того, як користувачі почали скаржитися на них, на загальну кількість вимкнених фальшивих облікових записів.
Застереження
Ми обчислюємо частку попередньо перевіреного контенту за допомогою суворого співвіднесення скарг користувачів із контентом. Наприклад, якщо хтось подає скаргу на сторінку, і під час перевірки цієї сторінки ми виявляємо на ній контент, що порушує правила, і вживаємо відповідних заходів, вважається, що ми завчасно вжили заходів до цього контенту (якщо на нього не надходило інших скарг від користувачів).
Переглянути останній Звіт із забезпечення дотримання Стандартів спільноти