Як ми створюємо та використовуємо списки образливих слів для конкретних ринків
ОНОВЛЕНО 12 серп. 2022 р.
Як ми розробляємо списки образливих слів для конкретних ринків
Наші стандарти спільноти визначають образу як слово, яке є образливим за своєю суттю й спрямоване проти характеристики з особливим захистом. У позначення слів як образливих беруть участь кілька команд, зокрема команди, що займаються політикою, ринками та взаємодією із зацікавленими сторонами. Для створення цих списків наші регіональні команди проводять постійний якісний і кількісний аналіз мови й культури свого регіону або спільноти (що ми називаємо ринком). Це передбачає аналіз того, як слово використовується на місцевому рівні й у розмовній мові, поширеність слова на наших платформах і значення, яке асоціюється з ним під час використання. Вони можуть використовувати культурні знання, засновані на новинах, наукових дослідженнях та інших лінгвістичних дослідженнях. Наші регіональні команди отримують допомогу від інших експертів із питань наших політик і операційних процесів. , Їм необхідно зібрати й оцінити щонайменше 50 фрагментів контенту, що містять цей термін, у наданому культурному контексті (статтях новин, наукових статтях тощо). Після завершення аналізу команди з питань дотримання політик перевіряють усю інформацію, надану місцевими ринками, щоб оцінити її на відповідність певній політиці Meta. Команди, що працюють із ринками, відповідають за те, щоб їхні відповідні списки образливих слів були якомога більш вичерпними й актуальними.
Ми також аналізуємо способи використання певних слів на наших платформах, щоб визначити, наскільки вони відповідають нашому визначенню образи. Наприклад, аналіз використання слів на наших платформах може вказати на деякі образи, що включають раніше не ідентифіковані варіанти або пов’язані терміни, які потрібно враховувати. Ми проаналізуємо використання образливих слів на наших платформах, щоб виявити такі випадки. Крім того, списки образливих слів і відповідні політики містять вказівки щодо обставин, за яких певне образливе слово може бути використане в допустимий спосіб, наприклад коли воно використовується чітко стосовно самого себе, коли використовується в альтернативному значенні, під час обговорення використання образливих слів, під час скарги на образливе слово, під час засудження використання образливого слова або коли образливе слово використовується у явно позитивному значенні.
Як ми застосовуємо списки образливих слів для конкретних ринків
Мова може бути спільною для різних країн і культур, але образливі слова часто є специфічними для певного регіону або спільноти (яку ми називаємо ринком). Ось чому ми використовуємо списки образливих слів, які є специфічними для ринків, а не лише для мов. Щодо всіх питань порушень у нас є рецензенти, які охоплюють кілька регіонів і кілька мов (щоб охопити якомога більше діалектів). Ці рецензенти розподіляються за чергами на основі мовних знань і навичок щодо типів порушень, тому вони мають чітке уявлення про те, які списки образливих слів будуть найбільш актуальними для їхніх відповідних черг контенту. Наша система модерації контенту враховує як мову, так і регіон, щоб визначити відповідного рецензента (рецензентів) для контенту, але зазвичай мова відіграє більшу роль у цій складній системі. Наприклад, черги ринку Південного конусу включатимуть контент, що походить із Чилі, Уругваю, Аргентини й Парагваю та для якого основною мовою є іспанська. Кожен алгоритм черги на ринку також має умову, яка називається «уловлювання всього». Ця умова дає змогу всім завданням певною мовою, що не прив’язана до країн відповідного ринку, автоматично потрапляти до ринків, найбільш відповідних для цієї мови. Наприклад, завдання французькою мовою, які географічно походять із ринку Південного конусу (наприклад, Аргентини), потраплятимуть у черги на перевірку для французьких ринків і навпаки. Якщо мова образливого слова відрізняється від мови решти контенту, наша технологія масштабної перевірки виділяє його як таке, що є в списку образливих слів іншого ринку, щоб воно було позначене в масштабі й у всіх чергах ринку як висловлювання, що порушує правила.
Алгоритми черги враховують як мову, так і країну, оскільки для образливих слів можуть бути застереження (або бути альтернативні випадки їх використання з доброзичливим значенням), пов’язані із ситуацією у світі на певний момент і ринковим контекстом. Ринковий контекст важливий для рецензентів під час визначення того, чи використовується слово в допустимому випадку або ні. Якщо контексту бракує та немає інших допустимих випадків використання, ми схильні вважати такий контент порушенням.
Як ми перевіряємо й оновлюємо списки образливих слів для конкретних ринків
Ми проводимо щорічний аудит наших списків образливих слів. Це роблять наші робочі команди в співпраці з регіональними ринковими командами, які разом аналізують образливі слова та приймають рішення щодо того, чи зберігає слово образливий характер, через який воно спочатку потрапило до списку. Ми також заохочуємо наші регіональні команди, включно з партнерами з масштабної перевірки, постійно стежити за мовним розвитком свого ринку й з огляду на це пропонувати нові образливі слова, які варто додати до списку для їхнього ринку, або пропонувати переглянути наявні в списку слова. Нарешті, ми просимо громадянське суспільство й неурядові організації, з якими ми співпрацюємо, надавати свої пропозиції щодо слів, які потрібно вважати образливими.