Как Meta создает и использует списки оскорблений для конкретных рынков?

ОБНОВЛЕНО 12 авг 2022 г.

Как Meta составляет списки оскорблений для конкретных рынков?

Согласно нашим Нормам сообщества оскорбление — это грубое по своей сути слово, которое используется с целью обидеть человека по характеристике, подлежащей защите от дискриминации. В процедуре выявления оскорблений участвуют разные специалисты, в том числе по правилам, рынкам и сотрудничеству с заинтересованными сторонами. Чтобы создавать такие списки, наши региональные команды регулярно проводят качественный и количественный анализ языка и культуры своего региона или сообщества (которые мы называем "рынками"). В частности, они изучают локальное употребление слова в разговорной речи, его распространение на наших платформах и смысл, который вкладывается в него при использовании. При этом специалисты могут опираться на новостные статьи, научные работы и прочие лингвистические исследования. Региональным командам помогают другие эксперты, специализирующиеся на правилах и рабочих процессах. Им предоставляется культурный контекст (новостные статьи, научные работы и т. д.). При этом они должны собрать и проанализировать не менее 50 единиц контента с рассматриваемым термином. По завершении анализа специалисты по правилам проверяют весь контент на конкретном рынке, чтобы убедиться, что он соответствует применимой политике Meta. Региональные специалисты обязаны следить за тем, чтобы списки оскорблений на их рынках были как можно более полными и актуальными.

Мы также анализируем использование определенных слов на наших платформах, чтобы понять, в какой степени они соответствуют нашему определению оскорбления. Например, анализ использования слов на наших платформах иногда помогает выявить ранее не замеченные разновидности оскорблений или связанные с ними термины, которые также следует учитывать. Мы будем анализировать использование оскорблений на наших платформах, чтобы выявлять подобные случаи. Кроме того, списки оскорблений и правила в отношении оскорблений предусматривают, в каких ситуациях использование того или иного оскорбительного слова допустимо. Пример: оскорбление явно относится к говорящему, употребляется в альтернативном значении, упоминается при обсуждении использования оскорблений, жалобе на оскорбление или для осуждения его употребления либо используется в явно позитивном ключе.

Как Meta внедряет списки оскорблений для конкретных рынков?

Даже если представители разных народов и культур говорят на одном языке, некоторые оскорбления часто характерны для определенных регионов или сообществ (то есть рынков). Поэтому мы составляем отдельные списки оскорблений для каждого рынка, а не только языков. Мы повсеместно привлекаем специалистов по проверке, работающих с несколькими регионами и языками, чтобы охватывать как можно больше диалектов. Мы назначаем этим специалистам очереди контента в зависимости от знания языков и типов нарушений, чтобы они лучше понимали, какие списки оскорблений применять. Задачи по модерации контента распределяются между специалистами по проверке на основе языка и региона, но в этой сложной системе языку чаще отдается приоритет. Например, очереди контента в странах Южного конуса объединяют контент из Чили, Уругвая, Аргентины и Парагвая, где превалирует испанский язык. Алгоритм распределения очередей контента каждого рынка также использует условие полного охвата. Согласно ему все задания на языке, не назначенном странам данного рынка, автоматически передаются наиболее близким ему рынкам. Поэтому задания на французском языке, поступившие с рынка стран Южного конуса (например, из Аргентины), попадут в очереди контента на проверку для франкоязычных рынков, и наоборот. Если в части контента на одном языке будет обнаружено иноязычное оскорбление, наша технология масштабирования проверки отметит, что оно появляется в списке оскорблений другого рынка. В итоге, это оскорбление повсеместно отмечается как потенциальное нарушение в очередях контента для всех рынков.

Алгоритм очередей контента в равной мере учитывает язык и страну, поскольку в вопросах употребления оскорблений возможны оговорки (или смягчающие обстоятельства) в зависимости от текущий мировой обстановки и контекста рынка. Специалисты по проверке должны учитывать этот контекст при вынесении решений в отношении того или иного слова. При отсутствии контекста и любых допустимых обстоятельств использования мы предполагаем, что контент нарушает наши правила.

Как Meta проверяет и обновляет списки оскорблений для конкретных рынков?

Мы ежегодно проводим аудит списков оскорблений. Этим занимаются рабочие группы при поддержке региональных специалистов по рынкам. Вместе они проверяют оскорбления и решают, сохранился ли у них грубый оттенок, из-за которого они изначально были добавлены в список. Региональным специалистам, в том числе разноуровневым партнерам по проверке, рекомендуется непрерывно следить за изменениями языка на своих рынках. На их основе они могут определять новые оскорбления, которые следует добавить в соответствующий список, или предлагать некоторые слова к удалению. Наконец, мы просим представителей гражданского общества и неправительственных организаций, с которыми сотрудничаем, помогать нам выяснять, какие слова следует считать оскорблениями.