Cómo creamos y usamos listas de insultos específicas para cada mercado
ÚLTIMA ACTUALIZACIÓN 12 AGO. 2022
Cómo desarrollamos listas de insultos específicas para cada mercado
Nuestras Normas comunitarias definen un insulto como una palabra que es inherentemente ofensiva y utilizada para insultar una característica protegida. Varios equipos, incluidos los equipos de políticas, mercados y participación de partes interesadas, participan en la designación de un insulto. Para crear estas listas, nuestros equipos regionales llevan a cabo un análisis cuantitativo y cualitativo continuo sobre el idioma y la cultura de su región o comunidad (que llamamos "mercado"). Esto abarca revisar de qué manera se usa una palabra a nivel local y coloquial, la prevalencia de la palabra en nuestras plataformas y el significado asociado con ella cuando se utiliza. Pueden utilizar conocimiento cultural basado en artículos periodísticos, estudios académicos y otra investigación lingüística. Nuestros equipos regionales reciben la asistencia de otros expertos con respecto a nuestras políticas y procesos operativos. Se proporciona contexto cultural (artículos periodísticos, artículos académicos, etc.) y se deben recopilar y evaluar, por lo menos, 50 contenidos que incluyan el término en cuestión. Cuando se completa el análisis, los equipos de políticas revisan todo lo suministrado por los mercados locales, para que el contenido se evalúe en función de la política relevante de Meta. Los equipos de mercados son responsables de garantizar que las listas de insultos pertinentes sean exhaustivas y estén actualizadas en la mayor medida posible.
También analizamos la manera en que se utilizan ciertas palabras en nuestras plataformas para determinar en qué medida reúnen la definición de insulto. Por ejemplo, el uso de palabras en nuestras plataformas puede evidenciar algunos insultos que incluyen variaciones no identificadas previamente o términos relacionados que se deben considerar. Analizaremos el uso de insultos en nuestras plataformas para identificar estos casos. Además, las listas de insultos y las políticas relacionadas incluyen pautas sobre las circunstancias en las que un insulto dado se puede utilizar de un modo permitido, como cuando se usa de modo autorreferencial claro, se usa con un significado alternativo, se analiza el uso de insultos, se reporta el insulto, se condena el uso del insulto o se usa de un modo positivo explícitamente.
Cómo aplicamos listas de insultos específicas para cada mercado
Un idioma puede ser común a varias naciones y culturas, pero los insultos suelen ser específicos de una región o comunidad (que llamamos "mercado"). Por este motivo, usamos listas de insultos que son específicas de los mercados, no solo de los idiomas. En todas las áreas de infracciones, contamos con revisores que se ocupan de varias regiones en varios idiomas (para abarcar todos los dialectos en la mayor medida posible). A estos revisores se les asignan colas de contenido según su conocimiento del idioma y sus competencias respecto del tipo de infracción, para que tengan un criterio informado sobre qué listas de insultos serán más relevantes para sus respectivas colas. A fin de determinar qué revisor es adecuado para moderar un contenido, se tiene en cuenta tanto el idioma como la región, pero, en general, el idioma tiene preponderancia en esa compleja asignación. Por ejemplo, las colas del mercado del Cono Sur abarcarán contenido que proviene de Chile, Uruguay, Argentina y Paraguay, y cuyo idioma principal sea el español. El algoritmo de colas de cada mercado también tiene una condición que "captura todo". Esta condición permite que todos los trabajos en un idioma que no está asignado a los países que cubre el mercado caigan automáticamente en los mercados más relevantes para ese idioma. Por ejemplo, los trabajos en idioma francés que se originan geográficamente en el mercado del Cono Sur (Argentina, por ejemplo) caerían en las colas de revisión de los mercados de idioma francés, y viceversa. Cuando aparece un insulto en un idioma que es diferente al resto de un contenido, nuestra tecnología de revisión a escala lo destaca como contenido que aparece en una lista de insultos de un mercado diferente, para que se marque a escala y en todas las colas del mercado como lenguaje potencialmente infractor.
Los algoritmos de colas tienen en cuenta tanto el idioma como el país, porque los insultos pueden tener advertencias (o usos alternativos positivos) relacionadas con lo que está ocurriendo en el mundo en ese momento y contexto del mercado. El contexto del mercado es importante para los revisores a la hora de determinar si una palabra aparece en un caso de uso permitido o no. En caso de falta de contexto y ante la ausencia de cualquier otro caso de uso permisible, tendemos a considerar que se comete una infracción al usar el contenido.
Cómo evaluamos y actualizamos listas de insultos específicas para cada mercado
Realizamos una auditoría anual de nuestras listas de insultos. Esto lo realizan los equipos operativos en colaboración con los equipos de mercados regionales, que en conjunto revisan los insultos y llegan a una conclusión sobre si el término mantiene la cualidad de ofensivo que hizo que se agregara en la lista en primer lugar. Además, fomentamos que los equipos regionales, incluidos los socios de revisión a escala, supervisen constantemente el desarrollo lingüístico de su mercado y, en función de esto, propongan insultos nuevos para agregar a la lista de su mercado o sugieran la revisión de palabras que están en la lista. Por último, pedimos a las organizaciones de la sociedad civil y no gubernamentales con las que colaboramos que nos indiquen qué palabras deben considerarse insultos.