Cómo creamos y usamos listas de insultos específicas para cada mercado

ÚLTIMA ACTUALIZACIÓN 12 AGO. 2022
Cómo desarrollamos listas de insultos específicas para cada mercado
Nuestras Normas comunitarias definen los insultos como palabras que son intrínsecamente ofensivas y se usan para atacar una característica protegida. En la designación de un insulto intervienen distintos equipos, como los que tienen que ver con las partes interesadas, los mercados y las políticas. Para crear estas listas, nuestros equipos regionales llevan a cabo análisis cualitativos y cuantitativos continuos del idioma y la cultura de su región o comunidad (lo que denominamos “mercado”). Este proceso abarca la revisión del uso local y coloquial de una palabra, su prevalencia en nuestras plataformas y el significado que se le asocia al utilizarla. Dichos equipos pueden recurrir a conocimientos culturales basados en artículos periodísticos, estudios académicos y otras investigaciones lingüísticas. Nuestros equipos regionales cuentan con la ayuda de otros expertos en nuestros procedimientos operativos y políticas. Se proporciona contexto cultural (artículos periodísticos, académicos, etc.) y es necesario recopilar y evaluar al menos 50 contenidos distintos que incluyan un término concreto. Una vez finalizado el análisis, los equipos de políticas revisan todos los elementos facilitados por los mercados locales, de modo que el contenido se evalúe conforme a la política de Meta pertinente. Los equipos de mercados tienen la responsabilidad de garantizar que sus listas de insultos resulten tan pertinentes y estén tan actualizadas como sea posible.
Por otra parte, analizamos el uso de determinadas palabras en nuestras plataformas para determinar en qué medida se ajustan a nuestra definición de insulto. Por ejemplo, el uso de palabras en ellas podría revelar algunos insultos que incluyen variaciones o términos relacionados sin identificar y que se deberían tener en cuenta. Analizaremos el uso de insultos en nuestras plataformas para identificar estos casos. Asimismo, en las listas de insultos y las políticas sobre estos se indica que, en ciertas circunstancias, se puede permitir el uso de insultos determinados (p. ej., cuando se usan claramente en primera persona, se emplean con un significado alternativo, se debate o condena su uso, se denuncian o se utilizan de forma explícitamente positiva).
Cómo aplicamos listas de insultos específicas para cada mercado
Distintas naciones y culturas pueden compartir un mismo idioma, pero los insultos suelen ser específicos de una región o comunidad (lo que denominamos “mercado”). Por este motivo, usamos listas de insultos que son específicas para mercados y no tan solo para idiomas. Contamos con revisores a cargo de varios idiomas y regiones en todos los ámbitos de infracción, para cubrir todos los dialectos en la medida de lo posible. Estos revisores se asignan a las listas en función de su dominio del idioma y sus aptitudes con respecto a distintos tipos de infracciones, de modo que posean conocimientos fundamentados sobre qué listas de insultos serán más pertinentes para sus respectivas listas de contenido. Nuestro proceso de moderación de contenidos incluye el idioma y la región para determinar los revisores de contenido adecuados, pero, en general, el idioma tiene una mayor importancia en ese proceso tan complejo. Por ejemplo, las listas del mercado del Cono Sur incluyen contenido procedente de Chile, Uruguay, Argentina y Paraguay y cuyo idioma principal es el español. Además, cada algoritmo de inclusión en la lista de los mercados tiene una condición conocida como “cajón de sastre”, que permite que todas las tareas en un idioma que no esté asignado a los países que cubra ese mercado se incluyan automáticamente en los mercados más pertinentes para el idioma. Por ejemplo, las tareas en francés con origen geográfico en el mercado del Cono Sur (Argentina, por ejemplo) se incluirían en las listas de revisión de mercados franceses y viceversa. Cuando aparece un insulto en un idioma que es distinto del resto del contenido, nuestra tecnología de revisión a gran escala lo destaca como si apareciera en la lista de insultos de otro mercado, por lo que se marca a gran escala y en todas las listas de mercados como lenguaje que podría infringir las normas.
En los algoritmos de inclusión en la lista se tienen en cuenta tanto el idioma como el país, porque los insultos pueden conllevar salvedades (o casos de uso alternativos y benignos) relacionadas con los sucesos mundiales del momento y el contexto de cada mercado. Este último factor es importante para que los revisores puedan determinar si resulta permisible usar una palabra específica. Si no tenemos el contexto suficiente y no se da cualquier otro caso de uso permisible, consideraremos que el contenido infringe las normas.
Cómo inspeccionamos y actualizamos listas de insultos específicas para cada mercado
Llevamos a cabo una auditoría anual de nuestras listas de insultos. Esta tarea recae en nuestros equipos de operaciones y los equipos de mercados regionales, quienes colaboran para revisar los insultos y determinar si la palabra conserva el carácter ofensivo que provocó su inclusión inicial en la lista. También animamos a nuestros equipos regionales, incluidos los partners de revisión a gran escala, a supervisar constantemente el desarrollo lingüístico de su mercado y, en función de este, proponer que nuevos insultos deban añadirse a su lista del mercado o que se revisen palabras existentes en ella. Finalmente, pedimos a la sociedad civil y a las organizaciones gubernamentales con las que colaboramos que nos hagan saber qué palabras deberían considerarse insultos.