Cómo la tecnología permite priorizar la revisión

ÚLTIMA ACTUALIZACIÓN 19 ENE. 2022
Cuando las personas denuncian contenido potencialmente infractor o la tecnología de Meta lo detecta, la automatización nos permite remitirlo de inmediato a revisores con los conocimientos adecuados sobre el tema y el idioma.
Después, aplicamos la tecnología para clasificar y priorizar contenido, de forma que los equipos de revisión puedan centrarse primero en los casos más importantes. Esto incluye contenido que es posible que ocasione daños en el mundo real, como publicaciones relacionadas con terrorismo y suicidios, y contenido viral que infringe nuestras políticas y tiene potencial de llegar a una audiencia amplia.
Para garantizar que los equipos de revisión se centren más en tomar las decisiones correctas, siempre aplicamos mejoras a nuestra tecnología y nuestros procesos.
Cómo prioriza Meta el contenido que revisa
Por qué los equipos de revisión son importantes para la aplicación de normas de contenido
Para reducir el daño en nuestra comunidad, nuestra tecnología y los equipos de revisión manual cooperan en todo momento. A continuación te mostramos algunas formas en que los revisores, junto con la tecnología, ayudan a fortalecer todo nuestro sistema de cumplimiento de normas de contenido.
Perfeccionar nuestra tecnología
Cuando los revisores toman una decisión respecto a un elemento de contenido, simultáneamente están entrenando y perfeccionando nuestra tecnología para que identifique otros elementos de contenido similares con el tiempo. Este bucle de intercambio entre la tecnología y las personas es indispensable para mantener actualizados nuestros sistemas.
Al revisar contenido infractor, los equipos de revisión etiquetan manualmente la política que rige su decisión, lo que significa que marcan la política que el contenido, la cuenta o el comportamiento infringe. Estos datos de etiquetado importantes nos permiten mejorar la calidad de nuestros algoritmos de inteligencia artificial, que buscan contenido dañino de forma proactiva.
Nuestra tecnología tiene un desempeño eficaz en dos áreas en particular: detección de infracciones reiteradas e identificación de contenido gráfico o extremo evidente. Sin embargo, cuando hay cierto nivel de ambigüedad, complejidad o matices en cuanto a si nuestras políticas se aplican a un elemento de contenido, los revisores suelen tomar mejores decisiones que la tecnología.