Cómo la tecnología permite priorizar la revisión

ÚLTIMA ACTUALIZACIÓN 19 ENE. 2022
Cuando las personas reportan contenido potencialmente infractor o la tecnología de Meta lo detecta, la automatización nos permite derivar de inmediato el contenido a revisores que cuentan con los conocimientos adecuados sobre el tema y el idioma.
Luego, aplicamos la tecnología para clasificar y priorizar contenido, de modo que los equipos de revisión puedan centrarse primero en los casos más importantes. Esto incluye contenido que es posible que ocasione daños en el mundo real, como publicaciones relacionadas con terrorismo y suicidios, y contenido viral que infringe nuestras políticas y tiene potencial de llegar a un público amplio.
Para garantizar que los equipos de revisión se centren más en tomar las decisiones correctas, siempre aplicamos mejoras a nuestra tecnología y nuestros procesos.
Cómo Meta prioriza el contenido que someterá a revisión
Por qué los equipos de revisión son importantes para la aplicación de políticas de contenido
Para reducir el daño en nuestra comunidad, nuestra tecnología y los equipos de revisión manual trabajan en equipo en todo momento. A continuación, te mostramos algunas maneras en que los revisores, en conjunto con la tecnología, ayudan a fortalecer todo nuestro sistema de cumplimiento de normas de contenido.
Perfeccionamos nuestra tecnología
Cuando los revisores toman una decisión respecto de un contenido, simultáneamente están entrenando y perfeccionando nuestra tecnología para que identifique otros contenidos similares con el transcurso del tiempo. Este bucle de intercambio entre la tecnología y las personas es indispensable para mantener actualizados nuestros sistemas.
Al revisar contenido infractor, los equipos de revisión etiquetan manualmente la política que rige su decisión, lo que significa que marcan la política que el contenido, la cuenta o el comportamiento infringe. Estos datos de etiquetado importantes nos permiten mejorar la calidad de nuestros algoritmos de inteligencia artificial, que buscan contenido dañino de forma proactiva.
Nuestra tecnología se desempeña de forma eficaz en dos áreas en particular: detección de infracciones reiteradas e identificación de contenido gráfico o extremo evidente. Sin embargo, cuando hay un alto nivel de ambigüedad, complejidad o matices en cuanto a si nuestras políticas se aplican a un contenido, los revisores tienden a tomar mejores decisiones que la tecnología.