Cómo prioriza Meta el contenido que revisa

ÚLTIMA ACTUALIZACIÓN 12 NOV. 2024
Las tecnologías de Meta detectan y eliminan la mayoría del contenido infractor antes de que se llegue a denunciar. Cuando alguien publica algo en Facebook, Instagram, Messenger o Threads, nuestras tecnologías verifican si el contenido infringe las Normas comunitarias. En la mayoría de los casos, la decisión es sencilla: la publicación infringe claramente nuestras políticas o no lo hace.
Sin embargo, en otras ocasiones resulta más difícil. Es posible que la intención de la publicación no quede clara, que el discurso sea particularmente complejo o que las imágenes dependan demasiado del contexto. En estos casos, llevamos a cabo más pasos de revisión con la ayuda de recursos humanos.
Factores prioritarios para la revisión manual
Al determinar el contenido que debe pasar por nuestro equipo de revisión manual de forma prioritaria, tenemos en cuenta tres factores principales:
GRAVEDAD
¿Qué probabilidad hay de que el contenido genere daños, tanto en internet como fuera de internet?
VIRALIDAD
¿El contenido se está compartiendo con rapidez?
PROBABILIDAD DE INFRACCIÓN
¿Es probable que el contenido en cuestión infrinja realmente nuestras políticas?
Queremos evitar cualquier daño en la mayor medida posible, por lo que nuestros sistemas de revisión usan una tecnología que prioriza el contenido de alta gravedad con potencial de ocasionar daños fuera de internet y el contenido viral que se difunde con rapidez.
Los equipos de revisión manual ayudan a mejorar nuestra tecnología
Nuestros equipos de revisión manual emplean sus conocimientos en ciertas áreas normativas y configuraciones regionales para tomar decisiones difíciles que suelen estar expuestas a matices. Cada vez que los revisores toman una decisión, usamos esa información para perfeccionar nuestra tecnología. Con el tiempo, y tras millones de decisiones, nuestra tecnología va mejorando y nos permite eliminar más contenido infractor.
Ayudamos a los revisores a tomar las decisiones correctas
La tecnología permite que los equipos de revisión manual hagan lo que mejor saben hacer
Como muchos modelos de aprendizaje automático, nuestra tecnología mejora con el tiempo, ya que recibe más ejemplos de contenido infractor. Esto significa que los equipos de revisión manual pueden centrarse más en contenido complejo, nuevo, viral, grave y con matices, que es exactamente el tipo de contenido sobre el que las personas tienden a tomar mejores decisiones que la tecnología.
Preguntas frecuentes sobre la priorización de la revisión de contenido
Anteriormente, los equipos de revisión manual dedicaban la mayor parte de su tiempo a revisar contenido denunciado por los usuarios, con lo que solían pasar demasiado tiempo revisando contenido de baja gravedad o que claramente no infringía las normas. Por el contrario, no dedicaban el tiempo suficiente al contenido más grave y con mayor potencial para causar daños. Asimismo, las decisiones tomadas por los revisores no resultaban muy útiles para mejorar nuestra tecnología de detección de infracciones.
Nuestro enfoque actual con respecto a la priorización aborda estos problemas y permite revisar el contenido con mayor potencial de ser dañino de forma prioritaria, así como mejorar nuestra tecnología más rápidamente.
No necesariamente. Tanto los equipos de revisión manual como la tecnología desempeñan un papel importante en la revisión de las denuncias de los usuarios. En los casos en que nuestra tecnología puede analizar un contenido determinado, es capaz de tomar medidas automáticamente (o no hacerlo) sobre el contenido en cuestión.
Para abordar los problemas de equidad e inclusión asociados a la implementación de inteligencia artificial en las tecnologías de Meta, hemos creado un equipo de inteligencia artificial responsable: un grupo multidisciplinario de especialistas en ética, ciencias sociales y políticas, expertos en políticas, investigadores e ingenieros de inteligencia artificial. El objetivo general de este equipo es desarrollar pautas, herramientas y procesos que permitan solventar los problemas relacionados con la inteligencia artificial y garantizar que estos recursos sistemáticos tengan una amplia disponibilidad en Meta.