Cómo Meta prioriza el contenido que someterá a revisión
ÚLTIMA ACTUALIZACIÓN 12 NOV. 2024
Las tecnologías de Meta detectan y eliminan la mayoría del contenido infractor antes de que se reporte. Cuando una persona publica en Facebook, Instagram, Messenger o Threads, nuestras tecnologías verifican si el contenido infringe las Normas comunitarias. En la mayoría de los casos, la detección es un asunto sencillo. La publicación claramente infringe o no nuestras políticas.
En otras ocasiones, resulta más difícil. Tal vez la percepción de la publicación no queda clara, el discurso en ella es de particular complejidad o las imágenes dependen demasiado del contexto. En estos casos, realizamos otra revisión con personas.
Factores prioritarios para la revisión manual
En el momento de determinar qué contenido el equipo de revisión manual debería revisar primero, tenemos en cuenta tres factores principales:
GRAVEDAD
¿Qué probabilidad hay de que el contenido genere daños, tanto online como offline?
VIRALIDAD
¿Qué tan rápido se comparte el contenido?
PROBABILIDAD DE INFRINGIR LAS NORMAS
¿Qué probabilidad hay de que el contenido en cuestión infrinja realmente nuestras políticas?
Dado que queremos prevenir daños en la mayor medida posible, nuestros sistemas de revisión usan tecnología que prioriza el contenido de gravedad alta con potencial de ocasionar daños en el mundo real y el contenido viral que se difunde con rapidez.
Los equipos de revisión manual ayudan a mejorar nuestra tecnología
Nuestros equipos de revisión manual emplean sus conocimientos en ciertas áreas normativas y regiones para tomar decisiones subjetivas difíciles que suelen tener matices. Cada vez que los revisores toman una decisión, usamos esa información para perfeccionar nuestra tecnología. Con el tiempo, tras tomar millones de decisiones, nuestra tecnología va mejorando y nos permite eliminar más contenido infractor.
La tecnología permite que los equipos de revisión manual hagan lo que mejor saben hacer
Como muchos modelos de aprendizaje automático, nuestra tecnología mejora con el tiempo, ya que recibe más ejemplos de contenido infractor. Esto significa que los equipos de revisión manual pudieron centrarse más en contenido complejo, nuevo, viral, grave y con matices, que es exactamente el tipo de contenido sobre el que las personas tienden a tomar mejores decisiones que la tecnología.
Preguntas frecuentes sobre la priorización de revisión de contenido
¿Cómo cambió la priorización de la aplicación de políticas con el tiempo?
Anteriormente, los equipos de revisión manual pasaban la mayor parte del tiempo revisando contenido que las personas reportaban, es decir, solían dedicar demasiado tiempo a revisar contenido de baja gravedad o que claramente no infringía las normas, pero no dedicaban el tiempo suficiente al contenido más grave con mayor potencial para causar daños. Asimismo, las decisiones tomadas por los revisores no eran tan útiles para mejorar nuestra tecnología de detección de infracciones.
Nuestro enfoque actual respecto de la priorización aborda estos problemas, y permite que revisemos el contenido con mayor potencial de ser dañino en primer lugar y mejoremos nuestra tecnología más rápido.
¿Los equipos de revisión manual revisan cada reporte que hacen los usuarios?
No necesariamente. Tanto los equipos de revisión manual como la tecnología desempeñan un papel en la revisión de reportes. En los casos en que nuestra tecnología puede analizar un contenido determinado, tomará medidas automáticamente, o no, sobre el contenido en cuestión.
¿Cómo nos aseguramos de que las decisiones humanas no introduzcan sesgos en nuestra tecnología?
Para abordar las inquietudes relativas a la igualdad y la inclusión asociada con la implementación de inteligencia artificial en las tecnologías de Meta, creamos nuestro equipo de inteligencia artificial responsable, un grupo multidisciplinario de especialistas en ética, científicos sociales y políticos, expertos en políticas, investigadores e ingenieros de inteligencia artificial. El objetivo general del equipo es desarrollar pautas, herramientas y procesos que permitan solventar todos los problemas relacionados con la inteligencia artificial y garantizar que estos recursos sistémicos tengan amplia disponibilidad en Meta.