Revisión precisa de contenido de alto impacto por medio de nuestro sistema de verificación cruzada
ÚLTIMA ACTUALIZACIÓN 12 NOV. 2024
El 6 de diciembre de 2022, el Consejo asesor de contenido publicó una opinión de asesoramiento normativo sobre las polÃticas de verificación cruzada de Meta. Para abordar las recomendaciones realizadas, convenimos con el Consejo revisarlas y responderlas en un plazo de 90 dÃas. Para obtener más información sobre el sistema de verificación cruzada, visita nuestra publicación del Centro de transparencia.
Información general sobre la verificación cruzada
Cada dÃa los usuarios de Facebook e Instagram crean miles de millones de contenidos. Moderar el contenido a tal escala representa desafÃos, entre ellos, lograr un equilibrio entre objetivos y valores importantes. Intentamos revisar con rapidez contenido potencialmente infractor y eliminarlo si infringe nuestras polÃticas. Sin embargo, debemos encontrar un término medio entre este objetivo y el riesgo de "falsos positivos" (eliminaciones erróneas de contenido que no infringe las normas) a fin de proteger la expresión de los usuarios. Aquà nos referimos a la "eliminación" de contenido, término que usamos para describir de forma más general acciones que tienen que ver con la integridad. Estas también pueden incluir, por ejemplo, el uso de pantallas de advertencia o la eliminación de páginas.
Para equilibrar estas consideraciones, Meta implementó un sistema de verificación cruzada que permite identificar contenido que presenta un mayor riesgo de falsos positivos y brinda niveles adicionales de revisión para mitigarlo. La verificación cruzada ofrece más niveles de revisión para determinado contenido que nuestros sistemas internos marcan como infractor (por medio de automatización o revisión manual). El objetivo es prevenir o minimizar errores de moderación con falsos positivos de mayor riesgo que podrÃan ocurrir debido a diversos factores, como la necesidad de entender un matiz o el contexto. Aquà hacemos referencia al "contenido" que se revisa por medio de nuestro sistema de verificación cruzada. También usamos esta herramienta para revisar otras acciones, como la eliminación de una página o un perfil. Si bien la verificación cruzada hace posible una revisión aún más rigurosa, los revisores aplican las mismas Normas comunitarias que se emplean en todos los demás contenidos que figuran en Facebook o Instagram.
El sistema de verificación cruzada desempeña un papel clave en la protección de los derechos humanos. Por ejemplo, este incluye entidades y publicaciones de periodistas que informan desde zonas de conflicto y de lÃderes comunitarios que generan conciencia sobre situaciones de odio o violencia. Las revisiones de verificación cruzada tienen en cuenta el contexto, lo que permite tomar medidas sobre este contenido correctamente. Estas también se pueden aplicar a entidades cÃvicas, cuando los usuarios tienen un gran interés en conocer lo que opinan sus lÃderes.
Además, la verificación cruzada es una pieza importante en la gestión de las relaciones que mantiene Meta con muchos de nuestros socios comerciales. Si se elimina por equivocación el contenido que publica una página o un perfil con muchos seguidores, por ejemplo, tanto los socios comerciales de Meta como la gran cantidad de usuarios que los siguen pueden verse afectados por experiencias negativas. También aplicamos la verificación cruzada a grupos muy grandes, en los que un error puede afectar a cientos de miles o millones de usuarios. La verificación cruzada no exime a los socios comerciales o los grupos de Meta de la aplicación de nuestras polÃticas de contenido. Sin embargo, en ocasiones, brinda niveles adicionales de revisión para garantizar que dichas polÃticas se apliquen de forma precisa.
Cada dÃa los usuarios de Facebook e Instagram publican miles de millones de contenidos. Incluso con miles de revisores dedicados en todo el mundo, no es posible revisar de forma manual cada contenido que potencialmente infringe nuestras Normas comunitarias. Nuestra tecnologÃa detecta de forma proactiva la gran mayorÃa del contenido infractor que eliminamos antes de que se reporte. Cuando una persona publica en Facebook o Instagram, nuestra tecnologÃa verifica si el contenido puede infringir las Normas comunitarias. En muchos casos, la detección es un asunto sencillo. La publicación claramente infringe o no nuestras polÃticas. Pero, en otros, el contenido se remite a revisión manual para que se realice una evaluación más exhaustiva.
Nuestros sistemas de revisión principales usan tecnologÃa para priorizar contenido de alta gravedad, que incluye contenido "viral" que se difunde con rapidez. Cuando el sistema marca contenido para escalamiento, nuestros revisores toman decisiones difÃciles y, con frecuencia, matizadas sobre si dicho contenido deberÃa permanecer en la plataforma. Si bien siempre intentamos tomar las decisiones correctas, reconocemos que existen los falsos positivos y que cierto contenido se considera para eliminación por infringir las polÃticas de Meta, cuando en realidad no lo hace. Por tal motivo, Meta invirtió en la prevención de errores para revisar en más detalle los falsos positivos y mitigarlos. La verificación cruzada es una de estas estrategias.
Se trata de un sistema que se utiliza para garantizar que las decisiones relativas a la aplicación de polÃticas se tomen con precisión y con niveles adicionales de revisión manual. Si, durante la verificación cruzada un revisor confirma que el contenido infringe nuestras Normas comunitarias, aplicamos dichas polÃticas y, en consecuencia, tomamos medidas al respecto. Según su complejidad, podemos aplicar varios niveles de revisión, incluso, en circunstancias poco frecuentes, podemos solicitar que lo revise la gerencia. Si el revisor final determina que el contenido en cuestión no infringe nuestras Normas comunitarias, puede "anular" la acción inicial y dejarlo en la plataforma.
Prácticas de verificación cruzada históricas
Implementamos por primera vez el sistema que hoy se conoce como verificación cruzada en el año 2013. Con el paso del tiempo, su diseño fue evolucionando y, cuando fue posible, proporcionamos fechas e intervalos de fechas para explicar en qué momentos ocurrieron dichos cambios.
Para determinar qué contenido o entidades se sometieron a la revisión de verificación cruzada, nuestros equipos identificaron y compilaron listas de usuarios o entidades que se consideraba que corrÃan mayor riesgo de que se tomaran medidas en su contra por falsos positivos. "Riesgo de falso positivo" se refiere al riesgo de que se apliquen polÃticas de forma errónea contra contenido o entidades que en realidad no infringen nuestras Normas comunitarias. A fin de determinar qué usuarios y entidades se asocian con un mayor riesgo de falsos positivos, nuestros equipos aplicaron diversos criterios, lo que incluye el tipo de usuario o entidad (p. ej., un funcionario electo, un periodista, un socio comercial importante, una organización de derechos humanos), la cantidad de seguidores y el asunto que aborda la entidad. Entidad es el término general que denomina el lugar donde el contenido podrÃa haber aparecido o haberse originado, como la cuenta de un usuario, una página o un grupo.
Cuando los usuarios o entidades identificados en esas listas publicaban contenido o realizaban acciones que nuestros sistemas marcaban por infringir potencialmente nuestras polÃticas, agregábamos dicho contenido o entidad a una lista para que se sometiera a revisión de verificación cruzada.
A principios de 2020, hicimos cambios, de modo que se diera prioridad a la mayorÃa del contenido en la lista usando un marco de riesgos, que asignaba el nivel de riesgo de falso positivo que podrÃa haber si Meta eliminaba el contenido por equivocación. Este marco de riesgo, en general, se basaba en tres factores: (1) la sensibilidad de la entidad, (2) la gravedad de la presunta infracción y (3) la gravedad de la posible aplicación de polÃticas.
Prácticas de verificación cruzada actuales
Tal como ocurre con todas nuestras polÃticas y procesos, buscamos continuamente formas de mejorar y realizamos cambios de manera permanente. A principios de este año, identificamos otras oportunidades de mejorar el sistema de verificación cruzada. Realizamos un cambio estructural por el que, ahora, el sistema de verificación cruzada consta de dos componentes: revisión secundaria general y revisión secundaria de entidades confidenciales. Seguiremos usando el enfoque basado en la lista descrito anteriormente para incluir en la revisión secundaria de entidades confidenciales a un porcentaje de usuarios y entidades determinados. Sin embargo, en cuanto a la revisión secundaria general, estamos en el proceso de garantizar que el contenido de todos los usuarios y entidades en Facebook e Instagram reúna los requisitos para someterse a la revisión de verificación cruzada en función de un sistema de priorización dinámica que se denomina "clasificación de verificación cruzada".
La revisión secundaria general implica que revisores de contratos y miembros de nuestros equipos de regiones realicen una revisión secundaria de contenido y entidades que pueden infringir nuestras polÃticas antes de que se tome una medida de aplicación de polÃticas. Para determinar qué contenido se somete a la revisión de verificación cruzada, esta revisión no se basa únicamente en la identidad de un usuario o una entidad. La clasificación de verificación cruzada clasifica el contenido en función del riesgo de falsos positivos usando criterios, como la sensibilidad del tema (qué tan destacado o delicado es el tema), la severidad de la aplicación de polÃticas (qué tan severa es la potencial medida que se tomará), la probabilidad de un falso positivo, el alcance previsto y la sensibilidad de la entidad (que se basa, en gran medida, en las listas compiladas descritas anteriormente). Esta clasificación ya se usa en la mayorÃa de las revisiones de verificación cruzada que se realizan en la actualidad.
La revisión secundaria de entidades confidenciales se asemeja al sistema de verificación cruzada tradicional. Para determinar qué contenido o entidad recibe esta revisión, seguimos manteniendo listas de usuarios y entidades cuyas aplicaciones de polÃticas se someten a una verificación cruzada adicional si se marcan por infringir potencialmente las Normas comunitarias. Sin embargo, agregamos controles al proceso de compilación y análisis de dichas listas. Antes de septiembre de 2020, la mayorÃa de los empleados podÃan agregar a un usuario o entidad a la lista de verificación cruzada. Después de esa fecha, si bien todos los empleados pueden solicitar que se agregue un usuario o una entidad a esta lista, solo un grupo designado de ellos tiene autoridad para hacerlo por su cuenta.
Las responsabilidades de gobernanza para la lista de revisión secundaria de entidades confidenciales actualmente recaen sobre nuestra organización de operaciones internacionales, respaldada por nuestros equipos de asuntos legales y de asociaciones, que aportan su experiencia y sus conocimientos especializados. Si bien la estructura de informes de nuestro equipo de operaciones internacionales es independiente del equipo de polÃticas públicas de Meta, a este último se lo consulta a la hora de tomar decisiones de verificación cruzada, ya que hay muchas áreas de moderación de contenido en la empresa. En estas instancias, es posible que nuestro equipo de operaciones aproveche la pericia del equipo de polÃticas públicas de Meta, junto con la de nuestros expertos regionales y revisores especializados (con independencia de su idioma), a fin de ampliar las perspectivas locales y culturales. Las estructuras de informes separadas garantizan que la revisión no esté sesgada por influencias polÃticas o económicas. A fin de mantener listas que sean relevantes y apropiadas, también desarrollamos un proceso de revisión anual diligente, que seguiremos mejorando con el tiempo, para auditar entidades en listas de revisión secundaria de entidades confidenciales con el objetivo de comprobar si siguen cumpliendo los requisitos.
En los últimos meses, Meta revisó un promedio de varios miles de tareas de verificación cruzada por dÃa. La gran mayorÃa se completó en la revisión secundaria general. En comparación con los millones de contenidos que se marcan y sobre los que se toman medidas por infringir nuestras Normas comunitarias a diario, esta es una proporción pequeña. La revisión secundaria de entidades confidenciales ahora representa la minorÃa de estas revisiones diarias. Anticipamos un cambio continuo en la cantidad de tareas de revisión de verificación cruzada como resultado de la priorización de la revisión secundaria general para finales de 2021 y en 2022.
Si determinado contenido proviene de una persona o entidad incluida en la revisión secundaria de entidades confidenciales, primero lo suele revisar el equipo de regiones. Luego, el equipo de escalamiento lo revisa para confirmar si infringe las polÃticas. En general, si el equipo de regiones determina que no infringe nuestras polÃticas, el de escalamiento no realizará la revisión. Si cierto contenido proviene de una persona o entidad que el clasificador de verificación cruzada priorizó, los contratistas o los equipos de regiones suelen revisarlo, a menos que el equipo de escalamiento tenga capacidad adicional para hacerlo. Como sucede con la verificación cruzada tradicional, los problemas más complejos pueden someterse a una revisión adicional. Asimismo, en ocasiones poco frecuentes, la gerencia puede llevarla a cabo. Si en la revisión final se determina que infringe nuestras Normas comunitarias, lo eliminamos. En caso contrario, permanece en la plataforma.
Desde el 16 de octubre de 2021, aproximadamente 660.000 usuarios y entidades realizaron acciones que requirieron alguna forma de revisión secundaria de entidades confidenciales en función de la inclusión en las listas antes descritas. Esta cifra cambia con regularidad, ya que se agregan o eliminan usuarios y entidades a dichas listas según criterios de inclusión que van evolucionando. Entre los usuarios y entidades elegibles para la revisión secundaria de entidades confidenciales, se encuentran los siguientes:
- Entidades relacionadas con respuestas de escalamiento o eventos de alto riesgo. Actualmente, hay vigente un proceso informal por el que los equipos que se preparan para un evento de alto riesgo identifican entidades con mucho riesgo de una sobreaplicación. Por ejemplo, si el contenido controversial de un usuario se vuelve viral (como un video en vivo de violencia policial), podemos derivar a dicho usuario a la revisión secundaria de entidades confidenciales para evitar que el contenido se elimine de forma errónea.
- Se incluyen entidades para fines de cumplimiento de la legislación. Usamos la revisión secundaria de entidades confidenciales en determinadas circunstancias para cumplir con requisitos legales o regulatorios.
- Figuras públicas y editores con gran visibilidad. Identificamos entidades que deberÃan someterse a la revisión secundaria de entidades confidenciales porque la sobreaplicación de polÃticas puede afectar de manera negativa la experiencia de un amplio segmento de usuarios.
- Poblaciones marginadas. Identificamos a defensores de los derechos humanos, disidentes polÃticos y otras personas que creemos que pueden ser vÃctimas de acoso individual o grupal o reportes masivos avalados por el Estado o por adversarios a fin de protegerlos contra estos ataques.
- Entidades cÃvicas. Seguimos criterios objetivos y el conocimiento de nuestros equipos de polÃticas en la región para identificar a polÃticos, funcionarios del Gobierno, instituciones, organizaciones, grupos de apoyo e influencers cÃvicos. Incluimos estas entidades en la revisión secundaria de entidades confidenciales para prevenir errores que restringirÃan el discurso polÃtico no infractor e incidirÃan involuntariamente en el debate de temas cÃvicos, como elecciones, polÃtica pública y temas sociales. Nuestro objetivo es garantizar la igualdad entre las entidades cÃvicas de un paÃs. Por ejemplo, si incluimos un ministerio de gabinete nacional en la revisión secundaria de entidades confidenciales, incluirÃamos también en ella a todos los ministerios del gobierno de ese paÃs.
- Empresas. Identificamos a los anunciantes de alto valor, asà como a aquellos con experiencia en cuanto a la sobreaplicación, a fin de proteger los ingresos y generar confianza a largo plazo en nuestra plataforma.
Actualmente, analizamos cómo mejorar los criterios para identificar entidades que deberÃan someterse a la revisión secundaria de entidades confidenciales. Por ejemplo, exploramos estrategias para que nuestros criterios evolucionen en áreas como la cantidad de seguidores, la cantidad de aplicaciones de polÃticas anteriores debido a falsos positivos, los requisitos legales o regulatorios, asà como temas polÃticos y sociales importantes. Los usuarios pueden solicitar que no se los incluya en la lista de revisión secundaria de entidades confidenciales mediante este formulario. Meta no confirma si los usuarios se encuentran en estas listas o si se los eliminó de ellas. Sin embargo, creemos firmemente en la autonomÃa de los usuarios y revisaremos cada solicitud lo antes posible.
Además de los dos componentes del sistema de verificación cruzada, también contamos con un sistema interno de prevención de errores denominado multirrevisión dinámica. Este sistema nos permite enviar casos revisados para una nueva revisión a fin de obtener un voto mayoritario en una decisión (p. ej., si la mayorÃa de los revisores están de acuerdo con una decisión, el caso se cierra), de modo que podamos garantizar un mayor grado de corrección. Usamos este sistema para mejorar la calidad y precisión de la revisión humana y mitigar el riesgo de decisiones incorrectas al ajustar la cantidad de revisiones que requerimos para una decisión final en función de diversos factores diferentes como la viralidad, la cantidad de visualizaciones y el potencial para contribuir a infligir daños (p. ej., posibles infracciones de nuestras polÃticas sobre explotación sexual o personas y organizaciones peligrosas).
Intervenciones futuras de transparencia de verificación cruzada
En respuesta a la decisión de diciembre de 2022 del Consejo asesor de contenido sobre la opinión de asesoramiento normativo respecto de la verificación cruzada, también nos comprometimos a realizar una serie de intervenciones relacionadas con la transparencia para prevenir errores. Estas intervenciones incluyen:
- Mantener una interacción estructurada y sólida con nuestros equipos internos de derechos humanos y civiles, nuestros socios de confianza y otras organizaciones externas de sociedad civil para explorar formas de informar los criterios que usamos a fin de identificar entidades de interés público para listas de verificación cruzada.
- Explorar un proceso más formal de nominación para listas de verificación cruzada por parte de nuestros grupos de sociedad civil internacionales, regionales y locales.
- Invertir en revisión de calidad y capacitar recursos a medida que involucramos en las decisiones de verificación cruzada a revisores que hablan el idioma pertinente y tienen conocimientos regionales cuando sea posible.
- Implementar acuerdos de nivel de servicio sólidos para decisiones de revisión en nuestros sistemas de prevención de errores, lo que nos permite optimizar nuestro modelo actual de dotación de revisores para que se realice una revisión en el idioma pertinente lo más rápido posible.
Si bien logramos mejoras significativas en el sistema de verificación cruzada, seguimos explorando cómo garantizar aún más que este sistema equilibre de manera adecuada nuestros objetivos de eliminación de contenido que infringe nuestras Normas comunitarias y, al mismo tiempo, nos permita asegurarnos de minimizar los errores en la aplicación de polÃticas que tienen mayor impacto.