Uso de IA para transformar la aplicación de las normas relativas al contenido
ÚLTIMA ACTUALIZACIÓN 19 MAR. 2026
Siempre hemos utilizado una combinación de tecnología y personas para revisar el contenido y hacer cumplir nuestras Normas comunitarias. Como anunciamos recientemente, estamos realizando experimentos para integrar sistemas de IA más avanzados en nuestros sistemas de aplicación de las normas relativas al contenido. Nuestro objetivo es continuar la tendencia positiva del último año resultado de los cambios realizados para reducir errores mediante la introducción de sistemas actualizados que pueden detectar casos más graves de contenido ilícito e infracciones de contenido, poner fin a más estafas y reaccionar con mayor rapidez a sucesos del mundo real.
Sin embargo, aunque utilicemos más nueva tecnología para ampliar los límites de lo posible, las personas seguirán siendo el eje de nuestro enfoque. Nuestros especialistas siguen siendo los responsables de redactar y crear nuestras políticas, diseñar, entrenar y evaluar nuestros sistemas de IA, medir el rendimiento y tomar las decisiones más complejas y de mayor impacto. Es una evolución de cómo combinamos el alcance y las capacidades de la IA avanzada con el conocimiento y el juicio de las personas, que se refuerzan mutuamente para mantener la seguridad de las personas en nuestras plataformas.
Qué cambiará y qué no
Implementación gradual y cuidadosa
Vamos a tomarnos esta transición con calma para asegurarnos de que el proceso de implementación sea meditado y deliberado. Cada modelo de IA pasa por pruebas rigurosas en varias fases antes de su implementación. Solo cuando la tecnología haya demostrado un rendimiento sistemáticamente superior al de nuestros sistemas actuales en todos nuestros tests pasaremos a un sistema de aplicación de políticas basado en la IA.
Novedades: más idiomas y una mejor detección
Estos sistemas de IA más avanzados abarcan idiomas hablados por el 98 % de las personas en internet, mucho más allá de la cobertura de unos 80 idiomas que teníamos anteriormente, lo que nos permite aplicar las políticas de manera más precisa y coherente en miles de millones de contenidos. Estos sistemas también son capaces de entender el contexto y los matices culturales (incluidas las subculturas específicas), el lenguaje, los significados de los emoticonos y el argot, que cambian rápidamente y varían en función de la región.
Las primeras pruebas ya han demostrado resultados prometedores a la hora de identificar estos matices para la aplicación de las políticas, como cuando nuestros sistemas de inteligencia artificial detectaron un sitio web falso que se hacía pasar por una dirección web legítima de una popular tienda de artículos deportivos al observar que se utilizaba el logotipo real con precios inusualmente bajos y una dirección web sospechosa.
¿Qué permanece igual?: los principios fundamentales de la aplicación de las normas
- Las personas siguen siendo el elemento central: las personas siguen desempeñando un papel clave en nuestro enfoque de aplicación de normas relativas al contenido. Nuestros equipos de especialistas son los encargados de aplicar la inteligencia artificial en Meta. Estos equipos definen las políticas, entrenan los modelos, validan el rendimiento y toman las decisiones de mayor riesgo e impacto, como tomar la decisión definitiva sobre las apelaciones de inhabilitación de cuentas o informar a las autoridades cuando así lo requiere la ley.
- Normas comunitarias: nuestras Normas comunitarias no cambiarán como consecuencia de este cambio y seguirán definiendo nuestras reglas sobre lo que está permitido y lo que no lo está en nuestras plataformas. Lo único que cambia es la forma en que aplicamos estas políticas.
- Denuncias y apelaciones: sigues teniendo la opción de denunciar contenido que creas que infringe nuestras políticas. Además, si tomamos medidas sobre tu contenido o tu cuenta, puedes apelar esa decisión.
Cómo funciona
Nuestro enfoque combina las capacidades de la inteligencia artificial con la experiencia humana integrada durante todo el proceso.
Pruebas rigurosas antes de la implementación
Antes de que los sistemas de IA tomen decisiones de cumplimiento reales, los sometemos a pruebas rigurosas e incorporamos medidas de protección. Comparamos sus decisiones con las de nuestros revisores más experimentados y solo las implementamos cuando comprobamos que, de manera constante, tienen un mejor rendimiento que nuestros métodos actuales de aplicación de políticas de contenido.
Establecer normas de calidad claras
Todos los modelos deben cumplir puntos de referencia de precisión específicos antes de su implementación. Evaluamos el rendimiento para garantizar la coherencia, eficacia, equidad y precisión, y nos aseguramos de identificar correctamente las infracciones reales y de distinguir entre contenido infractor y no infractor.
Supervisión continua
Una vez implementados, todos los modelos se evalúan de forma continua. Llevamos un seguimiento de la precisión, supervisamos la aparición de cambios inesperados en el rendimiento y podemos ajustar o perfeccionar rápidamente los modelos si surgen problemas. Nuestros sistemas están diseñados para la iteración y corrección rápidas: los equipos y la tecnología revisan las tendencias para detectar problemas en una fase temprana.
Experiencia humana en cada etapa
Las personas diseñan las políticas Las personas entrenan a la IA. Las personas supervisan el rendimiento. Además, las personas se encargan de tomar las decisiones más complejas, delicadas e importantes. La IA permite mejorar la aplicación de las normas a gran escala y aumenta la coherencia, mientras que las personas aportan criterio y supervisan el sistema.
Rendimiento en las distintas áreas de las políticas
Nuestros modelos de IA están mostrando mejoras incluso en las pruebas de etapa temprana en varias áreas de políticas:
Fraudes y estafas
Una solución de IA diseñada para evitar que los estafadores engañen a la gente para que proporcione sus datos de inicio de sesión encontró y detuvo 5000 intentos de estafa al día que ningún equipo de revisión había detectado antes.
Contenido para adultos infractor
Los sistemas de IA creados para detectar servicios sexuales para adultos que infringen las normas han detectado más del doble de contenido infractor que las personas. Además, han reducido la tasa de errores más de un 60 %. Esto significa que detectamos y suprimimos contenido dañino con mayor rapidez y protegemos a más personas frente a la aplicación errónea de nuestras políticas.
Suplantación
La IA ha reducido las denuncias de los usuarios por suplantación de identidad de perfiles de alto nivel un 80 %. En lugar de solo comparar nombres, la IA puede reconocer si alguien se está haciendo pasar por un personaje público analizando más contexto: la información del perfil, los patrones de publicación y las características asociadas que señalan una falta de autenticidad.
Con vistas al futuro
Esta transición se está llevando a cabo en fases, con pruebas exhaustivas en cada paso. Publicamos los datos de aplicación en nuestro Informe de aplicación de las Normas comunitarias y seguiremos compartiendo lo que aprendemos (incluidos tanto los éxitos como las dificultades) a medida que la IA se expanda a más áreas de las políticas. Asimismo, tenemos previsto fortalecer nuestro equipo global de especialistas en Meta con una amplia experiencia en la aplicación de nuestras normas y políticas.
Para nosotros es importante ofrecer transparencia en relación con esta transición y nuestros procesos de cumplimiento. Para obtener más información sobre cómo actuamos actualmente ante infracciones, consulta Medidas. Para obtener más información sobre nuestras políticas, consulta nuestras Normas comunitarias. Colaboramos regularmente con diversas partes interesadas a medida que desarrollamos nuestras políticas y seguiremos haciéndolo a lo largo de esta transición mediante la colaboración con organismos de regulación, especialistas externos y el Consejo asesor de contenido para que nos proporcionen comentarios sobre nuestro enfoque.
Nuestro enfoque está diseñado para adaptarse a nuevas amenazas, a la evolución del argot y a los retos que surjan, como el lenguaje codificado para la venta de drogas. Se basa en el principio de que los mejores resultados se obtienen combinando la tecnología avanzada con el criterio humano.