Transformación de la aplicación de políticas de contenido con IA
ÚLTIMA ACTUALIZACIÓN 19 MAR. 2026
Siempre utilizamos una combinación de tecnología y personas para revisar el contenido y aplicar nuestras Normas comunitarias. Como anunciamos recientemente, estamos experimentando con la integración de sistemas de IA más avanzados en nuestros procesos existentes de aplicación de políticas de contenido. Nuestro objetivo es seguir creando a partir de los resultados positivos que arrojan los cambios que realizamos el año pasado para reducir la cantidad de errores, con sistemas actualizados que pueden detectar más infracciones graves de contenido y contenido ilegal, detener fraudes y responder más rápido a eventos del mundo real.
Sin embargo, aunque usemos más tecnología de vanguardia para escalar las posibilidades, las personas seguirán siendo el centro de nuestro enfoque. Nuestros especialistas siguen a cargo de redactar y crear nuestras políticas, diseñar, entrenar y evaluar nuestros sistemas de IA y medir el rendimiento. Además, ellos serán quienes tomen las decisiones más complejas y de mayor impacto. Es una evolución de cómo combinamos la escala y las capacidades de una IA avanzada con la experiencia y el criterio de las personas, de modo que se fortalezcan mutuamente y protejan a las personas en nuestras plataformas.
Qué cambiará y qué no
Una implementación gradual y cuidadosa
Abordamos esta transición con cuidado y sin apresurarnos para garantizar que la implementación sea meditada y deliberada. Cada modelo de IA pasa por pruebas rigurosas de varias fases antes de su implementación. Solo cuando la tecnología haya demostrado un rendimiento sistemáticamente mejor que nuestros sistemas actuales en todas las pruebas, pasaremos a un sistema de aplicación de políticas basado en la IA.
Lo nuevo: más idiomas y mejor detección
Estos sistemas de IA más avanzados cubren los idiomas hablados por el 98% de las personas online, muy superior a nuestra cobertura anterior de unos 80 idiomas, lo que nos ayuda a aplicar las políticas con mayor precisión y coherencia en miles de millones de contenidos. Estos sistemas también pueden entender mejor el contexto y los matices culturales, incluidas subculturas de nicho, palabras en código de uso regional y cambiantes, el significado de los emojis y la jerga.
Las primeras pruebas ya dieron resultados prometedores en el descubrimiento de estos matices para la aplicación de políticas. Por ejemplo, nuestros sistemas de inteligencia artificial detectaron un sitio web falso que suplantaba una dirección web legítima y se hacía pasar por una popular tienda de artículos deportivos. Los sistemas detectaron que se utilizaba el logotipo real con precios inusualmente bajos y una dirección web sospechosa.
Lo que no cambia: principios fundamentales de la aplicación de políticas
- Las personas siguen siendo la base de nuestro enfoque: las personas siguen desempeñando un papel clave en nuestro enfoque de aplicación de políticas de contenido. Los equipos de expertos son los arquitectos de la aplicación de políticas por parte de Meta AI. Ellos redactan las políticas, entrenan los modelos, validan el rendimiento y toman las decisiones de mayor riesgo y impacto, como tomar la decisión final sobre apelaciones de inhabilitación de cuentas e informar a las autoridades policiales cuando lo requiere la ley.
- Normas comunitarias: nuestras Normas comunitarias no cambiarán como parte de este cambio y seguirán definiendo nuestras reglas sobre lo que está permitido y lo que no en nuestras plataformas. Lo único que cambiará es la forma en que aplicamos estas políticas.
- Reportes y apelaciones: seguirás teniendo la opción de reportar contenido que consideres que infringe nuestras políticas. Además, si tomamos medidas sobre tu contenido o tu cuenta, podrás apelar esa decisión.
Cómo funciona
Nuestro enfoque combina las capacidades de la IA con la experiencia humana integrada durante todo el proceso.
Pruebas rigurosas antes de la implementación
Antes de que los sistemas de inteligencia artificial tomen decisiones reales sobre el cumplimiento de políticas, los sometemos a pruebas rigurosas e incorporamos medidas de seguridad. Comparamos sus decisiones con las de nuestros revisores más experimentados y solo las implementamos cuando observamos que, de manera constante, estos sistemas tienen mejor rendimiento que nuestros métodos actuales de aplicación de políticas de contenido.
Estándares de calidad claros
Cada modelo debe cumplir con puntos de referencia de precisión específicos antes de su implementación. Evaluamos el rendimiento para garantizar la coherencia, efectividad, imparcialidad y precisión, y nos aseguramos de identificar correctamente las infracciones reales y de distinguir entre contenido infractor y no infractor.
Supervisión continua
Una vez implementado, cada modelo se evalúa continuamente. Hacemos un seguimiento de la precisión, monitoreamos cambios inesperados en el rendimiento y podemos ajustar o perfeccionar rápidamente los modelos si surgen problemas. Nuestros sistemas están diseñados para la iteración y corrección rápidas: los equipos y la tecnología revisan las tendencias para detectar problemas rápidamente.
Intervención humana en todas las etapas
Las personas diseñan las políticas. Las personas entrenan la IA. Las personas supervisan el rendimiento. Y son las personas quienes toman las decisiones más complejas, delicadas y de mayor importancia. La inteligencia artificial permite mejorar la aplicación de las políticas a gran escala y aumenta la coherencia; las personas aportan el criterio y supervisan el sistema.
Rendimiento en las distintas áreas normativas
Nuestros modelos de IA están mostrando mejoras, incluso en pruebas tempranas en varias áreas normativas:
Fraude y estafas
Una solución de IA diseñada para evitar que los estafadores engañen a las personas para que les den sus datos de inicio de sesión detectó y detuvo 5.000 intentos de estafa al día que ningún equipo de revisión había detectado antes.
Contenido para adultos infractor
Los sistemas de IA creados para detectar servicios sexuales de adultos infractores detectaron más del doble de contenido infractor que las personas, y disminuyeron un 60% el porcentaje de error. Esto significa que encontramos y eliminamos contenido dañino más rápido y, a su vez, protegemos a más personas contra la aplicación indebida de las políticas.
Suplantación de identidad
La IA redujo en un 80% los reportes de usuarios sobre suplantaciones de identidad de alto perfil. En lugar de solo hacer coincidir los nombres, la IA puede reconocer cuando alguien se está haciendo pasar por una figura pública al analizar más contexto: detalles del perfil, patrones de publicación y características asociadas que indican una falta de autenticidad.
De cara al futuro
Esta transición se está llevando a cabo en fases, con pruebas exhaustivas en cada paso. Publicamos los datos de cumplimiento en nuestro Informe de cumplimiento de las Normas comunitarias y seguiremos compartiendo lo que aprendamos, tanto los éxitos como los desafíos, a medida que la IA se expanda a más áreas normativas. También tenemos previsto fortalecer nuestro equipo especializado de personas de todo el mundo en Meta con un profundo conocimiento de nuestras normas y políticas.
La transparencia en torno a esta transición y nuestros procesos de aplicación de políticas es fundamental. Para obtener más información sobre cómo tomamos medidas contra las infracciones, consulta Medidas que tomamos. Para obtener información detallada sobre nuestras políticas, consulta nuestras Normas comunitarias. Colaboramos regularmente con diversas partes interesadas a medida que mejoramos nuestras políticas y seguiremos haciéndolo durante esta transición. Para ello, trabajaremos con entes reguladores, especialistas externos y el Consejo asesor de contenido para que nos brinden comentarios sobre nuestro enfoque.
Nuestro enfoque está diseñado para adaptarse a nuevas amenazas, jerga cambiante y desafíos emergentes, como el lenguaje en código para la venta de drogas. Y se basa en el principio de que los mejores resultados se obtienen cuando se combina la tecnología avanzada con el criterio humano.