Использование ИИ для обеспечения соблюдения правил в отношении контента
ОБНОВЛЕНО 19 мар 2026 г.
Для проверки контента и обеспечения соблюдения Норм сообщества мы всегда задействуем как технологии, так и помощь специалистов. Недавно мы сообщили, что в качестве эксперимента внедряем более продвинутые системы ИИ в наши текущие процессы, призванные обеспечивать соблюдение правил в отношении контента. Наша цель — закрепить успех прошлогодних изменений, которые уже позволили сократить количество ошибок. Новые системы смогут выявлять больше незаконного и грубо нарушающего правила контента, предотвращать больше случаев мошенничества и быстрее реагировать на события в реальном мире.
Однако даже с появлением новых технологий, которые расширяют наши возможности, человек остается в центре нашего подхода. Наши специалисты по-прежнему отвечают за разработку правил, проектирование, обучение и оценку систем ИИ, измерение результативности, а также принятие самых сложных и важных решений. Это новый этап, на котором масштаб передовых моделей ИИ объединяется с человеческим опытом. Они дополняют друг друга и обеспечивают безопасность пользователей на наших платформах.
Что изменится, а что останется прежним?
Поэтапное и осторожное развертывание
Мы подходим к этому переходу с осторожностью и заранее планируем каждый этап. Перед запуском каждая ИИ-модель проходит строгое многоэтапное тестирование. Мы доверим модерацию искусственному интеллекту только тогда, когда он начнет стабильно превосходить по эффективности наши текущие системы.
Что изменится: новые языки и улучшенный механизм обнаружения
Новые, более сложные системы ИИ понимают языки, на которых говорят 98 % пользователей Интернета (ранее охват составлял 80 %). Это позволяет нам точнее и последовательнее применять правила к миллиардам публикаций. Кроме того, системы теперь лучше считывают контекст, культурные и субкультурные нюансы, региональные особенности, а также быстро меняющиеся сленг, смайлики и кодовые слова.
Первые тесты уже подтвердили эффективность ИИ. Например, система успешно распознала поддельный сайт, выдававший себя за популярный магазин спортивных товаров: ИИ обратил внимание на подозрительный веб-адрес и неправдоподобно низкие цены при использовании реального логотипа бренда.
Что останется прежним: основные принципы обеспечения соблюдения правил
- Основные задачи выполняют наши специалисты. Им по-прежнему отводится ключевая роль в нашем подходе к обеспечению соблюдения правил в отношении контента. Команды наших экспертов — это главные архитекторы, обеспечивающие соблюдение правил с помощью ИИ на платформах Meta. Они разрабатывают правила, обучают модели, проверяют их работу и принимают важные решения в ситуациях с высоким риском (например, выносят окончательные вердикты по обжалованиям в связи с блокировкой аккаунтов или передают данные правоохранительным органам, если того требует закон).
- Нормы сообщества. Сами Нормы не изменятся: они по-прежнему будут определять, какой контент разрешен, а какой запрещен на наших платформах. Изменится лишь инструмент контроля за их соблюдением.
- Жалобы и обжалования. Вы по-прежнему можете жаловаться на контент, который, по вашему мнению, нарушает наши правила. Если мы примем меры в отношении вашего контента или аккаунта, вы сможете обжаловать это решение.
Принцип работы
Наш подход основан на сочетании и взаимном дополнении возможностей ИИ и человеческого опыта.
Строгие тесты перед запуском
Прежде чем система ИИ начнет принимать реальные решения, мы тщательно ее тестируем и внедряем меры предосторожности. Мы сравниваем вердикты ИИ с решениями самых опытных проверящих и запускаем систему, только если ее результаты превосходят наши текущие методы.
Четкие стандарты качества
Перед внедрением каждая модель должна доказать свою точность. При оценке результативности мы учитываем последовательность, эффективность, справедливость и точность, чтобы ИИ мог безошибочно отличать реальные нарушения от приемлемого контента.
Непрерывный мониторинг
После запуска работа каждой модели постоянно отслеживается. Мы контролируем точность, следим за любыми аномалиями и при необходимости быстро корректируем алгоритмы. Возможность быстрых итераций и корректировок заложена в системах. Команды и алгоритмы отслеживают тенденции, чтобы выявлять проблемы на ранней стадии.
Специалисты на каждом этапе
Люди разрабатывают правила. Люди обучают ИИ. Люди контролируют результаты. Люди принимают самые сложные и деликатные решения. ИИ обеспечивает соблюдение правил в глобальном масштабе, а человек осуществляет надзор.
Результаты в разных областях правил
Наши ИИ-модели показывают более высокие результаты даже на ранних этапах тестирования в нескольких областях правил:
Мошенничество и обман
Одно из решений на базе ИИ, созданное для предотвращения кражи учетных данных, позволило за день обнаружить и заблокировать 5 000 попыток фишинга, которые не были замечены ни одной из команд ручной проверки.
Нарушающий правила контент для взрослых
Системы ИИ, настроенные на выявление сексуальных домогательств в отношении взрослых, обнаружили в два раза больше нарушений, чем люди, снизив при этом долю ошибочных блокировок более чем на 60 %. Мы стали быстрее удалять вредоносный контент и реже наказывать невиновных пользователей.
Выдача себя за другое лицо
ИИ на 80 % сократил количество жалоб пользователей на профили, выдающие себя за другое лицо. Система не просто ищет совпадения по именам, но и анализирует контекст: информацию в профиле, частоту и характер публикаций, а также другие признаки неаутентичного поведения.
Планы на будущее
Переход происходит поэтапно с тщательным тестированием на каждом этапе. Мы публикуем данные об обеспечении соблюдения правил в Отчете об обеспечении соблюдения Норм сообщества. Мы будем и дальше делиться своими выводами, в том числе успехами и сложностями, по мере расширения использования ИИ для обеспечения соблюдения правил в новых областях. Кроме того, планируется расширить нашу международную команду специалистов, которые глубоко разбираются в применении наших норм и правил.
Для нас важно обеспечить прозрачность этого перехода и наших процессов обеспечения соблюдения правил. Подробнее о том, какие меры мы сейчас принимаем в отношении нарушений, см. в разделе Принятие мер. Узнать больше о наших правилах можно в Нормах сообщества. По мере разработки правил мы регулярно привлекаем различные заинтересованные стороны. В период перехода мы продолжим консультироваться с регуляторами, внешними экспертами и Независимым надзорным советом для получения объективной оценки нашей работы.
Наш подход построен на адаптивности: мы должны быстро реагировать на новые угрозы, меняющийся сленг и скрытые нарушения (например, зашифрованные сообщения о продаже наркотиков). Мы убеждены: только комбинация передовых технологий и опыта живых людей позволяет добиться наилучших результатов.