Как Meta обучает свои технологии?
ОБНОВЛЕНО 19 янв 2022 г.
Иногда значение контента очевидно для человека, но непонятно техническим средствам. Чтобы обезопасить пользователей, Meta учит искусственный интеллект обнаруживать публикации, нарушающие правила.
Например, приведенный ниже контент содержит текст и изображения. Два из этих изображений вполне безобидны, а остальные могут расцениваться как оскорбительные.
Без надлежащего обучения большинство систем ИИ не способны уловить эти различия. Они либо считывают текст и определяют буквальные значения слов, либо пытаются определить общий смысл изображения. Люди же инстинктивно связывают текст и изображение, чтобы понять общее значение контента.
Один из способов решить эту проблему — это научить наши технологии сначала смотреть на все компоненты публикации и только потом определять истинное значение. Благодаря этому ИИ сможет точнее определять, как человек воспримет ту или иную публикацию.
Мы также используем систему, которая прямо управляет обучением ИИ на миллионах актуальных публикаций и подбирает тренировочные данные, соответствующие нашим целям. Это отличает наши решения от типичных систем ИИ, которые обучаются на фиксированном массиве данных. Благодаря указанному подходу мы можем эффективнее защищать пользователей от враждебных высказываний и призывов к насилию.У нас впереди ещё много работы, но такое обучение поможет нашей системе развиваться и лучше понимать корректное значение мультимодального контента.