Як компанія Meta навчає технології
ОНОВЛЕНО 19 січ. 2022 р.
Іноді значення певного контенту відразу зрозуміле людині, але менш зрозуміле для технології. Заради безпеки користувачів компанія Meta має навчити штучний інтелект виявляти публікації, що порушують правила.
Наприклад, наведений нижче контент поєднує текст і зображення. Два зображення є доброзичливими, а інші два можуть бути зловмисними.
Без належного навчання ШІ переважно не може розрізнити це. Він або читає текст і визначає буквальне значення слів, або дивиться на зображення, щоб визначити загальне значення об’єкта на світлині. Люди, з іншого боку, інстинктивно поєднують текст і зображення, щоб зрозуміти зміст.
Один із способів вирішення цієї проблеми полягає в тому, що ми навчаємо нашу технологію спочатку розглядати всі компоненти допису, а вже потім визначати справжнє значення. Це може значно допомогти ШІ точніше визначати, що бачить людина, переглядаючи той самий допис.
Ми також використовуємо систему, яка допомагає ШІ навчатися безпосередньо на основі мільйонів актуальних фрагментів контенту й підбирати навчальні дані, що відповідають нашим цілям. Це відрізняється від типових систем ШІ, які для навчання використовують виправлені дані. Використання цього методу допомагає нам краще захищати людей від мови ворожнечі й контенту, що підбурює до насильства.Нам ще є над чим працювати, але це навчання допоможе нашій технології продовжувати вдосконалюватися та краще розуміти справжнє значення мультимодального контенту.