איך Meta מאמנת את הטכנולוגיה
מעודכן 19 בינו' 2022
לפעמים, המשמעות של פריט תוכן ברורה מייד לאדם אך פחות ברורה לטכנולוגיה. כדי לשמור על בטיחותם של אנשים, Meta צריכה לאמן בינה מלאכותית כדי שתוכל לזהות פוסטים שמפרים את הכללים.
לדוגמה, התוכן הבא משלב טקסט ותמונות. שתיים מהתמונות תקינות; שתי האחרות עשויות להיות בעלות אופי שלילי.
ללא אימון הולם, מרבית כלי ה-AI יתקשו לבצע את ההבחנות האלה. ה-AI קורא את הטקסט וקובע את המשמעות המילולית של המילים, או מתבונן בתמונה כדי לקבוע את המשמעות הכללית של נושא התמונה. אנשים, לעומת זאת, משלבים באופן אינסטינקטיבי בין הטקסט והתמונה כדי להבין את התוכן.
אחת הדרכים שבהן אנחנו מתמודדים עם המצב הזה היא על ידי אימון הטכנולוגיה שלנו כך שתחילה תבחן את כל הרכיבים של הפוסט ורק אז תקבע מה המשמעות האמיתית. תהליך זה יכול לעזור מאוד ל-AI לזהות באופן מדויק יותר מה רואה אדם כשהוא מתבונן באותו פוסט.
אנחנו גם משתמשים במערכת שמנחה את ה-AI ללמוד בצורה ישירה ממיליוני פריטי תוכן עדכניים ולעזור באיסוף נתוני אימון שמשקפים את היעדים שלנו. זה שונה ממערכות AI טיפוסיות שמסתמכות על נתונים קבועים לאימון. שימוש בשיטה זו עוזר לנו להגן טוב יותר על אנשים מפני דברי שטנה ותוכן שמסית לאלימות.עדיין יש לפנינו עבודה רבה, אך אימון כזה עוזר לטכנולוגיה שלנו להמשיך ולהשתפר ולהבין טוב יותר את המשמעות האמתית של תוכן מולטי-מודאלי.