איך הטכנולוגיה עוזרת לתעדף בדיקות
מעודכן 19 בינו' 2022
בין שאנשים מדווחים על תוכן שעלול להפר את הכללים ובין שהטכנולוגיה של Meta מזהה אותו, האוטומציה עוזרת לנו לנתב במהירות את התוכן לבודקים בעלי המומחיות המתאימה בנושא ובשפה.
לאחר מכן אנחנו משתמשים בטכנולוגיה כדי לדרג תוכן ולתעדף אותו, כך שצוותי הבדיקה שלנו יוכלו להתמקד תחילה במקרים החשובים ביותר. זה כולל תוכן עם פוטנציאל לפגיעה מחוץ לרשת, כגון פוסטים הקשורים לטרור ולהתאבדות, ותוכן ויראלי שמפר את המדיניות שלנו ויש לו פוטנציאל להגיע לקהל גדול.
כדי לוודא שצוותי הבדיקה יקדישו זמן רב יותר שממוקד בקבלת ההחלטות הנכונות, אנחנו משפרים את הטכנולוגיה והתהליכים שלנו כל הזמן.
מדוע צוותי בדיקה חשובים לאכיפת תוכן
כדי להפחית נזקים בקהילה שלנו, הטכנולוגיה וצוותי הבדיקה האנושית שלנו תמיד עובדים יחד. הנה כמה דרכים שבהן בודקים, בשילוב עם טכנולוגיה, עוזרים לחזק את מערכת אכיפת התוכן כולה.
אימון הטכנולוגיה שלנו
כשבודקים מקבלים החלטה לגבי פריט תוכן, הם גם מאמנים ומשפרים את הטכנולוגיה שלנו כדי לעזור לה לזהות פריטי תוכן דומים אחרים לאורך זמן. מעגל המשוב בין אדם לטכנולוגיה חיוני לשמירה על העדכניות של המערכות שלנו.
שיפור האלגוריתמים של הבינה המלאכותית שלנו
כשצוותי הבדיקה בודקים תוכן שמפר את המדיניות, הם מסמנים באופן ידני את המדיניות שלפיה הם מחליטים. המשמעות היא שהם מסמנים את המדיניות שהתוכן, החשבון או ההתנהגות מפרים. נתוני הסימון החשובים האלה עוזרים לנו לשפר את איכות האלגוריתמים של הבינה המלאכותית שלנו, המחפשים באופן יזום תוכן מזיק.
קבלת החלטות קשות
הטכנולוגיה שלנו מצטיינת במיוחד בשני תחומים: זיהוי הפרות חוזרות וזיהוי תוכן בוטה או קיצוני באופן מופגן. אבל כשיש מידה גבוהה של אי-בהירות, מורכבות או ניואנס בשאלה אם המדיניות שלנו חלה על פריט תוכן, הבודקים נוטים לקבל החלטות טובות יותר מאשר הטכנולוגיה.