שיעור פעילות
מעודכן 22 בפבר' 2023
מדד זה מציג את אחוז פריטי התוכן והחשבונות שמצאנו ונקטנו לגביהם פעולה לפני שמשתמשים דיווחו לנו עליהם. אנחנו משתמשים במדד זה כדי להבין מה מידת היעילות שבה אנחנו מזהים הפרות.
ההשקעות שלנו בטכנולוגיות של למידת מכונה חיוניות לקיצור זמן הזיהוי.
אנחנו מאזנים בין למידת מכונה לבין צוות מומחים מיומן שבודק הפרות ונוקט פעולה לגביהן.
יש הפרות מסוימות שאנחנו מזהים בשיעור גבוה, זאת אומרת שאנחנו מוצאים את מרבית התוכן שכולל הפרות כאלה ונוקטים פעולה לגביו לפני שמשתמשים מדווחים לנו עליו. השיעור גבוה במיוחד במקרים שבהם הצלחנו לבנות טכנולוגיית למידת מכונה שמזהה באופן אוטומטי תוכן שעשוי להפר את הכללים שלנו.
זוהי טכנולוגיה מבטיחה מאוד, אך דרושות עוד שנים כדי להגיע לרמת יעילות שתכסה את כל סוגי ההפרות. לדוגמה, היכולת להבין הקשר וניואנסים עדיין מוגבלת, במיוחד בתוכן מבוסס טקסט. היכולת המוגבלת יוצרת אתגרים נוספים בזיהוי יזום של הפרות מסוימות.
המדד יכול לעלות או לרדת עקב גורמים חיצוניים. לדוגמה, התקפת סייבר שבמהלכה מפיצי ספאם משתפים 10 מיליון פוסטים שכוללים את אותה כתובת URL זדונית. אם זיהינו את כתובת ה-URL הזדונית לפני שמשתמש כלשהו דיווח עליה, שיעור הפעילות יעלה במהלך התקפת הסייבר וירד לאחר מכן, אפילו אם טכנולוגיית הזיהוי לא השתנתה במהלך פרק זמן זה. המדד גם יכול לעלות או לרדת בהתאם לשינויים בתהליכים ובכלים שלנו. לדוגמה, הוא עשוי לעלות אם טכנולוגיית הזיהוי משתפרת, אך הוא עשוי לרדת אם דיווחי המשתמשים משתפרים ואנחנו מסתמכים במידה פחותה על זיהוי יזום.
מכיוון שהמדד מבוסס על כמות התוכן שנקטנו פעולה לגביו, חלים עליו שיקולים דומים. שיעור הפעילות אינו משקף את משך הזמן שנדרש לנו כדי לזהות תוכן מפר או את מספר הפעמים שצפו בו לפני הזיהוי. הוא גם אינו משקף את מספר ההפרות שלא זיהינו כלל או את מספר הפעמים שצפו בתוכן הזה. אחוז התוכן שאנחנו מזהים באופן יזום יכול להיות גבוה מאוד ולהגיע עד ל-99% בסוגים מסוימים של הפרות, אך אפילו האחוז הקטן שנותר עלול לגרום נזק משמעותי לאנשים.
כיצד מחושב שיעור הפעילות
האחוז הזה מחושב כך: מספר פריטי התוכן שמצאנו ונקטנו פעולה לגביהם לפני שאנשים המשתמשים בפייסבוק או באינסטגרם דיווחו עליהם, חלקי המספר הכולל של פריטי תוכן שנקטנו פעולה לגביהם.
לגבי חשבונות מזויפים בפייסבוק, אנחנו מחשבים מדד זה כאחוז חשבונות הפייסבוק שגילינו שהם מזויפים והשבתנו אותם בגלל זה, לפני שמשתמשים דיווחו לנו עליהם. המדד מחושב כמספר החשבונות שהושבתו אשר מצאנו ונקטנו פעולה לגביהם לפני שמשתמשים דיווחו עליהם, חלקי המספר הכולל של חשבונות שהושבתו בגלל שהם מזויפים.
הסתייגויות
בחישוב שיעור הפעילות אנחנו משתמשים בשיטה קפדנית לייחוס דיווחי משתמשים לתוכן. לדוגמה, אם מישהו מדווח על דף, ובמהלך בדיקת הדף אנחנו מזהים תוכן מפר בדף ונוקטים פעולה לגביו, נדווח שפעלנו לגבי תוכן זה באופן יזום (אלא אם היו דיווחים ספציפיים נוספים לגביו ממשתמשים).
הציגו את דוח האכיפה האחרון של כללי הקהילה