האתגר של זיהוי דברי שטנה
מעודכן 19 בינו' 2022
זיהוי דברי שטנה על ידי טכנולוגיה וצוותי בדיקה אנושית הוא משימה קשה במיוחד. יש הבדלים גדולים בין ביטויים וניואנסים בתרבויות, שפות ואזורים שונים. כמו כן, אנשים משתמשים לפעמים במילים שבדרך כלל נחשבות לדברי שטנה, אך הם עושים זאת כדי להגביר את המודעות לבעיה או לצורך התייחסות לעצמם במטרה להשיב לעצמם את הבעלות על המונח.
זיהוי דברי שטנה בטקסט מהווה אתגר לא קטן. מעבר לכך, דברי שטנה רבים שאנחנו מוצאים בפייסבוק ובאינסטגרם מופיעים בתמונות ובסרטונים. לדוגמה, במם יכול להיעשות שימוש בשילוב של טקסט ותמונות כדי לתקוף קבוצת אנשים מסוימת. זה מציב בפני האמצעים הטכנולוגיים אתגר גדול אף יותר.
תוכן כזה הופך למורכב יותר כשאנשים מנסים להימנע מזיהוי על ידי שינוי התוכן שלהם. לדוגמה, ייתכן שהם ישתמשו באיות שגוי, יימנעו מביטויים מסוימים או ישנו את התמונות והסרטונים שלהם.
התקדמות בשימוש בבינה מלאכותית לזיהוי דברי שטנה
בשנים האחרונות שיפרנו את הכלים שלנו לזיהוי דברי שטנה, ועכשיו אנחנו מסירים חלק גדול מהתוכן הזה לפני שאנשים מדווחים עליו – ובמקרים מסוימים, לפני שמישהו רואה אותו.
אנחנו משתמשים ב-AI כדי לזהות תמונות וטקסט זהים לתוכן שכבר הסרנו בשל היותו מה שאנחנו מגדירים כדברי שטנה. הטכנולוגיה שלנו גם בודקת רגשות ותגובות כדי להעריך את מידת הדמיון בין פריטי תוכן.
השיטות האלה עוזרות לטכנולוגיה שלנו לזהות דברי שטנה באופן מדויק יותר, גם כשהמשמעות לא ברורה או כשהתוכן השתנה כדי להימנע מזיהוי.
לעיון בניתוח מעמיק בבלוג ה-AI של פייסבוק