שינויים באכיפת תוכן באמצעות AI
מעודכן 19 במרץ 2026
תמיד השתמשנו בשילוב של טכנולוגיה ואנשים כדי לבדוק תוכן ולאכוף את כללי הקהילה שלנו. כפי שהודענו, אנחנו מנסים לשלב מערכות AI מתקדמות יותר בתהליכי אכיפת התוכן הקיימים שלנו. המטרה שלנו היא להמשיך להתבסס על התוצאות החיוביות מהשינויים שביצענו בשנה שעברה כדי לצמצם שגיאות, בעזרת מערכות מעודכנות שיכולות לזהות הפרות חמורות יותר של הכללים בנושא תוכן ותוכן לא חוקי, למנוע יותר מקרי הונאה ולהגיב מהר יותר לאירועים בעולם האמיתי.
עם זאת, למרות השימוש בטכנולוגיה חדשה במטרה להרחיב את גבולות האפשרי, הגישה שלנו תמשיך להציב את האנשים במרכז. המומחים שלנו ממשיכים להיות אחראים לכתיבה וליצירה של המדיניות שלנו, לתכנון, לאימון ולהערכה של מערכות ה-AI שלנו ולמדידת הביצועים, והם עדיין מקבלים את ההחלטות המורכבות והמשמעותיות ביותר. מדובר בהתפתחות של האופן שבו אנחנו משלבים את ההיקף והיכולות של AI מתקדם עם המומחיות ושיקול הדעת של אנשים, כאשר כל גורם מחזק את האחר כדי לשמור על בטיחות האנשים בפלטפורמות שלנו.
מה משתנה ומה לא משתנה
תהליך פריסה מדורג וזהיר
אנחנו מתכוננים למעבר הזה בזהירות ולאורך זמן כדי לוודא שהמעבר יהיה מתוכנן ומסודר. כל מודל AI עובר בדיקות קפדניות ומפורטות לפני הפריסה. רק כאשר הטכנולוגיה תשיג ביצועים טובים יותר באופן עקבי בכל הבדיקות שלנו בהשוואה למערכות הקיימות, נעבור לאכיפה מבוססת-AI.
מה חדש: תמיכה ביותר שפות וזיהוי משופר
אלה מערכות AI מתקדמות יותר שתומכות בשפות שמדוברות על ידי 98% מהאנשים שמחוברים לאינטרנט – הפרש משמעותי לעומת המערכת הקודמת, שתמכה בכ-80 שפות. ככה אנחנו יכולים ליישם את המדיניות בצורה מדויקת ועקבית יותר במיליארדי פריטי תוכן. המערכות האלה יכולות גם להבין הקשרים וניואנסים תרבותיים רחבים יותר, כולל תת-תרבויות נישתיות – מילות קוד, סמלי אמוג'י וסלנג ספציפיים לאזור שמשתנים במהירות.
בדיקות מוקדמות כבר הראו תוצאות מבטיחות בזיהוי הניואנסים האלה לצורך אכיפה, למשל כאשר מערכות ה-AI שלנו זיהו אתר מזויף שהתחזה לכתובת אינטרנט לגיטימית והעמיד פנים שהוא חנות פופולרית לציוד ספורט. המערכות הבחינו בשימוש בלוגו אמיתי עם מחירים נמוכים מדי וכתובת אינטרנט חשודה.
מה לא משתנה: עקרונות האכיפה
- האנשים נשארים במרכז: אנשים ממשיכים למלא תפקיד מרכזי בגישה שלנו לאכיפת תוכן. צוותי מומחים הם האדריכלים של אכיפה מבוססת-AI ב-Meta. הם קובעים את המדיניות, מכשירים את המודלים, מאמתים את הביצועים ומטפלים בהחלטות בעלות סיכון גבוה והשפעה משמעותית, כמו קבלת ההחלטה הסופית בערעורים על השבתת חשבון ועדכון של רשויות אכיפת החוק כאשר החוק דורש זאת.
- כללי הקהילה: כללי הקהילה שלנו לא משתנים במסגרת המעבר הזה, והם ימשיכו להגדיר את הכללים שלנו לגבי מה מותר ומה אסור בפלטפורמות שלנו. הדבר היחיד שמשתנה הוא האופן שבו אנחנו אוכפים את המדיניות הזו.
- דיווח וערעורים: אתם יכולים עדיין לדווח על תוכן שלדעתכם מפר את המדיניות שלנו. ואם ננקוט פעולה לגבי התוכן או החשבון שלכם, תוכלו עדיין לערער על החלטה זו.
איך זה עובד
הגישה שלנו משלבת יכולות AI עם מומחיות אנושית לאורך כל התהליך.
בדיקות קפדניות לפני הפריסה
לפני שמערכת AI מקבלת החלטות אמיתיות בנושא אכיפה, אנחנו בודקים אותה בקפדנות ומשלבים בה אמצעי בטיחות. אנחנו משווים את החלטות הטכנולוגיה להחלטות של הבודקים המנוסים ביותר שלנו, ומשתמשים בה רק אחרי שהוכח בפועל שהיא משיגה ביצועים טובים יותר באופן עקבי מאשר השיטות הנוכחיות שלנו לאכיפת תוכן.
כללי איכות ברורים
כל מודל צריך לעמוד בדרישות סף ספציפיות לגבי רמת הדיוק לפני שנפרוס אותו. אנחנו מעריכים את הביצועים כדי להבטיח עקביות, יעילות, הוגנות ודיוק – ולוודא שאנחנו מזהים נכון הפרות אמיתיות ומבחינים בין תוכן שמפר את הכללים שלנו לתוכן שלא מפר אותם.
ניטור רציף
לאחר הפריסה, כל מודל עובר הערכה רציפה. אנחנו עוקבים אחר הדיוק, מנטרים שינויים בלתי צפויים בביצועים ויכולים להתאים או לשפר את המודלים במהירות במקרה של בעיה. המערכות שלנו נועדו לפעול ולבצע תיקונים במהירות – צוותים וטכנולוגיה בודקים מגמות כדי לזהות בעיות בשלב מוקדם.
מומחיות אנושית לאורך כל הדרך
אנשים מתכננים את המדיניות. אנשים מאמנים את ה-AI. אנשים מנטרים ביצועים. ואנשים מטפלים בהחלטות המורכבות והעדינות ביותר שיש להן השלכות משמעותיות. ה-AI מאפשר אכיפה טובה יותר בקנה מידה רחב ומשפר את עקביות האכיפה, כאשר בני האדם מפעילים שיקול דעת ומפקחים על המערכת.
ביצועים בתחומי מדיניות שונים
המודלים של ה-AI שלנו משתפרים גם בבדיקות המוקדמות בתחומי מדיניות שונים:
תרמיות והונאות
נמצא פתרון AI אחד שנועד למנוע מרמאים להונות אנשים ולגרום להם למסור את פרטי ההתחברות שלהם. הוא עצר 5,000 ניסיונות הונאה ביום שאף צוות בדיקה קיים לא תפס בעבר.
תוכן למבוגרים שמפר את המדיניות
מערכות AI שנבנו כדי לאתר הפרות של שידול מיני של מבוגרים זיהו יותר מפי שניים תכנים שהפרו את המדיניות לעומת בני אדם, וצמצמו את שיעור הטעויות ביותר מ-60%. המשמעות היא שאנחנו מוצאים ומסירים תוכן מזיק מהר יותר ומגינים על יותר אנשים מפני אכיפה שגויה.
התחזות
ה-AI הפחית את הדיווחים של משתמשים על התחזות לדמויות בולטות ב-80%. במקום רק להתאים שמות, ה-AI יכול לזהות מתי אדם אחר מתחזה לדמות ציבורית על ידי ניתוח הקשר נוסף – פרטי הפרופיל, דפוסי הפרסום ומאפיינים קשורים שמעידים על חוסר אותנטיות.
מה הלאה
המעבר מתבצע בשלבים, עם בדיקות יסודיות בכל שלב. אנחנו מפרסמים נתוני אכיפה בדוח האכיפה של כללי הקהילה שלנו ונמשיך לשתף את מה שאנחנו מגלים – כולל הצלחות ואתגרים – ככל שאכיפה מבוססת-AI תתרחב לתחומי מדיניות נוספים. אנחנו גם מתכננים לחזק את הצוות הגלובלי של אנשים שמתמחים ביישום הכללים והמדיניות שלנו.
חשוב לנו להתנהל בשקיפות בנוגע למעבר הזה ולתהליכי האכיפה שלנו. לקבלת מידע נוסף על האופן שבו אנחנו נוקטים פעולה בנושא הפרות כיום, ראו נקיטת פעולה. לקבלת פרטים על המדיניות שלנו, עיינו בכללי הקהילה שלנו. אנחנו עובדים באופן שוטף עם מגוון בעלי עניין כדי לפתח את המדיניות שלנו, ונמשיך לעשות זאת לאורך המעבר במסגרת עבודה עם מחוקקים, מומחים חיצוניים ומועצת הפיקוח כדי לקבל משוב לגבי הגישה שלנו.
הגישה שלנו נועדה להסתגל לאיומים חדשים, לשפת הסלנג המתפתחת ולאתגרים חדשים כמו שפת קוד למכירת סמים. היא מבוססת על העיקרון שהתוצאות הטובות ביותר מתקבלות כשמשלבים טכנולוגיה מתקדמת עם שיקול דעת אנושי.