Analiza exactă a conținutului cu impact ridicat prin intermediul sistemului nostru de verificare încrucișată

ACTUALIZARE 12 NOV. 2024

La 6 decembrie 2022, Consiliul de supraveghere și-a publicat PAO privind politicile Meta de verificare încrucișată. Pentru a trata pe deplin numărul de recomandări primite, am convenit cu respectivul consiliu să revizuim recomandările și să răspundem la acestea în termen de 90 de zile. Pentru a afla mai multe despre sistemul de verificare încrucișată, accesați postarea din Centrul privind transparența.

Prezentare generală a verificării încrucișate

Utilizatorii Facebook și Instagram creează zilnic miliarde de elemente de conținut. Moderarea conținutului la această scară prezintă provocări, inclusiv compromisuri între valori și obiective importante. Ne străduim să analizăm rapid conținutul ce ne-ar putea încălca politicile și să îl eliminăm dacă ni le încalcă efectiv. Totuși, pentru a proteja vocea utilizatorilor, trebuie să punem în balanță acest obiectiv cu riscul apariției unor cazuri „fals pozitive” (eliminarea eronată a conținutului care nu încalcă politicile). (Aici ne referim la „eliminarea” conținutului, la care apelăm pentru a descrie acțiunile privitoare la integritate la modul mai general. Printre aceste acțiuni se poate număra, de exemplu, utilizarea de ecrane de avertizare și eliminarea paginilor.)

Pentru a pune în balanță toate aceste considerente, Meta a implementat sistemul de verificare încrucișată, în scopul identificării conținutului care constituie un risc crescut de identificare a elementelor fals pozitive și pentru a furniza niveluri suplimentare de analiză în vederea atenuării acestui risc. Verificarea încrucișată furnizează niveluri suplimentare de analiză pentru anumite conținuturi pe care sistemele noastre interne le semnalează drept încălcări ale politicilor (prin automatizare sau prin analiză umană), în scopul prevenirii sau minimizării erorilor de moderare cu cel mai înalt risc de generare a elementelor fals pozitive, care ar apărea altfel din pricina unor factori diverși, precum nevoia de a înțelege nuanțele ori contextul. (Aici ne referim la „conținutul” analizat prin intermediul sistemului nostru de verificare încrucișată. De asemenea, utilizăm verificarea încrucișată pentru a analiza alte acțiuni, precum ștergerea unei pagini sau a unui profil.) Verificarea încrucișată furnizează niveluri suplimentare de analiză, însă revizorii de conținut aplică aceleași Standarde ale comunității care se aplică tuturor celorlalte conținuturi de pe Facebook sau Instagram.

Sistemul de verificare încrucișată are un rol esențial, ajutându-ne să protejăm drepturile omului. De exemplu, sistemul de verificare încrucișată include entități și postări ale unor jurnaliști ce relatează din zone de conflict și ale unor lideri ai comunității ce atrag atenția asupra unor situații în care s-a făcut remarcată ura sau violența. Analizele bazate pe sistemul de verificare încrucișată iau în considerare contextul care sprijină abordarea corectă a acestui conținut. Analizele bazate pe sistemul de verificare încrucișată se pot aplica și entităților civice, acolo unde utilizatorii manifestă un interes sporit față de afirmațiile liderilor lor.

În plus, sistemul de verificare încrucișată are un rol important în gestionarea relațiilor Meta cu mulți dintre partenerii săi de afaceri. Eliminarea incorectă a conținutului postat de o Pagină sau de un profil cu mulți urmăritori poate duce la experiențe negative, atât pentru partenerii de afaceri ai Meta, cât și pentru un număr important de utilizatori care îi urmăresc. De asemenea, aplicăm sistemul de verificare încrucișată în cazul anumitor Grupuri foarte mari, unde o eroare poate afecta sute de mii sau milioane de utilizatori. Verificarea încrucișată nu scutește partenerii de afaceri ai Meta sau grupurile de la respectarea politicilor noastre privind conținutul, dar furnizează uneori niveluri suplimentare de analiză, pentru a asigura că politicile sunt aplicate cu precizie.

Utilizatorii Facebook și Instagram postează zilnic miliarde de elemente de conținut. Chiar dacă există mii de revizori de conținut în întreaga lume, nu este posibil să analizăm manual fiecare element de conținut care ne poate încălca Standardele comunității. Tehnologiile noastre detectează în mod activ vasta majoritate a conținuturilor ce ne încalcă politicile, înainte ca cineva să le raporteze. Atunci când cineva postează pe Facebook sau pe Instagram, tehnologia noastră verifică dacă respectivul conținut încalcă sau nu Standardele comunității. În majoritatea cazurilor, identificarea este simplă. Postarea fie încalcă în mod clar politicile noastre, fie nu. Însă, în alte cazuri, conținutul este transferat unui revizor de conținut uman, pentru o evaluare suplimentară.

Sistemele noastre de analiză principale folosesc tehnologia pentru a acorda prioritate conținutului cu gravitate ridicată, ce include conținut „viral” care se răspândește rapid. Atunci când sistemele semnalează un conținut pentru a fi transmis revizorilor de conținut, aceștia trebuie să ia decizii dificile și adesea nuanțate pentru a vedea dacă un anumit element de conținut poate rămâne pe platformă. Chiar dacă ne străduim întotdeauna să luăm deciziile corecte, trebuie să recunoaștem că se întâmplă să apară elemente fals pozitive și că anumite elemente de conținut sunt eliminate pentru încălcarea politicilor Meta, însă în realitate nu le încalcă. Prin urmare, Meta a investit în prevenirea greșelilor prin analiza suplimentară și reducerea elementelor fals pozitive. Verificarea încrucișată este una dintre aceste strategii de prevenire a greșelilor.

Verificarea încrucișată este un sistem utilizat pentru a ne asigura că deciziile de aplicare sunt luate cu precizie și implicând niveluri suplimentare de analiză umană. În cazul în care, în timpul unei verificări încrucișate, un revizor de conținut confirmă faptul că un conținut încalcă Standardele comunității noastre, impunem aceste politici și tratăm respectivul conținut în mod corespunzător. În funcție de complexitatea conținutului, este posibil să aplicăm mai multe niveluri de analiză, inclusiv, în situații rare, analize efectuate de conducere. În cazul în care revizorul de conținut final stabilește faptul că respectivul conținut nu ne încalcă Standardele comunității, revizorul de conținut poate „anula“ acțiunea inițială și lăsa conținutul pe platformă.

Practici istorice de verificare încrucișată

În 2013 am implementat pentru prima dată sistemul cunoscut acum drept verificare încrucișată. Detaliile sistemului au evoluat de-a lungul anilor și, în cazurile în care a fost posibil, am furnizat date și intervale de timp pentru modificările apărute.

Pentru a stabili ce conținut sau entități au fost analizate în sistemul de verificare încrucișată, echipele noastre au identificat și au întocmit liste de utilizatori sau entități percepute ca având un risc mai mare de a li se aplica acțiuni asociate cu elementele fals pozitive. „Riscul asociat elementelor fals pozitive“ se referă la riscul aplicării de măsuri incorecte asupra conținutului sau entităților care, în realitate, nu încalcă Standardele comunității noastre. Pentru a stabili ce utilizatori și entități au avut un risc mai mare de a li se aplica acțiuni asociate cu elemente fals pozitive, echipele noastre au aplicat o serie de criterii, inclusiv tipul de utilizator sau de entitate (de exemplu, un demnitar ales, un jurnalist, un partener de afaceri semnificativ, o organizație pentru drepturile omului), numărul de urmăritori și obiectul de activitate al entității. (Entitate este termenul general de unde ar putea proveni sau apărea conținutul, de exemplu, contul de utilizator, Pagina sau grupul.)

Atunci când utilizatorii sau entitățile aflate pe aceste liste au postat conținut sau au întreprins acțiuni pe care sistemele noastre le-au semnalat drept posibile încălcări ale politicilor, noi am adăugat conținutul sau pagina la o coadă, pentru verificare încrucișată.

Începând cu 2020 am făcut modificări astfel încât să stabilim prioritățile pentru majoritatea elementelor de conținut din coadă pe baza unui cadru de risc, care atribuie un anumit grad de risc asociat cu elementele fals pozitive în cazul în care Meta elimină în mod incorect conținutul respectiv. Acest cadru de risc se baza, în general, pe 3 factori: (1) sensibilitatea entității, (2) gravitatea presupusei încălcări și (3) gravitatea măsurilor potențiale.

Practici actuale de verificare încrucișată

La fel ca în cazul tuturor politicilor și proceselor noastre, căutăm în permanență modalități de îmbunătățire și efectuăm modificări constant. În prima parte a acestui an, am identificat oportunități suplimentare de îmbunătățire a sistemului de verificare încrucișată. O modificare structurală pe care am realizat-o a constat în instituirea unui sistem de verificare încrucișată cu două componente: analiza secundară generală (ASG) și analiza secundară aferentă entității sensibile (ASES). Chiar dacă vom continua să folosim abordarea bazată pe liste descrisă mai sus pentru includerea în ASES pentru un procent din anumiți utilizatori și entități, pentru ASG suntem pe punctul de a asigura eligibilitatea conținutului de la toți utilizatorii și de la toate entitățile de pe Facebook și Instagram în vederea verificării încrucișate, pe baza unui sistem dinamic de stabilire a priorităților denumit „clasament de verificare încrucișată”.

ASG implică revizori de conținut externi și persoane din echipa noastră regională care întreprind o analiză secundară a conținutului și entităților care ne pot încălca politicile, înainte de a se lua măsuri de constrângere. Această analiză nu se bazează exclusiv pe identitatea unui utilizator sau a unei entități pentru a stabili ce conținut va fi supus unei analize cu verificare încrucișată. Clasamentul de verificare încrucișată clasifică conținutul pe baza riscului asociat elementelor fals pozitive, utilizând criterii precum sensibilitatea subiectului (cât de în vogă/sensibil este subiectul), gravitatea măsurii (gravitatea potențialelor măsuri de constrângere), probabilitatea de a fi vorba despre un element fals pozitiv, impactul estimat și sensibilitatea entității (în cea mai mare parte, în baza listelor întocmite descrise mai sus). Clasamentul de verificare încrucișată este utilizat deja astăzi în majoritatea analizelor cu verificare încrucișată.

ASES este asemănătoare sistemului existent de verificare încrucișată. Pentru a stabili ce conținut sau entități vor beneficia de ASES, continuăm să păstrăm liste cu utilizatori și entități amenințate cu măsuri de constrângere și care sunt analizate prin sistemul suplimentar de verificare încrucișată, în cazul în care primim semnalări că este posibil ca acestea să încalce Standardele comunității. Cu toate acestea, am adăugat controale în cadrul acestui proces de întocmire și revizuire a respectivelor liste. Înainte de septembrie 2020, majoritatea angajaților puteau adăuga un utilizator sau o entitate la lista de verificare încrucișată. După septembrie 2020, chiar dacă toți angajații pot solicita ca un utilizator sau o entitate să fie adăugat(ă) pe listele de verificare încrucișată, doar un grup desemnat de angajați dispune de autoritatea de a face adăugiri pe această listă.

Atribuțiile de autoritate pentru lista ASES îi revin în prezent organizației noastre responsabile cu operațiunile globale, care este sprijinită de echipa noastră juridică și de cea responsabilă pentru parteneriate, cu experiență și cunoștințe de specialitate în acest sens. În timp ce structura de raportare a echipei noastre responsabile cu operațiunile globale este diferită de cea a echipei Meta responsabile cu politicile publice, aceasta din urmă este consultată în scop informativ în luarea deciziilor în urma verificării încrucișate, la fel ca în multe domenii de moderare a conținutului din cadrul companiei. În aceste cazuri, echipa noastră responsabilă cu operațiunile poate valorifica expertiza echipei Meta responsabile cu politicile publice, în combinație cu cea a experților noștri regionali și a revizorilor specializați, indiferent de limbă, pentru a îmbunătăți perspectivele locale și culturale. Structurile de raportare diferite contribuie la asigurarea unei revizii independente de influențe politice sau economice. Pentru păstrarea unor liste relevante și adecvate, am dezvoltat, de asemenea, un proces atent de revizuire anuală, în scopul auditării entităților de pe listele ASES, pentru stabilirea eligibilității. Vom continua să perfecționăm acest proces.

În ultimele luni, Meta a analizat în medie câteva mii de lucrări cu verificare încrucișată pe zi, majoritatea acestora fiind finalizate în cadrul ASG. (Raportat la milioanele de elemente de conținut care sunt semnalate și asupra cărora se intervine zilnic din cauza încălcării Standardelor comunității, acesta este un număr mic.) ASES constituie acum un procent minor din aceste analize zilnice. Până la sfârșitul anului 2021 și în anul 2022, anticipăm o modificare continuă a numărului de lucrări supuse analizei cu verificare încrucișată ca urmare a prioritizării ASG.

Dacă un element de conținut provine de la un individ sau o entitate care urmează să fie supus(ă) unei ASES, acesta este de obicei analizat mai întâi de echipa regională. Echipa de escaladări va analiza apoi conținutul, pentru a confirma dacă încalcă politicile. În general, dacă echipa regională consideră că elementul de conținut nu ne încalcă politicile, echipa de escaladări nu va mai face nicio analiză. Dacă un element de conținut provine de la un individ sau de la o entitate prioritizat(ă) în clasamentul de verificare încrucișată, în mod normal, contractorii sau echipele regionale îl vor analiza, cu excepția cazului în care echipa de escaladări are capacitate suplimentară pentru a realiza acest lucru. La fel ca în cazul verificării încrucișate existente, problemele deosebit de complexe pot fi analizate suplimentar, inclusiv, în situații rare, de către conducere. În cazul în care analiza finală constată că elementul de conținut ne încalcă Standardele comunității, îl vom elimina. Dacă analizele noastre constată că nu le încalcă, conținutul va rămâne neatins.

Din data de 16 octombrie 2021, aproximativ 660.000 de utilizatori și entități au acționat într-un mod care a impus necesitatea unei anumite forme de ASES, fiind incluse pe listele menționate mai sus. Acest număr se schimbă cu regularitate, deoarece adăugăm sau eliminăm utilizatori și entități (de) pe listele menționate mai sus, în funcție de criteriile de includere care se află într-o permanentă schimbare. Printre utilizatorii și entitățile eligibili/eligibile pentru ASES se numără, fără a se limita la acestea:

Entități legate de răspunsuri la escaladări sau evenimente cu risc ridicat. La ora actuală, există un proces informal în cadrul căruia echipele care se pregătesc pentru un eveniment cu risc ridicat identifică entitățile care au un risc ridicat de a li se aplica măsuri de constrângere exagerate. De exemplu, în cazul în care conținutul controversat al unui utilizator devine viral (de exemplu, un clip video în direct care are ca subiect violența poliției), putem identifica utilizatorul respectiv pentru o ASES, pentru a preîntâmpina ștergerea eronată.
Entități incluse în scopuri de conformitate juridică. Utilizăm ASES în anumite situații pentru a respecta cerințele legale sau de reglementare.
Persoane publice și editori cu vizibilitate ridicată. Identificăm aceste entități pentru ASES, întrucât luarea unor măsuri de constrângere exagerate poate duce la experiențe negative pentru un număr mare de utilizatori.
Populații marginalizate. Identificăm apărătorii drepturilor omului, dizidenții politici și alte persoane despre care considerăm că ar putea reprezenta ținte ale hărțuirii susținute la nivel statal sau de alt tip, postările de tip „brigading“ sau raportarea în masă în vederea protejării față de aceste atacuri.
Entități civice. Urmărim criterii obiective și expertiza echipei noastre de politici de la nivelul regiunilor pentru a identifica politicienii, oficialii guvernamentali, instituțiile, organizațiile, grupurile de susținere și influencerii civici. Includem aceste entități în vederea ASES, pentru a preveni erorile care ar putea limita discursul politic ce nu încalcă politicile și pentru a nu avea un impact involuntar asupra discuțiilor pe teme civice precum alegerile, politicile publice și problemele sociale. Obiectivul nostru este să asigurăm paritatea între entitățile civice dintr-o țară – de exemplu, dacă includem un minister național în vederea ASES, atunci trebuie să includem toate ministerele din guvernul țării respective în vederea unei ASES.
Afaceri. Identificăm promotorii de mare valoare, precum și pe cei în cazul cărora s-a efectuat o aplicare de măsuri excesivă, pentru a proteja veniturile și pentru a inspira încredere pe termen lung în platforma noastră.

La ora actuală, analizăm cum putem îmbunătăți criteriile pentru identificarea entităților care ar trebui să beneficieze de o ASES. De exemplu, analizăm cum să ne dezvoltăm criteriile pentru aspecte precum numărul de urmăritori, numărul măsurilor luate anterior în cazul elementelor fals pozitive, cerințele legale/de reglementare, precum și problemele importante din domeniul politicii/societății. Utilizatorii pot solicita să nu fie incluși în lista ASES, prin completarea acestui formular. Meta nu confirmă dacă utilizatorii se află pe aceste liste sau dacă au fost șterși de pe ele. Totuși, credem cu tărie în autonomia utilizatorilor, așa că vom revizui fiecare solicitare cât mai curând posibil.

În plus față de cele două componente ale sistemului de verificare încrucișată, dispunem și de un sistem intern de prevenire a erorilor, denumit revizuire multiplă dinamică (RMD). Acesta este un sistem care ne permite să trimitem înapoi cazurile revizuite, pentru a fi reexaminate, astfel încât să fie obținut un vot majoritar asupra unei decizii (de exemplu, dacă majoritatea revizorilor sunt de acord cu privire la o decizie, cazul este închis) și încrederea în corectitudinea întregului proces să crească. Folosim acest sistem pentru a îmbunătăți calitatea și acuratețea analizei umane și pentru a reduce riscul unor decizii incorecte, prin ajustarea numărului de revizii de care avem nevoie pentru luarea deciziei finale pe baza unui număr de factori diferiți, precum viralitatea, numărul de vizualizări și potențialul de a vătăma (de exemplu, potențiale încălcări ale politicilor noastre privind Exploatarea sexuală sau Persoane și organizații periculoase).

Intervenții viitoare pentru transparența verificărilor încrucișate

Ca răspuns la decizia Consiliului de supraveghere din decembrie 2022 cu privire la recomandările privind politicile referitoare la verificarea încrucișată, ne-am angajat, de asemenea, să implementăm o serie de intervenții pentru prevenirea erorilor și asigurarea transparenței. Aceste intervenții includ:

Interacțiunea structurată și susținută cu echipele noastre interne responsabile cu Drepturile omului și drepturile civile, cu Partenerii noștri de încredere și cu alte organizații externe ale societății civile în scopul explorării modalităților de comunicare a criteriilor pe care le folosim pentru a identifica entitățile de interes public ce urmează să fie incluse pe liste de verificare încrucișată.
Explorarea unui proces mai formal de nominalizare a entităților incluse pe listele de verificare încrucișată, din cadrul grupurilor care aparțin societății civile globale, regionale și locale.
Investiții în revizia de calitate și în formarea resurselor, pe măsură ce toate deciziile privind verificarea încrucișată vor fi luate de personal și apelându-se la revizori care vorbesc anumite limbi și au expertiză regională ori de câte ori este posibil.
Implementarea unor acorduri robuste asupra nivelului de calitate a serviciilor (SLA) pentru deciziile de revizuire în cadrul sistemelor noastre de prevenire a erorilor, care să ne permită să optimizăm modelul actual de asigurare a personalului responsabil cu revizuirea, pentru a putea realiza cele mai rapide revizuiri posibile, în limba care se impune.

Deși am făcut îmbunătățiri semnificative în cadrul sistemului de verificare încrucișată, încercăm în continuare să identificăm metode prin care să ne asigurăm că acest sistem gestionează, într-un mod echilibrat, obiectivul nostru de a elimina conținutul care ne încalcă Standardele comunității, asigurându-ne totodată că reducem la minimum erorile atunci când luăm măsuri de constrângere cu impact major.