Transformarea aplicării politicilor privind conținutul cu ajutorul AI

ACTUALIZARE 19 MAR. 2026

Am folosit întotdeauna o combinație de tehnologie și persoane pentru a analiza conținutul și pentru a aplica Standardele comunității noastre. Așa cum am anunțat recent, testăm integrarea unor sisteme AI mai avansate în procesele noastre existente de aplicare a politicilor privind conținutul. Astfel, bazându-ne pe rezultatele pozitive ale schimbărilor aduse anul trecut pentru reducerea numărului de greșeli comise, dorim să ne actualizăm sistemele pentru a detecta mai mult conținut care încalcă grav regulile noastre sau legea, pentru a opri mai multe escrocherii și pentru a răspunde mai rapid la evenimentele din întreaga lume.

Cu toate acestea, chiar și atunci când folosim mai multe tehnologii noi pentru a scala ceea ce este posibil, oamenii vor rămâne în centrul abordării noastre. Experții noștri rămân responsabili pentru redactarea și crearea politicilor, pentru conceperea, instruirea și evaluarea sistemelor noastre AI și pentru măsurarea performanței. Aceștia vor lua în continuare deciziile cele mai complexe, cu impact ridicat. Este o evoluție a modului în care combinăm dimensiunea și capacitățile sistemelor AI avansate cu expertiza și judecata umană, pentru ca acestea să se consolideze reciproc și să asigure siguranța utilizatorilor pe platformele noastre.

Ce se schimbă și ce rămâne la fel

Lansare progresivă și atentă

Abordăm cu atenție această tranziție, dedicând timpul necesar pentru a ne asigura că lansarea este atentă și deliberată. Fiecare model AI trece printr-o testare riguroasă, în mai multe faze, înainte de implementare. Vom trece la aplicarea de tip AI-first numai atunci când observăm că tehnologia a avut constant performanțe mai bune decât sistemele noastre existente în toate testele efectuate.

Noutăți: mai multe limbi disponibile și detectare îmbunătățită

Aceste sisteme AI mai avansate acoperă limbile vorbite de 98 % dintre utilizatorii online, mult peste acoperirea noastră anterioară de aproximativ 80 de limbi, ceea ce ne ajută să aplicăm politicile cu mai multă precizie și consecvență pentru miliarde de elemente de conținut. De asemenea, aceste sisteme pot înțelege mai mult context și nuanțe culturale, inclusiv subculturi de nișă, cuvinte cod, emoji-uri și argou care se schimbă rapid și sunt specifice regiunilor.

Testele preliminare au dat deja rezultate promițătoare în ceea ce privește găsirea acestor nuanțe pentru aplicare, de exemplu, atunci când sistemele noastre AI au detectat un site web fals care a preluat identitatea unei adrese web autentice și a pretins că este un magazin popular cu articole sportive prin observarea siglei reale folosite cu prețuri neobișnuit de scăzute și cu o adresă web suspectă.

Ce rămâne la fel: principiile de bază ale aplicării

Oamenii rămân în centrul atenției: oamenii continuă să joace un rol principal în abordarea noastră cu privire la aplicarea politicilor de conținut. Echipele de experți sunt arhitecții aplicării sistemului AI de la Meta. Aceștia stabilesc politicile, instruiesc modelele, validează performanța și iau decizii cu risc și impact foarte mari, de exemplu, decizia finală legată de contestațiile privind dezactivarea conturilor și informarea instituțiilor de ordine publică atunci când legea impune acest lucru.
Standardele comunității: Standardele comunității noastre nu se modifică ca urmare a acestei schimbări și vor continua să ne definească regulile privind ceea ce este și ce nu este permis pe platformele noastre. Singurul lucru care se schimbă este modul în care aplicăm politicile.
Raportare și contestații: poți în continuare să raportezi conținutul despre care consideri că încalcă politicile noastre. De asemenea, dacă luăm măsuri în privința conținutului sau contului tău, poți în continuare să contești decizia respectivă.

Cum funcționează

Abordarea noastră combină capacitățile AI-ului cu expertiza umană integrată în cadrul procesului.

Testare riguroasă înainte de implementare

Înainte ca orice sistem AI să ia decizii de aplicare reale, îl testăm cu rigurozitate și îi încorporăm măsuri de măsuri de protecție. Comparăm deciziile sale cu cele ale celor mai experimentați revizori ai noștri și îl implementăm numai atunci când constatăm că are rezultate constant mai bune decât metodele noastre actuale de aplicare a politicilor de conținut.

Standarde clare privind calitatea

Fiecare model trebuie să întrunească anumite cerințe de precizie înainte de a fi lansat. Evaluăm performanța pentru a asigura consecvența, eficacitatea, corectitudinea și precizia, pentru a ne asigura că identificăm corect încălcările reale și că diferențiem conținutul care încalcă politicile de cel care nu le încalcă.

Monitorizare continuă

După implementare, fiecare model este evaluat în permanență. Urmărim acuratețea, monitorizăm performanța pentru a vedea dacă apar modificări neașteptate și putem ajusta sau rafina rapid modelele dacă apar probleme. Sistemele noastre sunt concepute pentru iterație și corecție rapidă. Echipele și tehnologia analizează tendințele pentru a identifica problemele într-o etapă incipientă.

Expertiză umană la fiecare etapă

Oamenii creează politicile. Oamenii instruiesc AI-ul. Oamenii monitorizează performanța. Și oamenii gestionează cele mai nuanțate, complexe și riscante decizii. AI-ul abordează o mai bună aplicare la scară largă și îmbunătățește consecvența; oamenii iau decizii și supraveghează sistemul.

Performanța în aria de acoperire a politicii

Modelele noastre AI arată îmbunătățiri chiar și în testele din faza incipientă în mai multe arii de acoperire ale politicilor:

Fraude și înșelătorii

O soluție AI creată pentru a împiedica escrocii să păcălească oamenii să-și divulge informațiile de conectare a identificat și a oprit 5.000 de încercări de înșelătorie pe zi, pe care nicio echipă de analiză nu le-a mai detectat până atunci.

Conținut pentru adulți care încalcă standardele

Sistemele AI create pentru a detecta încălcarea politicii privind solicitările cu caracter sexual adresate adulților au detectat de peste două ori mai mult conținut care încalcă politica decât persoanele, reducând, în același timp, rata de greșeli cu peste 60 %. Aceasta înseamnă că detectăm și ștergem mai rapid conținutul dăunător, protejând mai multe persoane împotriva aplicării incorecte a regulilor.

Preluare de identitate

Tehnologia AI a redus cu 80 % rapoartele de la utilizatori privind preluarea identității unor persoane publice. În loc să se bazeze pe potriviri de nume, tehnologia AI poate recunoaște dacă cineva pretinde că este o persoană publică prin analizarea unui context mai larg: detalii din profil, tipare de postare și caracteristici asociate ce indică lipsă de autenticitate.

Privind în perspectivă

Această tranziție se produce în etape, cu testare atentă la fiecare pas. Publicăm date despre aplicare în Raportul privind aplicarea Standardelor comunității și vom continua să distribuim ceea ce aflăm – inclusiv atât reușitele, cât și provocările – pe măsură ce aplicarea AI se extinde în mai multe domenii ale politicilor. De asemenea, intenționăm să ne consolidăm echipa specializată de persoane la nivel global în cadrul Meta, cu o experiență îndelungată în aplicarea standardelor și politicilor noastre.

Transparența cu privire la această tranziție și la procesele noastre de aplicare este importantă. Pentru mai multe informații despre modul în care luăm măsuri în prezent în cazul încălcărilor, consultă secțiunea Luarea de măsuri. Pentru detalii despre politicile noastre, consultă Standardele comunității. Pe măsură ce ne dezvoltăm politicile, implicăm cu regularitate consultanți din diverse domenii și vom continua să facem acest lucru pe tot parcursul acestei tranziții, colaborând cu autoritățile de reglementare, cu experții externi și cu Consiliul de supraveghere pentru a solicita feedback în privința abordării noastre.

Abordarea noastră este concepută să se adapteze la noile amenințări, la argoul în continuă schimbare și la provocările emergente, precum limbajul codificat pentru vânzările de droguri. Și se bazează pe principiul că cele mai bune rezultate sunt obținute prin combinarea tehnologiei avansate cu deciziile umane.