Cum ne ajută tehnologia să stabilim prioritățile pentru analiză

ACTUALIZARE 19 IAN. 2022
Indiferent dacă conținuturile care ne pot încălca politicile sunt raportate de utilizatori sau detectate de tehnologiile Meta, automatizarea ne ajută să direcționăm rapid conținutul către revizorii de conținut care înțeleg despre ce este vorba și dispun de cunoștințele lingvistice necesare.
După aceea, utilizăm tehnologie pentru a clasifica și a stabili prioritatea conținutului, astfel încât echipele noastre de analiză să se poată concentra mai întâi asupra celor mai importante cazuri. Printre acestea se numără conținuturile cu potențial de violență offline, precum postările care au legătură cu terorismul și suicidul, dar și conținuturile virale care ne încalcă politicile și au potențialul de a ajunge la un public mai larg.
Ne îmbunătățim permanent tehnologiile și procesele, astfel încât să ne asigurăm că echipele de analiză petrec mai mult timp pentru a lua deciziile corecte.
Cum prioritizează Meta conținutul în vederea analizei
De ce sunt importante echipele de analiză pentru aplicarea politicilor asupra conținutului
Pentru a reduce acțiunile rău-intenționate în comunitatea noastră, tehnologiile și echipele noastre umane de analiză lucrează întotdeauna împreună. Iată câteva moduri în care revizorii, împreună cu tehnologia, ne ajută să consolidăm întregul sistem de aplicare a politicilor privind conținutul.
Instruirea tehnologiilor
Când revizorii iau o decizie în legătură cu un element de conținut, aceștia instruiesc și rafinează în același timp tehnologia noastră, pentru a o ajuta să identifice în timp și alte elemente de conținut similare. Această buclă de feedback între revizorii umani și tehnologie este vitală pentru menținerea la zi a sistemelor noastre.
Atunci când analizează conținuturi care încalcă politicile, echipele de analiză etichetează manual politica de la baza deciziei lor, ceea ce înseamnă că marchează politica pe care o încalcă conținutul, contul sau comportamentul. Aceste date importante de etichetare ne ajută să îmbunătățim calitatea algoritmilor de inteligență artificială care caută în mod proactiv conținuturi dăunătoare.
Tehnologiile noastre se descurcă bine mai ales în două situații: detectarea încălcărilor repetate și identificarea unor conținuturi evident explicite sau extreme. Însă, atunci când există un nivel crescut de ambiguitate, complexitate sau nuanțe în ceea ce privește gradul de aplicare a politicilor asupra unor elemente de conținut, revizorii tind să ia decizii mai bune decât tehnologiile.