Sådan hjælper teknologi med at prioritere gennemgang

OPDATERET 19. JAN. 2022
Uanset om potentielt overtrædende indhold anmeldes af personer eller bliver registreret af Metas teknologi, hjælper automatisering os med hurtige at få indholdet sendt videre til evaluatorer, der har den rette emne- og sprogekspertise.
Vi bruger teknologien til at rangere og prioritere indholdet, så vores gennemgangsteams kan fokusere på de vigtigste sager først. Dette inkluderer indhold, som potentielt kan gøre skade i det virkelige liv, såsom opslag relateret til terrorisme og selvmord, og viralt indhold, der overtræder vores politikker og potentielt kan nå ud til en større målgruppe.
For at sikre, at vores gennemgangsteams bruger mere tid på de vigtigste beslutninger, foretager vi hele tiden forbedringer i vores teknologi og processer.
Sådan prioriterer Meta indhold til gennemgang
Derfor er gennemgangsteams vigtige for håndhævelse af indhold
For at reducere skade i vores fællesskab arbejder vores teknologi og menneskelige gennemgangsteams altid sammen. Her er nogle måder, hvorpå evaluatorer – sammen med teknologi – hjælper med at styrke hele vores system til håndhævelse af indhold.
Træning af vores teknologi
Når evaluatorer tager en beslutning om et stykke indhold, træner og finjusterer de samtidig vores teknologi til at hjælpe med at identificere andre lignende stykker indhold over tid. Denne cyklus med feedback frem og tilbage mellem mennesker og teknologi er afgørende, når det handler om at holde vores systemer aktuelle.
Når gennemgangsteamene gennemgår overtrædende indhold, noterer de sig manuelt den politik, der har vejledt deres beslutning, hvilket betyder, at de markerer den politik, som indholdet, kontoen eller adfærden overtræder. Denne oplysning er vigtig og hjælper os med at forbedre kvaliteten af vores algoritmer til kunstig intelligens, der proaktivt søger efter skadeligt indhold.
Vores teknologi klarer sig godt inden for især to områder: registrering af gentagne overtrædelser af reglerne og identificering af tydeligt udpenslet eller voldsomt indhold. Men når der er en høj grad af tvetydighed, kompleksitet eller nuancer, angående hvorvidt vores politikker gælder for et stykke indhold eller ej, tager evaluatorerne bedre beslutninger end teknologien.