Slik fungerer gjennomgangsteam
OPPDATERT 12. NOV. 2024
Meta får ofte spørsmål om hvordan prosessen vår for gjennomgang av innhold fungerer, hvordan vi håndhever retningslinjene våre, og om gjennomgangsteamene våre håndhever retningslinjene våre globalt. Her finner du hva gjennomgangsteamene våre gjør, og hvordan de bruker teknologien vår til å gjøre jobben sin.
Gjennomgang av innhold: når vi bruker teknologi, og når vi bruker gjennomgang av mennesker
Når noe bryter standardene våre, har Meta systemer for håndhevelse av regler om innhold for å håndtere dette. Vi bruker for eksempel kunstig intelligens og verktøy for maskinlæring til å hjelpe oss med å identifisere og fjerne en stor mengde krenkende innhold – ofte før noen ser det.
I de tilfellene der teknologien vår går glipp av noe eller behøver mer informasjon, bruker vi tusenvis av kontrollører over hele verden til å håndheve standardene våre.
Etter hvert som potensielle brudd på retningslinjene for innhold videresendes til gjennomgangsteam, får hver kontrollør tildelt en kø med innlegg som de evaluerer individuelt. Noen ganger innebærer denne gjennomgangen bare å se på et innlegg for å avgjøre om det bryter med retningslinjene våre, slik som et bilde med voksen nakenhet, i tilfeller der teknologien vår ikke allerede kunne påvise det.
I andre tilfeller er kontekst avgjørende. For eksempel kan teknologien vår være ute av stand til å avgjøre om et innlegg inneholder mobbing, en type retningslinje som ofte krever ytterligere kontekst og nyansering siden arten av personlige forhold ofte gjenspeiles. I slike tilfeller sender vi innlegget til gjennomgangsteam som har nødvendig kunnskap om emnet og språket til å kunne gjøre en videre gjennomgang. Hvis nødvendig, kan de også eskalere det til emneeksperter i teamene for internasjonal drift eller retningslinjer for innhold.
Når det er nødvendig, kan vi også gi kontrollørene ytterligere informasjon fra det rapporterte innholdet. For eksempel kan ord som historisk er brukt som rasistiske nedsettende bemerkninger, brukes som hatefulle ytringer av én person, men kan også være en måte å myndiggjøre seg selv på når de deles av en annen person i en annen sammenheng. I noen tilfeller kan vi gi kontrollørene ytterligere kontekst om slike ord for å hjelpe dem til å bruke retningslinjene våre og bestemme om innlegget skal få bli stående eller fjernes.