Slik bidrar teknologi til å prioritere gjennomgang
OPPDATERT 19. JAN. 2022
Enten potensielt krenkende innhold rapporteres av folk eller oppdages av Metas teknologi, hjelper automatisering oss til å raskt videresende innholdet til kontrollører som har nødvendig kunnskap om emnet og språket.
Deretter bruker vi teknologi til å rangere og prioritere innhold, slik at gjennomgangsteamene våre kan fokusere på de viktigste tilfellene først. Dette inkluderer innhold som potensielt kan forårsake skade utenfor nettet, f.eks. innlegg relatert til terrorisme og selvmord, og viralt innhold som bryter med retningslinjene våre og har potensial til å nå et stort publikum.
For å sikre at gjennomgangsteamene bruker mer tid fokusert på de riktige avgjørelsene, forbedrer vi hele tiden teknologien vår og prosessene våre.
Hvorfor gjennomgangsteam er viktige for håndhevelse av regler for innhold
Teknologien vår og gjennomgangsteamene våre jobber alltid sammen for å redusere skade i fellesskapet vårt. Her finner du noen måter kontrollører, sammen med teknologi, bidrar til å styrke hele systemet vårt for håndhevelse av regler om innhold.
Trening av teknologien vår
Når kontrollører tar en avgjørelse om et innholdselement, trener og finjusterer de samtidig teknologien vår for å hjelpe den til å identifisere andre elementer med lignende innhold over tid. Denne tilbakemeldingssløyfen mellom mennesker og teknologi er avgjørende for å holde systemene våre oppdaterte.
Forbedring av kunstig intelligens-algoritmene våre
Når gjennomgangsteamene vurderer krenkende innhold, merker de manuelt av hvilken retningslinje som styrer beslutningen deres, hvilket betyr at de angir retningslinjen som innholdet, kontoen eller adferden bryter med. Denne viktige avmerkede informasjonen hjelper oss til å forbedre kunstig intelligens-algoritmene våre som proaktivt søker etter skadelig innhold.
Å ta vanskelige avgjørelser
Teknologien vår fungerer godt innen spesielt to områder: oppdagelse av gjentatte brudd og identifikasjon av tydelig støtende eller ekstremt innhold. Når en høy grad av tvetydighet, kompleksitet eller nyanser er involvert i avgjørelsen om hvorvidt retningslinjene våre gjelder for et innholdselement, pleier imidlertid kontrollører å ta bedre avgjørelser enn teknologi.