Slik prioriterer Meta innhold for gjennomgang

OPPDATERT 12. NOV. 2024
Metas teknologi registrerer og fjerner det meste av uakseptabelt innhold før noen rekker å rapportere det. Når noen legger ut innlegg på Facebook, Instagram, Messenger eller Threads, sjekker teknologien vår om innholdet er i strid med fellesskapsstandardene. I de fleste tilfeller er det enkelt å identifisere uakseptabelt innhold. Innlegget er enten tydelig i strid med retningslinjene våre, eller så gjør det ikke det.
Andre ganger er identifiseringen vanskeligere. Det kan hende at intensjonen bak innlegget er uklart, språket er for innviklet, eller at bildene avhenger for mye av konteksten. I slike tilfeller foretar vi en ytterligere gjennomgang ved å benytte oss av folk.
Prioriteringsfaktorer ved manuell gjennomgang
Når gjennomgangsteamene våre bestemmer hvilket innhold som skal gjennomgås først, er det tre hovedfaktorer som vurderes:
ALVORSGRAD
Hvor sannsynlig er det at innholdet kan føre til skade på eller utenfor internett?
UTBREDELSE
Hvor raskt deles innholdet?
SANNSYNLIGHET FOR OVERTREDELSE
Hvor sannsynlig er det at det aktuelle innholdet faktisk bryter retningslinjene våre?
Ettersom vi ønsker å forhindre så mye skade som mulig, bruker gjennomgangssystemene våre teknologi for å prioritere innhold med høy alvorsgrad og stort potensial for skade utenfor nettet samt viralt innhold som sprer seg raskt.
Gjennomgangsteamene bidrar til å bedre teknologien vår
Gjennomgangsteamene bruker kompetansen sin på spesielle deler av retningslinjene og språk til å ta vanskelige og ofte nyanserte avgjørelser. Hver gang kontrollørene tar en avgjørelse, bruker vi den aktuelle informasjonen til å lære opp teknologien vår. Over tid, etter mange millioner avgjørelser, blir teknologien vår stadig bedre, slik at vi kan fjerne mer innhold som bryter retningslinjene.
Slik får kontrollørene hjelp til å ta riktige beslutninger
Teknologi hjelper gjennomgangsteamene med å gjøre det de kan best
I likhet med mange maskinlæringsmodeller forbedres også teknologien vår over tid, etter hvert som den mottar flere eksempler på innhold som bryter med retningslinjene. Dette betyr at gjennomgangsteamene kan fokusere mer på alvorlig, viralt, nyansert, nytt og komplekst innhold – den typen avgjørelser mennesker er i bedre stand til å ta enn teknologien.
Vanlige spørsmål om prioritering av gjennomgang av innhold
Tidligere brukte gjennomgangsteamene mesteparten av tiden på å gå gjennom innhold som ble rapportert av mennesker. Dermed brukte de ofte for mye tid på innhold med lav alvorsgrad eller som åpenbart ikke var brudd på retningslinjene, og for lite tid på det mest alvorlige innholdet med størst skadepotensial. Det innebar også at mange menneskelige avgjørelser ikke var spesielt nyttige for å forbedre håndhevelsesteknologien.
Vår nåværende tilnærming til prioritering håndterer disse problemene, slik at vi kan vurdere det potensielt mest skadelige innholdet først og forbedre teknologien raskere.
Ikke nødvendigvis. Både gjennomgangsteam og teknologi er involvert i gjennomgangen av brukerrapporter. I tilfeller der teknologien vår klarer å analysere et gitt innhold, iverksetter den automatisk tiltak – eller ikke – for det aktuelle innholdet.
Vi håndterer utfordringer med rettferdighet og inkludering knyttet til distribusjon av KI i Meta-teknologiene ved at vi har opprettet et team for ansvarlig KI – et dedikert, tverrfaglig team som består av etikere, samfunns- og statsvitere, eksperter på retningslinjer, forskere på kunstig intelligens og teknikere. Teamets overordnede mål er å utvikle retningslinjer, verktøy og prosesser for å takle spørsmål om KI-ansvar og bidra til at disse systemiske ressursene er allment tilgjengelige på Meta.