Sådan prioriterer Meta indhold til gennemgang

OPDATERET 12. NOV. 2024
Metas teknologier registrerer og fjerner langt størstedelen af krænkende indhold, før nogen når at anmelde det. Når nogen slår noget op på Facebook, Instagram, Messenger eller Threads, kontrollerer vores teknologier, om indholdet overtræder fællesskabsreglerne. I de fleste tilfælde er det nemt at identificere indholdet. Opslaget overtræder enten tydeligt vores politikker, eller også gør det ikke.
Andre gange er det lidt sværere at identificere det. Måske er hensigten bag opslaget ikke tydelig, måske er sproget meget komplekst eller måske afhænger forståelsen af billedmaterialet for meget af konteksten. I disse tilfælde laver vi en yderligere gennemgang foretaget af en person.
Prioriteringen af faktorer for menneskelig gennemgang
Når vi vurderer, hvilket indhold vores menneskelige gennemgangsteams skal gennemgå først, overvejer vi 3 primære faktorer:
ALVORSGRAD
Hvor sandsynligt er det, at indholdet kan medføre skade, både online og offline?
VIRAL UDBREDELSE
Hvor hurtigt bliver indholdet delt?
SANDSYNLIGHED FOR OVERTRÆDELSE
Hvor sandsynligt er det, at det pågældende indhold rent faktisk overtræder vores politikker?
Fordi vi ønsker at forhindre så meget skade som muligt, bruger vores gennemgangssystemer en teknologi, der prioriterer indhold med høj alvorsgrad, som potentielt kan gøre skade i det virkelige liv, samt viralt indhold, der spredes hurtigt.
Menneskelige gennemgangsteams hjælper vores teknologi med at blive bedre
Vores menneskelige gennemgangsteams bruger deres ekspertise i visse politikemner og sprog til at foretage vanskelige og ofte meget nuancerede vurderingsbeslutninger. Hver gang en medarbejder på et gennemgangsteam tager en beslutning, bruger vi de oplysninger til at oplære vores teknologi. Med tiden, og på baggrund af millionvis af beslutninger, bliver vores teknologi bedre og gør os i stand til at fjerne endnu mere indhold, der overtræder vores politikker.
Hjælp til at træffe de rette beslutninger under gennemgang
Teknologi hjælper vores menneskelige gennemgangsteams med at gøre det, som de er bedst til
Ligesom mange maskinlæringsmodeller forbedrer vores teknologi sig med tiden, efterhånden som den modtager flere eksempler på indhold, der overtræder politikkerne. Det betyder, at vores menneskelige gennemgangsteams kan fokusere på de mere alvorlige, virale, nuancerede, nye og komplekse typer indhold – præcis den type, hvor personer normalt foretager bedre beslutninger end teknologien.
Almindelige spørgsmål om prioriteringen af indhold til gennemgang
Tidligere ville medarbejderne på vores gennemgangsteams bruge størstedelen af deres tid på at gennemgå indhold, der blev anmeldt af personer. Det betød, at de ofte brugte for meget tid på indhold af lav alvorsgrad eller indhold, der tydeligvis ikke overtrådte politikkerne, og ikke nok tid på det mest alvorlige indhold, der havde størst potentiale for at gøre skade. Det betød også, at mange menneskelige beslutninger ikke var så nyttige i forhold til at forbedre vores håndhævelsesteknologi.
Vores nuværende prioritetingstilgang imødekommer disse problemstillinger og gør det muligt for os at gennemgå indhold med størst skadespotentiale først samt at forbedre vores teknologi hurtigere.
Ikke nødvendigvis. Både de menneskelige gennemgangsteams og teknologien spiller en rolle i gennemgangen af brugeranmeldelser. I de tilfælde, hvor vores teknologi kan analysere et givent stykke indhold, bliver der taget automatisk handling, hvis det er nødvendigt.
For at behandle problematikker angående retfærdighed og inklusion ved brugen af AI i Meta-teknologier har vi oprettet vores team for ansvarlig AI – et dedikeret, tværfagligt team af etikere, forskere inden for det sociale og politik, eksperter inden for politik, forskere og teknikere inden for kunstig intelligens. Teamets overordnede mål er at udvikle retningslinjer, værktøjer og processer, der behandler problemstillinger omkring AI-ansvarlighed, og som hjælper med at sikre, at disse systemiske ressourcer er bredt tilgængelige på tværs af Meta.