Så här prioriterar Meta innehåll för granskning

UPPDATERAD 12 NOV 2024
Metas teknik upptäcker och tar bort majoriteten av allt innehåll som bryter mot reglerna innan någon ens har anmält det. När någon publicerar något på Facebook, Instagram, Messenger eller Threads kontrolleras det av tekniken för att se om innehållet bryter mot communityreglerna. I de flesta fall är identifieringen en enkel process. Inlägget antingen efterlever eller bryter mot våra policyer.
Andra gånger är identifieringsprocessen svårare. Avsikten med inlägget kan vara oklart. Det kan också vara så att språket är särskilt komplicerat eller att bilderna bara kan förstås inom ett visst sammanhang. I de här fallen genomförs ytterligare, manuell granskning.
Faktorer vi väger in vid manuell granskning
Vi väger in tre huvudfaktorer när vi avgör vilket innehåll som ska prioriteras för manuell granskning:
ALLVARLIGHETSGRAD
Hur stor är sannolikheten att innehållet kan leda till skada, såväl online som offline?
VIRALITET
Hur snabbt delas innehållet?
SANNOLIKHET FÖR ÖVERTRÄDELSE
Hur stor är sannolikheten att innehållet i fråga faktiskt bryter mot våra regler?
Vi vill förebygga så mycket skada som möjligt och använder därför granskningssystem med teknik som prioriterar innehåll med stor potential för skada i den verkliga världen och viralt innehåll som sprids snabbt.
Manuella granskningsteam hjälper till att förbättra tekniken
Vårt manuella granskningsteam drar nytta av sin expertis inom policyområden, språk och länder samt fattar svåra beslut som ofta kan ses ur flera synvinklar. Varje gång en granskare fattar ett beslut använder vi den informationen till att träna upp tekniken. Vi fattar miljontals beslut och med tiden utvecklas tekniken som vi använder, så att vi kan ta bort mer innehåll som bryter mot reglerna.
Hjälpa granskare att fatta rätt beslut
Tekniken hjälper granskningsteamen att göra det de gör bäst
Liksom många maskininlärningsmodeller förbättras vår teknik med tiden i och med att den får fler exempel på innehåll som bryter mot reglerna. Det betyder att våra manuella granskningsteam istället kan fokusera på svårare, viralt, nyanserat, nytt och komplext innehåll. Det är precis den typen av beslut där människor tenderar att fatta bättre beslut än maskiner.
Vanliga frågor om prioritering inom innehållsgranskning
Tidigare kunde manuella granskningsteam lägga majoriteten av sin tid på att granska innehåll som personer har anmält. De tillbringade ofta för mycket tid på enklare innehåll som uppenbarligen inte bröt mot reglerna, och de hade för lite tid över till de svåraste besluten, där innehållet hade störst potential att göra skada. Det innebar också att många manuella beslut inte var så användbara när det gällde att förbättra verkställighetstekniken.
Nu är vår strategi att prioritera de här frågorna. Vi kan granska det innehåll som har störst potential att göra skada och snabbare förbättra tekniken.
Inte nödvändigtvis. Både manuella granskningsteam och teknik har viktiga roller att spela i granskningen av anmälningar från användare. I fall där vår teknik kan analysera ett visst innehållsobjekt vidtas åtgärden mot innehållet automatiskt i de fall där det behövs.
Vi arbetar ständigt med frågor som rör rättvisa och inkludering när det kommer till användningen av AI på Metas tekniker. Vi har inrättat ett tvärvetenskapligt AI-team med etiker, samhällsvetare och statsvetare, policyexperter, forskare inom AI och ingenjörer. Det övergripande målet för teamet är att ta fram riktlinjer, verktyg och processer kring frågor som rör AI-ansvar. De ska dessutom se till att det är enkelt att komma åt dessa systemresurser via Meta.