Så här utvärderar och förbereder vi oss för globala risker
UPPDATERAD 29 APR 2024
Meta bedömer kontinuerligt risken för överhängande skada under kritiska händelser så att vi kan reagera med riktade, tidsbegränsade policy- och produktåtgärder som hjälper till att skydda personer. Den här metoden innefattar att undersöka potentiella risker före och under lokala, regionala och nationella händelser, inklusive val.
Som svar på högriskhändelser har Meta flera tillvägagångssätt för att hantera olika scenarier, till exempel genom att ändra eller begränsa produktfunktioner, införa kvotbegränsningar för meddelanden och begränsa distributionen av innehåll.
Vi identifierar potentiellt skadliga trender genom att samla in information från offentliga rapporter, granska rekommendationer från våra betrodda partner, göra löpande observationer av innehållstrender, göra noggranna granskningar av mänskliga rättigheter och undersöka bedömningar från våra underrättelseteam. Denna information, tillsammans med befintliga communityregler och verkställighetssystem, bidrar till att informera om vilka typer av motåtgärder gällande produkt- och policyrisker vi kan använda för att förhindra missbruk under kriser, inklusive högriskval. Detta inkluderar vår Policyprotokoll för kriser (CPP) som hjälper oss att bedöma sätt att hantera innehållsrisker och separata åtgärder som vi kan vidta för att anpassa våra system som svar på ökad risk.
En viktig och potentiell begränsning kan inkludera att utse platser som Temporary High-Risk Locations (THRL), ett policyverktyg som används för att hantera specifika typer av potentiellt våldsamt innehåll på platser som identifieras som högrisk på grund av verkliga händelser. Utöver våra policyverktyg och ramverk för att mildra kriser förlitar Meta sig också på Integrity Product Operations Centers (IPOC). Det är ett verktyg som samlar olika team, experter och kapacitet från hela företaget, efter behov och ibland före en viss situation, för att svara på potentiella problem eller trender i realtid.
Under ett givet val övervakar en IPOC flera källor, bland annat dataanalysverktyg, inmatning från betrodda partner och traditionella medier. Vi övervakar även trender i användaranmälningar och innehåll som har flaggats av våra klassificeringar.
Även om de är separata företag drar processen för att utse en THRL och granskningsprocessen för att utse en CPP från några av samma signaler för förhöjd risk för våld eller skada offline. Även om vi kan överväga att utse en THRL under en krissituation är detta inte betingat av eller beroende av en CPP-utnämning.
Våra team övervakar kontinuerligt våra plattformar för att bedöma den föränderliga riskmiljön och hjälpa till att fastställa eventuella anpassningar som svar på toppar eller förändringar i de signaler som vi spårar. Se här för ytterligare information om hur vi anpassar våra system som svar på ökad risk.