Vår hantering av farliga organisationer och individer

UPPDATERAD 11 NOV 2024

Det finns inte plats på vår plattform för grupper och individer som förespråkar våld, organiserad brottslighet, hat och terrorism. Genom åren har vi utvecklat och vi fortsätter att utveckla policyer och processer för farliga organisationer och individer för att komma till rätta med denna typ av innehåll. I och med att vi har åtagit oss att skapa en plats där människor ska kunna prata om händelser som inträffar i världen och som har inverkan på deras liv, familjer och samhällen, finns vår policy i syfte att ange var gränsen går för vad som inte är tillåtet på våra plattformar.

Policyerna är framtagna för att hålla våra plattformar säkra

Meta har en av branschens mest heltäckande policyer som är inriktade på terroristorganisationer, hatgrupper, organiserad brottslighet som karteller, våldsfrämjande enheter och personer som begår handlingar som definierats som brottsliga, till exempel masskjutningar och terrorattacker.

Enligt denna policy om farliga organisationer och individer definierar och förbjuder vi individer och organisationer som är inblandad i sådan aktivitet, och tar bort förhärligande av och stöd för dem när vi får vetskap om sådant. Vi definierar och förbjuder också våldsförespråkande aktörer som förbereder eller förespråkar framtida våld, men inte nödvändigtvis har utövat våld tidigare. Dessutom tar vi bort förhärligande av och stöd för dem.

Våra policyer är offentliga och du kan läsa mer om dem på sidan med communityregler. Dessutom publicerar vi regelbundet information om hur mycket av detta innehåll som vi tar bort i kvartalsrapporten för communityreglerna.

Hur och varför vi definierar organisationer och individer som farliga

Vi tillåter inte att organisationer eller individer som förespråkar eller utövar våld har närvaro på Metas plattformar. Vi utvärderar dessa enheter utifrån deras beteende såväl online som offline och, kanske allra viktigast, utifrån deras koppling till våldsutövande. I enlighet med denna policy tilldelar vi definitioner av enskilda personer, organisationer och nätverk med människor. Vi har delat in dessa definitioner i två nivåer för att säkerställa effektivare och mer proportionerligt och konsekvent verkställande. Du kan läsa mer om dessa nivåer och de organisationer som ingår i dem i communityreglerna.

Vi har en egen gedigen intern process, i vilken vi beaktar många informationskällor, som vi använder till att bedöma om organisationer och individer ska definieras som farliga. Genom att ta fram våra egna definitioner och vår egen process för definition, oberoende av region och ideologi, kan vi ge gediget, rättvist och proaktivt skydd för våra plattformar.

Detta arbete är inte statiskt. Vi bedömer hela tiden risker och undersöker om grupper och individer ska definieras utifrån deras beteende, förändrade omständigheter, ny information, interna expertanalyser och information från externa berörda parter. Som vi till exempel meddelade i januari 2024 kan en definierad organisation eller individ som ändrar sitt beteende kvalificera sig för att tas bort från vår lista, särskilt om denna (1) inte har definierats av USA:s regering som en narkotikasmugglare (Specially Designated Narcotics Trafficking Kingpin eller SDNTK), en utländsk terroristorganisation (Foreign Terrorist Organization eller FTO) eller en särskild definierad global terrorist (Specially Designated Global Terrorist eller SDGT), (2) inte längre är del av utövande av våld och hat, och (3) inte symboliserar våld och hat eller används till att uppvigla till ytterligare våld eller sprida vålds- eller hatpropaganda.

Vi sätter stort värde på transparens och bedömer löpande för och nackdelar, men vi delar aktuellt inte uppgifter om vår lista med definierade individer och organisationer. Orsaken till det är att vi vill motverka säkerhetsrisker och rättsliga risker och förhindra att dessa farliga aktörer kringgår våra verkställighetsåtgärder.

Vårt verkställande mot farliga organisationer och individer

Vi gör stora investeringar i personal, teknik, partnersamarbeten och forskning för att motverka farliga organisationers och individers aktiviteter.

Teknik: Vi hanterar detta område med hjälp av AI och mänskligt kunnande. Vi investerar också i forskning och samarbetar med externa experter och organisationer för att hålla jämna steg med förändringarna inom området. Vi använder oss av AI för att identifiera videor, bilder, ljud, text och grafik, som logotyper och avbildningar av våld. Vi gör också verktyg med öppen källkod tillgängliga för resten av branschen för att ge våra partner åtkomst till teknik för att bekämpa farliga organisationer och individer på deras egna plattformar. I december 2022 tillgängliggjorde vi till exempel det fria verktyget Hasher Matcher Actioner(HMA) med programvara med öppen källkod. Verktyget är till för att hjälpa plattformar att identifiera kopior av bilder och videor och vidta samlade åtgärder mot dem. Vi tillhandahöll det för att göra det lättare för alla företag, inom hela branschen, att hålla sina plattformar fria från terroristinnehåll.
Personal: Kontext och språk är ofta komplexa saker och teknik kan inte alltid skilja förhärligande av en farlig organisation eller individ från kulturellt specifik kritik. Därför har Meta investerat miljarder amerikanska dollar och har närmare 40 000 medarbetare som arbetar med trygghet och säkerhet. I detta ingår ett tvärfunktionellt team som består av hundratals personer med särskild expertis inom områden som rättsväsende, inrikes säkerhet, information för terroristbekämpning och akademisk forskning inom radikalisering.
Partnersamarbete: Så länge det förekommer skadlig aktivitet i världen kommer det även att förekomma på internet, och inget företag kan lösa dessa problem på egen hand. Det är därför partnersamarbeten med andra företag, ideella organisationer, forskare och myndigheter är avgörande. Vi arbetar med myndigheter och mellanstatliga organ runt om i världen, och samarbetar med organisationer med expertis inom terrorism, våldsbejakande extremism, cyberhot och fientligt beteende online.
- • GIFCT: År 2017 gick vi samman med YouTube, Microsoft och Twitter (numera X) och bildade Global Internet Forum to Counter Terrorism (GIFCT), en organisation som grundats i syfte att hindra terrorister och våldsbejakande extremister att utnyttja digitala plattformar. GIFCT blev en ideell organisation år 2019 och samordnar krisrespons inom hela branschen till svar på attacker.
- • Brottsbekämpande myndigheter: När vi får kännedom om ett specifikt, akut och trovärdigt hot mot människoliv tvekar vi inte att meddela brottsbekämpande myndigheter. Meta arbetar också med brottsbekämpande myndigheter kring våldsamma attacker. Vi granskar emellertid alltid alla myndighetsbegäranden som vi mottar för att se till att de är rättsligen giltiga och förenliga med internationellt erkända normer för mänskliga rättigheter, vilket omfattar korrekt rättsförfarande, integritet, yttrandefrihet och rättsstatsprincipen. Om vi anser att en begäran verkar vara bristfällig eller alltför bred avvisar vi den. Du kan läsa mer om vårt samarbete med brottsbekämpande myndigheter här.
Oberoende forskning: Vi beställer oberoende forskning från tankesmedjor, akademiker och ideella organisationer inom olika områden avseende våldsbejakande extremisters och terroristers användning av internet. Vi gör det för att hjälpa branschen förstå och göra framsteg inom dessa viktiga frågor. 2022 presenterade Meta ett forskningssamarbete med Middlebury Institute of International Studies center för terrorism, extremism och terroristbekämpning. Samarbetets syfte är att analysera framväxande trender inom våldsbejakande extremism och effektiva verktyg med vilka samhället kan bekämpa den.
Strategiska störningar av nätverk: Även om den största delen av våra åtgärder mot terrorism och organiserat hat består av rutinmässigt borttagande, räcker det inte alltid. Det är ett konfliktfyllt område, och definierade farliga enheter försöker ibland att kringgå vårt verkställande och återupprätta sina nätverk på vår plattform. I vårt arbete mot dessa nätverk använder vi oss av en central metod som vi kallar strategisk nätverksstörning. Med en strategisk nätverksstörning kan vi ta bort ett helt nätverk av redan förbjudna farliga organisationer och individer på en gång, antingen när de först definieras eller som en del av vårt löpande arbete med att hålla dessa definierade grupper borta från vår plattform. Genom att stänga av dessa grupper i sin helhet gör vi det svårare för dem att återvända till plattformen. Det skickar också ett tydligt meddelande om att vi är medvetna om deras närvaro och att dessa grupper inte är välkomna på våra plattformar. Denna teknik gör slutligen att vi kan studera hur dessa farliga organisationer och individer kan försöka undvika att upptäckas av oss, och hur de kan försöka återvända in på våra appar när vi tagit bort deras konton.
- • I juni 2023 publicerade den oberoende akademiska tidskriften Proceedings of the National Academy of Sciences (PNAS)en artikel skriven av Metas forskare Daniel Robert Thomas och Laila A. Wahedi i vilken de undersökte effektiviteten för vårt arbetssätt med strategiska nätverksstörningar när det gäller att motverka hatgrupper. Det vi sett är att taktiken fungerar och att den bidrar till att skapa en hälsosammare och säkrare användarupplevelse på våra plattformar.

Förebyggande arbete

På Meta har vi åtagit oss att upprätthålla säkerheten och integriteten för våra plattformar. Ett av de sätt på vilka vi uppnår detta är genom framåtriktat preventivt arbete, vilket innefattar att vidta proaktiva åtgärder för att förhindra spridningen av farliga organisationer och individer innan de kan få fäste hos personer och i communityn. Här ingår användning av riktade insatser och att främja positiva uttalanden. Vi anser att konstruktiva samtal är av yttersta vikt och strävar efter att skapa en miljö som uppmuntrar till sådant meningsutbyte.

Vi stärker det arbetet ytterligare genom att aktivt samarbeta med civilsamhällesorganisationer inriktade på att motverka extremism, organiserat hat och kriminella aktiviteter. Vi stöder dessa organisationer genom att öka deras kapacitet och ge dem de resurser de behöver för att kunna skapa innehåll med motargument. Detta innehåll motsäger extremisternas narrativ och ger alternativa perspektiv, vilket bidrar till att främja en mer positiv och inkluderande onlinemiljö.

Vårt strategi för att motverka extremism är mångfacetterad och proaktiv och omfattar en kombination av prevention, samarbete och främjande av positiva uttalanden.

The Resiliency Initiative är ett program som utbildar civilsamhällesorganisationer i Asien, Afrika och USA inom strategier för kampanjer för att förhindra/motverka våldsbejakande extremism och utökar deras kapacitet att genomföra verksamma motkampanjer. Som en del av The Resiliency Initiative har Meta inlett ett partnersamarbete i USA med Search for Common Ground (SFCG) som ger stöd åt partner som arbetar lokalt med att motverka hatdrivet våld och främja motståndskraften i samhället.
Säkrare sökningar: När det är lämpligt leder vi också personer till resurser när de söker efter termer som är kopplade till farliga organisationer och individer. När användare söker efter termer kopplade till farliga organisationer och individer på Facebook, Instagram och i Threads, tillhandahålls de istället utbildningsresurser, vilket bidrar till att avvärja sökningar efter innehåll från farliga organisationer och individer.
Vi håller även i ett sökningsprogram i flera länder, bland annat i Australien, USA, Förenade kungariket, Tyskland, Indien, Indonesien och Pakistan. Om någon söker efter termer som gäller specifikt för en viss marknad och med fokus på skada från en viss farlig organisation eller individ, ger vi personen ytterligare information och resurser i samarbete med lokala civilsamhällsorganisationer som ger stöd åt användare som är i riskzonen för att värvas extremism.
Tillhandahåller resurser till samhällsorganisationer: Vi har även ett program för säkerhetsannonser som är avsett att hjälpa partner i civilsamhällsorganisationer att proaktivt förebygga skada genom att ge dem annonskrediter och strategiskt stöd när de kör program med motargument mot skadligt innehåll. Genom att arbeta med dessa organisationer vill vi utöka våra partnersamarbeten för att motverka farliga organisationer och individer.

Detta arbete fortgår löpande, och vi vet att så länge det finns farliga organisationer och individer i världen så finns de även på internet, vilket är skälet till att vi håller oss vaksamma. Dessa grupper hittar nya sätt att försöka undvika upptäckt och kringgå våra policyer och åtgärder. Det är detta beteende som gör att vi ständigt strävar efter att ligga steget före genom att utvärdera och uppdatera vårt arbetssätt.