Vores tilgang til farlige organisationer og individer

OPDATERET 11. NOV. 2024

Der er ingen plads på vores platform til grupper eller enkeltpersoner, der fremmer vold, organiseret kriminalitet, had eller terrorisme. Gennem mange års arbejde har vi udviklet, og fortsætter med at udvikle, politikker og processer for farlige individer og organisationer for at håndtere denne type indhold. Selvom det er vigtigt for os at give plads til, at folk kan tale om begivenheder, der finder sted rundt om i verden, og som påvirker deres liv, familier og lokalsamfund, er vores politik til for at tydeliggøre, hvad der ikke er tilladt på vores platforme.

Vores politikker er designet til at beskytte vores platforme

Meta har en af branchens mest vidtspændende politikker rettet mod terrororganisationer, hadgrupper, organiserede kriminelle organisationer såsom karteller, voldsfremkaldende enheder og gerningsmænd bag udpegede begivenheder såsom masseskyderier eller terrorangreb.

I henhold til denne politik om farlige organisationer eller individer udpeger og forbyder vi individer og organisationer, der er involveret i aktivitet, og fjerner forherligelse af og støtte til dem, når vi bliver opmærksomme på dem. Vi udpeger og forbyder også voldsfremkaldende enheder – enheder, der er involveret at forberede eller advokere for fremtidig vold, men som ikke nødvendigvis har udøvet vold tidligere – og fjerner også forherligelse af og støtte til dem.

Vores politikker er offentlige, og du kan læse mere om dem på vores side med fællesskabsregler. Derudover offentliggør vi regelmæssigt oplysninger om, hvor meget af dette indhold vi fjerner, i vores kvartårlige rapport om fællesskabsreglerne.

Hvorfor og hvordan vi udpeger

Vi tillader ikke organisationer eller individer, som erklærer at have en voldelig eller hadefuld mission eller er involveret i vold, at have en tilstedeværelse på Metas platforme. Vi vurderer disse enheder på baggrund af deres adfærd, både online og i det virkelige liv, og væsentligst, deres tilknytning til vold. I henhold til denne politik udpeger vi enkeltpersoner, organisationer og netværk. For at sikre en mere effektiv, forholdsmæssig og konsekvent håndhævelse har vi opdelt udpegningerne i to grader. Du kan læse mere om disse grader og de typer organisationer, som de hver især omfatter, i vores fællesskabsregler.

Vi har vores egen robuste interne proces – der tager højde for mange informationskilder – som vi bruger til at evaluere organisationer og individer med henblik på mulig udpegning. Ved at udvikle vores egne definitioner og proces for udpegning, uafhængigt af region eller ideologi, kan vi være robuste, fair og proaktive i beskyttelsen af vores platforme.

Dette arbejde er ikke statisk. Vi vurderer risici og evaluerer grupper og enkeltpersoner løbende med henblik på udpegning baseret på deres adfærd, ændrede omstændigheder, nye oplysninger, interne ekspertanalyser og input fra eksterne interessenter. Som vi annoncerede i januar 2024, gælder det, at når en udpeget organisation eller et udpeget individ f.eks. ændrer adfærd, kan denne enhed også blive fjernet fra vores liste – især hvis enheden (1) ikke er udpeget af den amerikanske regering som værende en særligt udpeget bagmand i narkohandel (SDNTK – Specially Designated Narcotics Trafficking Kingpin); udenlandsk terrororganisation (FTO – Foreign Terrorist Organization); eller særligt udpeget global terrorist (SDGT – Specially Designated Global Terrorist); (2) ikke længere er involveret i vold eller had; og (3) ikke er et symbol på vold og had eller ikke bruges til at opfordre til yderligere vold eller sprede voldelig eller hadefuld propaganda.

Selvom gennemsigtighed er enormt vigtigt for os, og vi løbende afvejer fordele og ulemper, deler vi i øjeblikket ikke detaljerede oplysninger om vores liste over udpegede for at mindske sikkerhedsmæssige og juridiske risici og for at forhindre disse farlige aktører i at omgå vores håndhævelsesmekanismer.

Sådan håndhæver vi reglerne over for farlige organisationer og individer

Vi investerer massivt i mennesker, teknologi, partnerskaber og forskning for at imødegå aktivitet fra farlige organisationer og individer.

Teknologi: Vores tilgang til dette område involverer en kombination af kunstig intelligens (AI) og menneskelig intelligens, og samtidig investerer vi i forskning og samarbejder med eksterne eksperter og organisationer for at holde os ajour med dette foranderlige miljø. Vi bruger AI til at registrere videoer, billeder, lyd, tekst og endda grafik såsom logoer og skildringer af vold. Vi stiller også open source-værktøjer til rådighed på tværs af branchen for at hjælpe partnere med at tilgå teknologi med henblik på at bekæmpe farlige organisationer og individer på deres egne platforme. I december 2022 gjorde vi f.eks. "Hasher Matcher Actioner" (HMA) tilgængelig for at gøre det nemmere for de enkelte virksomheder i branchen at holde deres platforme fri for terrorindhold. HMA er et gratis open source-softwareværktøj, der vil hjælpe platforme med at identificere kopier af billeder eller videoer og skride til handling over for dem i stor skala.
Personer: Kontekst og sprog er ofte komplekse størrelser, og teknologi kan ikke altid skelne mellem forherligelse af farlige organisationer eller individer og kulturspecifik kritik. Derfor har Meta investeret milliarder af dollars og beskæftiger næsten 40.000 personer, der arbejder med sikkerhed og sikkerhed. Blandt disse personer har vi et tværfunktionelt team på hundredvis af personer med ekspertise inden for alt fra retshåndhævelse og national sikkerhed til efterretninger vedrørende terrorbekæmpelse og akademiske studier inden for radikalisering.
Partnerskaber: Så længe der findes skadelig aktivitet i verden, vil den eksistere på internettet, og ingen virksomhed kan løse disse problemer på egen hånd. Derfor er partnerskaber med andre – virksomheder, civilsamfundet, forskere og regeringer – så afgørende. Vi samarbejder med regeringer og mellemstatslige organer rundt om i verden og samarbejder med organisationer med ekspertise inden for terrorisme, voldelig ekstremisme, cyberintelligens og fjendtlig adfærd online.
- GIFCT: I 2017 gik vi sammen med YouTube, Microsoft og Twitter for at skabe Global Internet Forum to Counter Terrorism (GIFCT), en organisation skabt med det mål at forhindre terrorister og voldelige ekstremister i at udnytte digitale platforme. GIFCT blev en uafhængig ngo i 2019 og koordinerer kriseindgreb på tværs af branchen, når der sker angreb.
- Retshåndhævende myndigheder: Når vi bliver opmærksomme på en specifik, umiddelbar og troværdig trussel mod menneskeliv, tøver vi ikke med at underrette de retshåndhævende myndigheder. Meta samarbejder også med retshåndhævende myndigheder i forhold til voldelige angreb, selvom vi altid undersøger enhver myndighedsanmodning, som vi modtager, for at sikre, at den er juridisk gyldig og i overensstemmelse med internationalt anerkendte standarder for menneskerettigheder, herunder behørig rettergang, retten til privatlivets fred, ytringsfrihed og retsstatsprincippet. Hvis vi konstaterer, at en anmodning ser ud til at være mangelfuld eller for generel, afviser vi den. Du kan læse mere om vores samarbejde med retshåndhævende myndigheder her.
Uafhængig forskning: Vi bestiller uafhængig forskning fra tænketanke, akademikere og ngo'er inden for forskellige emner vedrørende voldelig ekstremistisk og terroristisk brug af internettet med henblik på at hjælpe vores branche med at forstå og gøre fremskridt i forhold til disse vigtige spørgsmål. I 2022 annoncerede Meta et forskningspartnerskab med Middlebury Institute of International Studies'Center for Terrorism, Extremism, and Counterterrorism med henblik på at analysere tendenser under udvikling inden for voldelig ekstremisme og effektive værktøjer, der hjælper samfundet med at bekæmpe dem.
Strategisk opløsning af netværk: Selvom det meste af vores håndhævelse over for terrorisme og organiseret had sker som følge af rutinemæssig fjernelse af indhold, er det nogle gange ikke nok. Dette er et område med stor modstand, og udpegede farlige enheder forsøger nogle gange at omgå vores håndhævelse og genoprette netværk på vores platform. For at bekæmpe disse netværk bruger vi en vigtig tilgang kaldet en strategisk opløsning af netværk (Strategic Network Disruption – SND). En SND giver os mulighed for at fjerne et netværk af allerede forbudte farlige organisationer eller individer på én gang, enten når de først udpeges eller som en del af vores løbende arbejde med at holde disse udpegede grupper væk fra vores platform. Ved at neutralisere disse klynger fuldstændig bliver det sværere for dem at vende tilbage til platformen. Det sender også et klart budskab om, at vi er opmærksomme på deres tilstedeværelse, og at disse grupper ikke er velkomne på vores platforme. Slutteligt giver denne teknik os mulighed for at undersøge, hvordan disse farlige organisationer eller individer kan forsøge at omgå vores detektion, samt hvordan de kan forsøge at vende tilbage til vores apps, efter at vi har fjernet deres konti.
- I juni 2023 udgav det uafhængige akademiske tidsskrift Proceedings of the National Academy of Sciences (PNAS)en artikel skrevet af Meta-forskerne Daniel Robert Thomas og Laila A. Wahedi, som undersøgte effektiviteten af vores SND-strategi i forhold til at opløse hadgrupper. Det viste sig, at taktikken virker, og at den hjælper med at skabe en sundere og tryggere brugeroplevelse på vores platforme.

Forebyggelsesarbejde

Hos Meta prioriterer vi at opretholde sikkerheden på og integriteten af vores platforme. Det opnår vi bl.a. gennem opadrettet forebyggelse, hvilket involverer proaktive foranstaltninger for at forhindre spredning af farlige organisationer eller individer, før de kan nå at slå rod i mennesker eller lokalsamfund. Dette omfatter brug af målrettede interventioner og fremme af positiv tale. Vi mener, at konstruktiv dialog er afgørende, og vi stræber efter at skabe et miljø, der tilskynder hertil.

For yderligere at styrke vores indsats samarbejder vi aktivt med civilsamfundsorganisationer, hvis mål det er at bekæmpe ekstremisme, organiseret had og kriminelle aktiviteter. Vi støtter disse organisationer ved at give dem større kapacitet og de nødvendige ressourcer til at oprette indhold med modtale. Dette indhold udfordrer ekstremistiske narrativer og tilbyder alternative perspektiver, hvilket bidrager til at fremme et mere positivt og inkluderende onlinemiljø.

Vores tilgang til at bekæmpe ekstremisme er mangesidet og proaktiv og involverer en kombination af forebyggelse, samarbejde og fremme af positiv retorik.

The Resiliency Initiative er et program, der oplærer civilsamfundsorganisationer på tværs af Asien, Afrika og USA i kampagnestrategier for forebyggelse/bekæmpelse af voldelig ekstremisme og hjælper dem med at oprette effektive modtalekampagner. Som en del af The Resiliency Initiative har Meta lanceret et amerikansk baseret partnerskab med Search for Common Ground (SFCG) for at støtte partnere i lokalsamfund, der arbejder for at modvirke hadefuld vold og opbygge modstandskraft socialt og i lokalsamfundet.
Sikrere søgninger: Når det er relevant, henviser vi også folk til ressourcer, når de søger efter termer forbundet med farlige organisationer og individer. Når brugere søger efter termer forbundet med farlige organisationer og individer på Facebook, Instagram og Threads, henvises de i stedet til ressourcer, hvilket skal bidrage til at hindre søgninger efter indhold fra farlige organisationer og individer og give brugerne læringsressourcer.
Vi kører også et søgeprogram i flere lande, herunder Australien, USA, Storbritannien, Nordirland, Tyskland, Indien, Indonesien og Pakistan. Hvis nogen søger efter termer, der er specifikke for det enkelte marked og typisk har fokus på en bestemt skade, som farlige organisationer og individer påfører, tilbyder vi dem yderligere information og ressourcer i samarbejde med en lokal civilsamfundsorganisation, der er specialiseret i at tilbyde støtte til brugere, der er i risikozonen i forhold til ekstremisme.
Ressourcer til civilsamfundsorganisationer: Vi kører også et sikkerhedsannonceprogram, som arbejder for at støtte civilsamfundsorganisationer i proaktivt at forebygge skade ved at give dem annoncekredit og strategisk støtte, når de kører modtaleprogrammer. I vores samarbejde med disse organisationer sigter vi mod at udvikle vores partnerskaber med henblik på at bekæmpe farlige organisationer og individer.

Dette arbejde sker løbende, og vi ved, at så længe der findes farlige organisationer og individer i verden, vil de være at finde på internettet, og derfor forbliver vi årvågne. Disse grupper benytter nye taktikker for at undgå opdagelse og/eller forsøge at omgå vores politikker og håndhævelse – denne fjendtlig adfærd er grunden til, at vi konstant arbejder på at være et skridt foran ved at evaluere og opdatere vores tilgang.