Slik håndterer vi farlige organisasjoner og personer

OPPDATERT 11. NOV. 2024

På plattformen vår er det ikke rom for grupper eller enkeltpersoner som fremmer vold, organisert kriminalitet, hat eller terrorisme. Over flere år med arbeid har vi utviklet, og fortsetter å utvikle, retningslinjer og prosesser for å håndtere innhold som gjelder farlige personer og organisasjoner. Selv om vi ønsker å gi rom for å kunne snakke om hendelser som skjer rundt om i verden som påvirker personers liv, familie og lokalsamfunn, er retningslinjene våre utformet for å trekke linjen for hva som ikke er tillatt på plattformene våre.

Retningslinjene våre er utformet for å holde plattformene våre trygge

Meta har noen av de mest omfattende retningslinjene i bransjen når det gjelder terrororganisasjoner, hatgrupper, organiserte kriminelle organisasjoner som karteller, voldsforherligende enheter og gjerningspersoner som står bak spesifiserte hendelser som masseskytinger eller terrorangrep.

I retningslinjene om farlige organisasjoner og personer svartelister og utestenger vi personer og organisasjoner som er involvert i slike aktiviteter, og vi fjerner glorifisering av og støtte til voldshandlinger fra disse når vi blir kjent med det. Vi svartelister og forbyr også enheter som bidrar til vold – enheter som deltar i forberedelse av eller støtte til framtidige voldshandlinger, men som ikke nødvendigvis har drevet med vold til dags dato – og fjerner også glorifisering av og støtte til dem.

Retningslinjene våre er offentlige, og du kan lese mer informasjon om dem på siden som beskriver standardene våre. I tillegg publiserer vi regelmessig informasjon om hvor mye av dette innholdet vi fjerner i kvartalsrapporten om standardene våre.

Hvordan og hvorfor vi svartelister

Vi tillater ikke at organisasjoner eller personer er på Metas plattformer når de enten deltar i eller uttrykker at de vil utføre voldshandlinger eller hatkriminalitet. Vi vurderer disse enhetene ut fra atferden deres både på og utenfor Internett, og mest sentralt er tilknytningen deres til voldshandlinger. I henhold til disse retningslinjene utpeker vi enkeltpersoner, organisasjoner og nettverk. For å sikre en mer effektiv, forholdsmessig og konsekvent håndheving har vi delt inn svartelistingen i to nivåer. Du kan lese mer om disse nivåene, samt hvilke typer organisasjoner hver av dem omfatter, i standardene våre.

Vi har vår egen robuste interne prosess – som tar hensyn til mange informasjonskilder – som vi bruker for å evaluere organisasjoner og personer for mulig svartelisting. Når vi utvikler våre egne definisjoner og prosesser for svartelisting, uten hensyn til region og ideologi, kan vi være robuste, rettferdige og proaktive når det gjelder å beskytte plattformene våre.

Dette arbeidet er ikke statisk. Vi vurderer kontinuerlig risiko og vurderer svartelisting av grupper og personer basert på atferd, endrede omstendigheter, ny informasjon, interne ekspertanalyser og innspill fra eksterne interessenter. Som vi for eksempel kunngjorde i januar 2024, når svartelistede organisasjoner eller personer endrer atferd, er de også kvalifisert for å fjernes fra listen vår – spesielt hvis de (1) ikke er svartelistet av amerikanske myndigheter som en SDNTK (Specially Designated Narcotics Trafficking Kingpin), Foreign Terrorist Organization (FTO) eller Specially Designated Global Terrorist (SDGT); (2) ikke lenger er involvert i voldshandlinger eller hatefull atferd; og (3) ikke er et symbol på vold og hat, brukes til å oppfordre til vold eller spre voldelig eller hatefull propaganda.

Selv om vi legger stor vekt på åpenhet og kontinuerlig gjør ulike avveininger, deler vi foreløpig ikke detaljer om svartelisten vår. Dette skyldes at vi ønsker å redusere sikkerhetsmessig og juridisk risiko og forhindre at disse farlige aktørene klarer å omgå kontrollmekanismene våre.

Slik håndhever vi farlige organisasjoner og personer

Vi investerer tungt i ansatte, teknologi, partnerskap og forskning for å motvirke ulovlig aktivitet.

Teknologi: Vi tilnærmer oss dette området gjennom en kombinasjon av kunstig og menneskelig intelligens. Vi investerer også i forskning og analyser, og vi samarbeider med eksterne eksperter og organisasjoner for å holde oss oppdatert på det skiftende miljøet. Vi bruker KI til å avdekke videoer, bilder, lyd, tekst og til og med grafikk (som logoer og voldelige bilder). Vi gjør også verktøy med åpen kildekode tilgjengelig i hele bransjen for å hjelpe partnerne våre med å få tilgang til teknologi for å bekjempe farlige organisasjoner og personer på deres egne plattformer. I desember 2022 gjorde vi for eksempel «Hasher Matcher Actioner» (HMA) tilgjengelig for alle selskaper i hele bransjen. Dette er en gratis programvare med åpen kildekode som kan hjelpe alle typer plattformer med å identifisere ulike kopier av bilder eller videoer og iverksette tiltak mot dem i stor skala.
Personale: Kontekst og språk er ofte komplekst, og teknologien klarer ikke alltid å skille glorifisering av farlige organisasjoner og personer fra kulturspesifikk kritikk. Derfor har Meta investert milliarder av dollar i sikkerhet, og selskapet har nesten 40 000 personer som jobber med sikkerhet. Innenfor dette området har vi satt sammen et tverrfunksjonelt team av hundrevis av mennesker med spesifikk ekspertise innenfor alt fra politi, rettsvesen og nasjonal sikkerhet til bekjempelse av terrorisme, etterforskning og akademiske studier av radikalisering.
Partnerskap: Så lenge det eksisterer skadelige aktiviteter i verden, vil de eksistere på Internett, og ingen bedrift kan løse disse problemene på egen hånd. Derfor er partnerskap med andre – bedrifter, sivilsamfunnet, forskere og myndigheter – så avgjørende. Vi samarbeider med myndigheter og tverrstatlige byråer rundt om i verden, og vi samarbeider også med organisasjoner med ekspertise innen terrorisme, voldelig ekstremisme, Internett-etterretning og ulovlig atferd på Internett.
- GIFCT: Vi slo oss sammen med YouTube, Microsoft og Twitter i 2017 for å opprette Global Internet Forum to Counter Terrorism (GIFCT), en organisasjon med mål om å hindre terrorister og voldelige ekstremister fra å benytte digitale plattformer. GIFCT ble en uavhengig ideell organisasjon i 2019, og koordinerer kriserespons på tvers av bransjen som svar på angrep.
- Politi: Når vi blir kjent med en spesifikk, overhengende og troverdig trussel mot menneskeliv, nøler vi ikke med å varsle politiet. Meta samarbeider også med politietater rundt voldelige angrep, selv om vi alltid gransker alle ønsker vi mottar fra myndigheter for å forsikre oss om at de er juridisk gyldige og i samsvar med internasjonalt anerkjente standarder for menneskerettigheter – inkludert rettferdig prosess, personvern, ytringsfrihet og rettsstaten. Hvis vi fastslår at en forespørsel er mangelfull eller for omfattende, motsetter vi oss. Du kan lese mer om samarbeidet vårt med politiet her.
Uavhengige analyser: Vi bestiller uavhengige analyser fra tenketanker, akademikere og frivillige organisasjoner om ulike temaer som gjelder voldelige ekstremisters og terroristers bruk av Internett, slik at vi kan hjelpe bransjen vår med å forstå og gjøre framskritt innenfor disse viktige spørsmålene. I 2022 kunngjorde Meta et analysesamarbeid med Middlebury Institute of International Studies' Center on Terrorism, Extremism, and Counterterrorism for å analysere utviklingstrender innen voldelig ekstremisme og effektive verktøy som hjelper lokalsamfunn med å bekjempe dette.
Strategic Network Disruptions (strategiske nettverksforstyrrelser): Selv om de fleste av tiltakene våre mot terrorisme og organisert hat kommer fra rutinemessig fjerning av innhold, er dette noen ganger ikke nok. Dette er kompleks materie, og svartelistede farlige enheter forsøker noen ganger å omgå tiltakene våre og etablere nye nettverk på plattformen vår. For å bekjempe disse nettverkene bruker vi en nøkkeltilnærming kalt Strategic Network Disruption (SND). SND lar oss fjerne et nettverk av allerede forbudte farlige organisasjoner og personer samtidig, enten når de først blir svartelistet, eller som en del av vårt løpende arbeid med å holde disse svartelistede gruppene vekk fra plattformene våre. En komplett deaktivering av disse klyngene, gjør det vanskeligere for dem å komme seg tilbake til plattformene. Det sender også en klar melding om at vi er klar over tilstedeværelsen deres, og at disse gruppene ikke er velkomne på plattformene. Til slutt lar denne teknikken oss å studere hvordan disse farlige organisasjonene og personene prøver å unngå å bli oppdaget, samt hvordan de forsøker å komme seg tilbake på appene våre etter at vi har fjernet kontoene deres.
- I juni 2023 publiserte det uavhengige akademiske tidsskriftet Proceedings of the National Academy of Sciences (PNAS)en artikkel skrevet av Meta-analytikerne Daniel Robert Thomas og Laila A. Wahedi, som har studert hvor effektiv SND-strategien har vært for å begrense hatgrupper. Vi fant at taktikken fungerer, og at den bidrar til å skape en sunnere og tryggere brukeropplevelse på plattformene våre.

Forebyggende arbeid

Hos Meta ønsker vi å opprettholde sikkerheten og integriteten til plattformene våre. En av måtene vi oppnår dette på, er gjennom forebygging, noe som innebærer proaktive tiltak for å forhindre spredning av farlige organisasjoner og personer før de slår rot hos personer eller lokalsamfunn. Dette omfatter å bruke målrettede intervensjoner og fremme positive ytringer. Vi mener at konstruktiv dialog er avgjørende, og vi streber etter å skape et miljø som oppmuntrer til dette.

For ytterligere å styrke innsatsen, samarbeider vi aktivt med sivilsamfunnsorganisasjoner som er dedikert til å motvirke ekstremisme, organisert hat og kriminelle aktiviteter. Vi støtter disse organisasjonene ved å sørge for at de har kapasitet og de nødvendige ressursene for å lage innhold som tar til motmæle. Dette innholdet utfordrer ekstremistiske narrativer og tilbyr alternative perspektiver, noe som bidrar til å fremme et mer positivt og inkluderende nettmiljø.

Vi har en tilnærming til å motvirke ekstremisme som er mangesidig og proaktiv, og dette involverer en kombinasjon av forebygging, samarbeid og å fremme positive ytringer.

The Resiliency Initiative er et program som kurser sivilsamfunnsorganisasjoner i Asia, Afrika og USA i kampanjestrategier for forebyggelse/bekjempelse av voldelig ekstremisme, og som øker kapasiteten deres for effektive opplysningskampanjer. Som et ledd i Resiliency Initiative, lanserte Meta et USA-basert partnerskap med Search for Common Ground (SFCG) for å støtte partnere i ulike samfunn som jobber lokalt med å motvirke hatkriminalitet og skape større sosial og samfunnsmessig motstandskraft.
Sikrere søk: Vi leder også – når det er hensiktsmessig – folk til gode ressurser når de søker etter begreper knyttet til farlige organisasjoner og personer. Når brukere søker etter begreper rundt farlige organisasjoner og personer på Facebook, Instagram og Threads, ledes de i stedet til ressurser. Dette bidrar til å avskrekke søk etter innhold som gjelder farlige organisasjoner og personer, og brukerne får tilgang til informative ressurser.
Vi kjører også et søkeprogram i flere land, inkludert Australia, USA, Storbritannia, Tyskland, India, Indonesia og Pakistan. Hvis noen søker etter begreper som er spesifikke for markedet og som vanligvis handler om bestemte skadevirkninger fra farlige organisasjoner og personer, tilbyr vi dem mer informasjon og flere ressurser, i samarbeid med en lokal organisasjon som spesialiserer seg på å tilby støttetjenester til brukere som er utsatt for ekstremisme.
Ressurser til organisasjoner: Vi kjører også et program for sikkerhetsannonser (Safety Ads Program), der organisasjoner hjelpes med proaktivt å forhindre skade ved å motta reklamekreditt og strategisk støtte når de kjører programmer for å ta til motmæle mot farlige organisasjoner og personer. Samarbeidet med disse organisasjonene har som mål å bekjempe farlige organisasjoner og personer.

Dette er et løpende arbeid, og vi vet at så lenge farlige organisasjoner og personer eksisterer i verden, vil de eksistere på Internett, og derfor må vi være årvåkne. Disse gruppene tar stadig i bruk nye taktikker for å unngå å bli oppdaget og/eller prøve å omgå retningslinjene og tiltakene våre. Denne atferden er grunnen til at vi hele tiden jobber med å ligge et skritt foran, samt kontinuerlig evaluere og oppdatere tilnærmingen vår.