Onze aanpak van gevaarlijke organisaties en personen

BIJGEWERKT 11 NOV. 2024

Op ons platform is geen plaats voor groepen of individuen die geweld, georganiseerde misdaad, haat of terrorisme promoten. In de loop van de jaren hebben we beleid en processen voor gevaarlijke organisaties en personen ontwikkeld om dit soort content aan te pakken en we blijven dit beleid en deze processen ontwikkelen. Hoewel we er alles aan doen om mensen de ruimte te geven om te praten over gebeurtenissen in de wereld die invloed hebben op hun leven, familie en community, is ons beleid erop gericht om een grens te trekken voor wat niet is toegestaan op onze platformen.

Ons beleid is ontworpen om onze platformen veilig te houden

Meta heeft een van de uitgebreidste sets beleidsregels binnen de branche gericht tegen terroristische organisaties, haatgroepen, georganiseerde criminele organisaties zoals kartels, entiteiten die geweld uitlokken en daders van aangeduide schendende gebeurtenissen zoals massaschietpartijen of terroristische aanslagen.

In het kader van dit beleid inzake gevaarlijke organisaties en personen duiden we personen en organisaties aan die betrokken zijn bij zulke activiteiten en verbieden we deze. We verwijderen verheerlijking en ondersteuning van dergelijke personen en organisaties wanneer we ons hiervan bewust worden. We duiden ook entiteiten aan die geweld uitlokken (die zich bezighouden met het voorbereiden van of het pleiten voor toekomstig geweld, maar die nog niet daadwerkelijk geweld hebben gepleegd) en we verbieden deze. We verwijderen ook verheerlijking en ondersteuning van dergelijke entiteiten.

Ons beleid is openbaar en je kunt meer informatie hierover lezen op onze pagina met de richtlijnen voor de community. Daarnaast publiceren we regelmatig informatie over hoeveel van deze content we verwijderen in ons driemaandelijkse rapport voor de richtlijnen voor de community.

Hoe en waarom we aanduiden

We staan niet toe dat organisaties of personen die een gewelddadige of haatdragende missie ondersteunen of die betrokken zijn bij geweld een aanwezigheid hebben op de platformen van Meta. We beoordelen deze entiteiten op basis van hun gedrag, zowel online als offline, en het belangrijkste: hun banden met geweld. In dit beleid benoemen we personen, organisaties en netwerken van mensen. Om een effectievere, evenredige en consistente handhaving te garanderen, hebben we de aanduidingen in 2 niveaus verdeeld. Je kunt meer lezen over deze niveaus en de soorten organisaties die ze omvatten in onze richtlijnen voor de community.

We hebben onze eigen grondige interne procedure (waarin we rekening houden met vele informatiebronnen) die we gebruiken om organisaties en personen te evalueren om ze mogelijk aan te duiden. Door onze eigen definities en procedures voor aanduiding te ontwikkelen, onafhankelijk van regio of ideologie, kunnen we grondig, eerlijk en proactief te werk gaan bij het beschermen van onze platformen.

Dit werk staat niet stil. We beoordelen voortdurend risico's en evalueren groepen en personen voor aanduiding op basis van hun gedrag, veranderende omstandigheden, nieuwe informatie, analyse van interne experts en input van externe belanghebbenden. Zoals we in januari 2024 hebben aangekondigd komt een aangeduide organisatie of persoon wanneer deze diens gedrag verandert bijvoorbeeld ook in aanmerking voor verwijdering van onze lijst, met name als deze (1) niet door de Amerikaanse overheid is aangeduid als Specially Designated Narcotics Trafficking Kingpin (SDNTK); Foreign Terrorist Organization (FTO); of Specially Designated Global Terrorist (SDGT); (2) niet langer betrokken is bij geweld of haat; en (3) niet symbool staat voor geweld en haat of wordt gebruikt om verder geweld aan te wakkeren of gewelddadige of haatdragende propaganda te verspreiden.

Hoewel we veel waarde hechten aan transparantie en de afwegingen voortdurend evalueren, delen we op dit moment de details van onze lijst niet om veiligheids- en juridische risico's te beperken en om te voorkomen dat deze gevaarlijke actoren onze handhavingsmechanismen omzeilen.

Hoe we handhaven tegen gevaarlijke organisaties en personen

We investeren veel in mensen, technologie, partnerschappen en onderzoek om activiteiten van gevaarlijke organisaties en personen tegen te gaan.

Technologie: we benaderen dit aspect met een combinatie van AI en menselijke intelligentie, investeren in onderzoek en werken samen met externe experts en organisaties om op de hoogte te blijven van deze veranderende omgeving. We gebruiken AI om video, afbeeldingen, audio, tekst en zelfs afbeeldingen zoals logo's en weergaven van geweld te detecteren. We maken ook open-sourcetools beschikbaar voor de hele branche om partners te helpen toegang te krijgen tot technologie om gevaarlijke organisaties en personen op hun eigen platformen te bestrijden. Zo hebben we in december 2022 'Hasher Matcher Actioner' (HMA) beschikbaar gesteld, een gratis te gebruiken open-sourcesoftwaretool waarmee platformen kopieën van afbeeldingen of video's kunnen identificeren en hiertegen massaal actie kunnen ondernemen. Hierdoor wordt het voor elk bedrijf in de branche gemakkelijker om hun platformen vrij te houden van terroristische content.
Mensen: Context en taal zijn vaak complex en technologie kan verheerlijking van gevaarlijke organisaties en personen niet altijd onderscheiden van cultuurspecifieke kritiek. Daarom heeft Meta miljarden dollars geïnvesteerd en werken er bijna 40.000 mensen aan veiligheid en beveiliging. Daarbinnen hebben we een multifunctioneel team van honderden mensen met expertise variërend van wetshandhaving en nationale veiligheid tot inlichtingen over terrorismebestrijding en academische studies op het gebied van radicalisering.
Partnerschappen: Zolang er schadelijke activiteiten bestaan in de wereld, zullen ze ook bestaan op het internet en geen enkel bedrijf kan deze problemen alleen oplossen. Daarom zijn partnerschappen met anderen - bedrijven, maatschappelijke organisaties, onderzoekers en overheden - zo cruciaal. We onderhouden contact met overheden en intergouvernementele organisaties over de hele wereld en werken samen met organisaties met expertise op het gebied van terrorisme, gewelddadig extremisme, cyberintelligentie en vijandig online gedrag.
- • GIFCT: In 2017 hebben we onze krachten gebundeld met YouTube, Microsoft en Twitter om het Global Internet Forum to Counter Terrorism (GIFCT) op te richten, een organisatie die is opgericht met als doel te voorkomen dat terroristen en gewelddadige extremisten digitale platformen kunnen exploiteren. GIFCT werd in 2019 een onafhankelijke ngo en coördineert de crisisrespons in de hele branche als reactie op aanvallen.
- • Wethandhavingsinstanties: Wanneer we ons bewust worden van een specifieke, dreigende en geloofwaardige bedreiging voor mensenlevens, aarzelen we niet om de wethandhavingsinstanties in te lichten. Meta werkt ook samen met wethandhavingsinstanties rond gewelddadige aanvallen, hoewel we altijd elk verzoek van de overheid dat we ontvangen nauwkeurig onderzoeken om er zeker van te zijn dat het rechtsgeldig is en in overeenstemming met internationaal erkende normen voor mensenrechten, waaronder een eerlijk proces, privacy, vrije meningsuiting en de rechtsstaat. Als we vaststellen dat een verzoek tekortkomingen vertoont of te ruim is, nemen we dit niet in behandeling. Je kunt hier meer lezen over ons werk met wethandhavingsinstanties.
Onafhankelijk onderzoek: We laten onafhankelijk onderzoek uitvoeren door denktanks, academici en ngo's over verschillende onderwerpen met betrekking tot het gebruik van internet door gewelddadige extremisten en terroristen om onze branche te helpen deze belangrijke kwesties te begrijpen en er vooruitgang mee te boeken. In 2022 kondigde Meta een onderzoekssamenwerking aan met het Center on Terrorism, Extremism, and Counterterrorism van het Middlebury Institute of International Studies om evoluerende trends in gewelddadig extremisme en effectieve tools die community's helpen om dit te bestrijden te analyseren.
Strategische netwerkverstoringen: Hoewel het grootste deel van onze handhaving tegen terrorisme en georganiseerde haat voortkomt uit het routinematig verwijderen van content, is dat soms niet genoeg. Dit is een vijandige ruimte en aangeduide gevaarlijke entiteiten proberen soms onze handhaving te omzeilen en opnieuw netwerken op ons platform te vormen. Om deze netwerken te bestrijden, gebruiken we een belangrijke aanpak die we Strategische netwerkverstoring (SND) noemen. Met een strategische netwerkverstoring kunnen we een netwerk van reeds uitgesloten gevaarlijke organisaties en personen in één keer verwijderen, hetzij wanneer het voor het eerst worden aangeduid, hetzij als onderdeel van ons voortdurende werk om deze aangeduide groepen van ons platform te weren. Door deze clusters volledig uit te schakelen, wordt het moeilijker voor ze om terug te keren naar het platform. Het geeft ook een duidelijk signaal af dat we ons bewust zijn van hun aanwezigheid en dat deze groepen niet welkom zijn op onze platformen. Tot slot stelt deze techniek ons in staat om te bestuderen hoe deze gevaarlijke organisaties en personen zouden kunnen proberen om onze detectie te omzeilen en hoe ze zouden kunnen proberen om terug te keren naar onze apps nadat we hun accounts hebben verwijderd.
- • In juni 2023 publiceerde het onafhankelijke academische tijdschrift Proceedings of the National Academy of Sciences (PNAS) een artikel van Meta-onderzoekers Daniel Robert Thomas en Laila A. Wahedi over de effectiviteit van onze strategie inzake strategische netwerkverstoring bij het verstoren van haatgroepen. Wat we hebben ontdekt is dat de tactiek werkt en bijdraagt aan een gezondere en veiligere gebruikerservaring op onze platformen.

Preventief werk

Bij Meta zijn we toegewijd aan het handhaven van de veiligheid en integriteit van onze platformen. Een van de manieren waarop we dit bereiken is via upstreampreventie, wat inhoudt dat we proactieve maatregelen nemen om de verspreiding van gevaarlijke organisaties en personen te voorkomen voordat ze hun invloed kunnen uitoefenen op personen of community's. Dit omvat het gebruik van gerichte interventies en het bevorderen van positief taalgebruik. We geloven dat een constructieve dialoog essentieel is en we streven ernaar een omgeving te creëren waarin dergelijke uitwisselingen worden aangemoedigd.

Om onze inspanningen verder te versterken, werken we actief samen met maatschappelijke organisaties die zich inzetten om extremisme, georganiseerde haat en criminele activiteiten tegen te gaan. We ondersteunen deze organisaties door hun capaciteit op te bouwen en hen te voorzien van de nodige middelen om content voor tegenspraak te creëren. Deze content daagt extremistische narratieven uit en biedt alternatieve perspectieven, wat bijdraagt aan een positievere en meer inclusieve online omgeving.

Onze aanpak om extremisme tegen te gaan, is veelzijdig en proactief en bestaat uit een combinatie van preventie, samenwerking en het bevorderen van positief taalgebruik.

Het Resiliency Initiative is een programma dat maatschappelijke organisaties in Azië, Afrika en de Verenigde Staten traint in strategieën voor preventie/tegengaan van gewelddadig extremisme (P/CVE) en hun capaciteit opbouwt voor effectieve tegenspraakcampagnes. Als onderdeel van het 'Resiliency Initiative' lanceerde Meta een samenwerking in de VS met Search for Common Ground (SFCG) om partners in de community te ondersteunen die lokaal werken aan het tegengaan van door haat gevoed geweld en het opbouwen van sociale en maatschappelijke veerkracht.
Veiligere zoekopdrachten: Waar nodig verwijzen we mensen ook naar bronnen wanneer ze zoeken naar termen die in verband worden gebracht met gevaarlijke organisaties of personen. Wanneer gebruikers zoeken naar termen over gevaarlijke organisaties en personen op Facebook, Instagram en Threads, worden ze in plaats daarvan voorzien van bronnen. Zo kunnen we zoekopdrachten naar content over gevaarlijke organisaties en personen ontmoedigen en gebruikers voorzien van educatieve bronnen.
We hebben ook een zoekprogramma in verschillende landen, waaronder Australië, de Verenigde Staten, het Verenigd Koninkrijk, Duitsland, India, Indonesië en Pakistan. Als iemand zoekt op termen die specifiek zijn voor elke markt en meestal gericht zijn op bepaalde schade inzake gevaarlijke organisaties en personen, bieden we hen aanvullende informatie en hulpmiddelen in samenwerking met een lokale maatschappelijke organisatie die gespecialiseerd is in het aanbieden van ondersteunende diensten aan gebruikers die een risico lopen op extremisme.
Hulpbronnen voor maatschappelijke organisaties: We hebben ook een Safety Ads Program, dat partners bij maatschappelijke organisaties ondersteunt bij het proactief voorkomen van schade door hen advertentietegoed en strategische ondersteuning te bieden wanneer ze programma's voor tegenspraak uitvoeren. Door met deze organisaties samen te werken, willen we onze partnerschappen uitbreiden om gevaarlijke organisaties en personen te bestrijden.

Dit werk gaat door en we weten dat zolang er gevaarlijke organisaties en personen in de wereld bestaan, ze ook op internet zullen bestaan. Daarom blijven we waakzaam. Deze groepen passen nieuwe tactieken toe om detectie te voorkomen of om ons beleid en onze handhaving te omzeilen. Dit vijandige gedrag is de reden waarom we voortdurend bezig zijn om onze aanpak een stap voor te blijven, te evalueren en bij te werken.