Unser Ansatz für gefährliche Organisationen und Personen

AKTUALISIERT 11.11.2024

Auf unserer Plattform ist kein Platz für Gruppen oder Einzelpersonen, die Gewalt, organisiertes Verbrechen, Hass oder Terrorismus fördern. In jahrelanger Arbeit haben wir Richtlinien und Verfahren für gefährliche Organisationen und Personen entwickelt und erweitern diese ständig, um gegen diese Art von Inhalten vorzugehen. Unser Ziel ist es, Menschen eine Plattform zu bieten, auf der sie sich über Ereignisse auf der ganzen Welt austauschen können, die ihr Leben, ihre Familien und ihre Communitys beeinflussen. Unsere Richtlinien sollen jedoch auch klarstellen, was auf unseren Plattformen nicht erlaubt ist.

Unsere Richtlinien sind darauf ausgelegt, die Sicherheit auf unseren Plattformen zu wahren

Meta wendet eine der umfassendsten Richtlinien der Branche an, die sich gegen terroristische Organisationen, Hassgruppen, organisierte kriminelle Organisationen wie Kartelle, gewalttätige Vereinigungen und Täter*innen richtet, die für bestimmte Vergehen wie Massenerschießungen oder Terroranschläge verantwortlich sind.

Im Rahmen dieser Richtlinie zu gefährlichen Organisationen und Einzelpersonen kennzeichnen und verbieten wir Einzelpersonen und Organisationen, die an entsprechenden Aktivitäten beteiligt sind, und entfernen jegliche Verherrlichung und Unterstützung dieser, sobald wir davon Kenntnis erlangen. Wir kennzeichnen und verbieten auch gewaltverherrlichende Personen oder Organisationen – solche, die an der Vorbereitung oder Befürwortung zukünftiger Gewalt beteiligt sind, aber bisher nicht unbedingt Gewalt ausgeübt haben – und entfernen jegliche Verherrlichung und Unterstützung dieser Entitäten.

Unsere Richtlinien sind öffentlich und du kannst weitere Details dazu auf unserer Seite zu den Gemeinschaftsstandards nachlesen. Darüber hinaus veröffentlichen wir in unserem vierteljährlichen Bericht zu den Gemeinschaftsstandards regelmäßig Einzelheiten darüber, wie viele dieser Inhalte wir entfernen.

Wie und warum wir eine Kennzeichnung vornehmen

Wir gestatten keine Präsenz für Organisationen oder Einzelpersonen, die eine gewalttätige oder hasserfüllte Mission verfolgen oder Gewalt ausüben. Wir bewerten diese Entitäten aufgrund ihres Verhaltens sowohl online als auch offline und vor allem aufgrund ihrer Verbindung zu Gewalt. Im Rahmen dieser Richtlinie kennzeichnen wir Personen, Organisationen und Netzwerke von Menschen. Um eine effektivere, verhältnismäßigere und konsistentere Durchsetzung zu gewährleisten, haben wir die Kennzeichnung in zwei Stufen unterteilt. Weitere Informationen zu diesen Stufen und den Arten von Organisationen, die sie jeweils umfassen, findest du in unseren Gemeinschaftsstandards.

Wir haben einen zuverlässigen internen Prozess, der viele Informationsquellen berücksichtigt und mit dem wir Organisationen und Einzelpersonen im Hinblick auf eine mögliche Einstufung bewerten. Die Entwicklung eigener Definitionen und eines eigenen Kennzeichnungsprozesses, unabhängig von Region oder Ideologie, ermöglicht es uns, unsere Plattformen zuverlässig, transparent und proaktiv zu schützen.

Dieser Prozess ist nicht statisch. Wir bewerten kontinuierlich Risiken und evaluieren Gruppen und Einzelpersonen für eine Kennzeichnung auf der Grundlage ihres Verhaltens, sich ändernder Umstände, neuer Informationen, interner Expert*innenanalysen und des Inputs externer Interessengruppen. Wie wir beispielsweise im Januar 2024 angekündigt haben, können als gefährlich eingestufte Organisationen oder Einzelpersonen, die ihr Verhalten ändern, auch von unserer Liste gestrichen werden – insbesondere, wenn sie (1) nicht von der US-Regierung als Specially Designated Narcotics Trafficking Kingpin (SDNTK), Foreign Terrorist Organization (FTO) oder Specially Designated Global Terrorist (SDGT) eingestuft wurden, (2) nicht mehr in Aktivitäten involviert sind, die mit Gewalt oder Hass in Verbindung stehen, und (3) nicht symbolisch für Gewalt und Hass stehen oder dazu verwendet werden können, zu weiterer Gewalt anzustiften oder gewalttätige oder hasserfüllte Propaganda zu verbreiten.

Obwohl wir Transparenz sehr schätzen und die Vor- und Nachteile kontinuierlich abwägen, geben wir derzeit keine Details unserer Liste der als gefährlich eingestuften Entitäten weiter, um Sicherheits- und Rechtsrisiken zu minimieren und zu verhindern, dass diese gefährlichen Akteure unsere Durchsetzungsmechanismen umgehen.

Wie wir gegen gefährliche Organisationen und Einzelpersonen vorgehen

Wir haben stark in Ressourcen, Technologie, Partnerschaften und Forschung investiert, um Aktivitäten von gefährlichen Organisationen und Personen zu bekämpfen.

Technologie: Wir begegnen diesem Problem mit einer Kombination aus KI und menschlicher Intelligenz. Darüber hinaus investieren wir in die Forschung und arbeiten mit externen Expert*innen und Organisationen zusammen, um mit diesem sich stetig verändernden Umfeld Schritt zu halten. Wir nutzen KI, um Videos, Bilder, Audio, Text und sogar Grafiken wie Logos und bildliche Darstellungen von Gewalt zu erkennen. Wir stellen auch branchenweit Open-Source-Tools zur Verfügung, um Partnern den Zugang zu Technologien zu erleichtern, mit denen sie gefährliche Organisationen und Einzelpersonen auf ihren eigenen Plattformen bekämpfen können. So haben wir beispielsweise im Dezember 2022 „Hasher Matcher Actioner“(HMA) verfügbar gemacht, um Unternehmen in der Branche die Möglichkeit zu geben, ihre Plattformen frei von terroristischen Inhalten zu halten. Es handelt sich dabei um ein kostenloses Open-Source-Softwaretool, das Plattformen dabei unterstützt, Kopien von Bildern oder Videos zu identifizieren und massenhaft dagegen vorzugehen.
Personen: Kontext und Sprache sind oft komplex und die Technologie kann nicht immer zwischen der Verherrlichung einer als gefährlich eingestuften Organisation oder Person und kulturspezifischer Kritik unterscheiden. Aus diesem Grund investiert Meta Milliarden von US-Dollar und beschäftigt fast 40.000 Menschen im Bereich Sicherheit. Innerhalb dieses Bereichs haben wir ein funktionsübergreifendes Team von Hunderten von Mitarbeiter*innen, die sich speziell mit diesem Thema befassen und über Fachwissen in den Bereichen Strafverfolgung und nationale Sicherheit, Terrorismusbekämpfung und in Bezug auf wissenschaftliche Studien zur Radikalisierung verfügen.
Partnerschaften: Solange es schädliche Aktivitäten in der Welt gibt, wird auch das Internet davon geprägt sein, und kein Unternehmen kann Probleme dieser Art allein lösen. Deshalb sind Partnerschaften – mit Unternehmen, der Zivilgesellschaft, der Forschung und Regierungen – so wichtig. Wir arbeiten mit Regierungen und regierungsübergreifenden Behörden auf der ganzen Welt zusammen und kooperieren mit Organisationen, die Fachwissen aus den Bereichen Terrorismus, gewalttätiger Extremismus, Cyber-Intelligence und böswilliges Verhalten im Internet einbringen.
- GIFCT: Im Jahr 2017 haben wir gemeinsam mit YouTube, Microsoft und Twitter das Global Internet Forum to Counter Terrorism (GIFCT) gegründet, eine Organisation, die sich das Ziel gesetzt hat, Terrorist*innen und gewalttätige Extremist*innen daran zu hindern, digitale Plattformen zu missbrauchen. 2019 wurde GIFCT als selbstständige Nichtregierungsorganisation ins Leben gerufen und koordiniert branchenweit die Abwehr von Angriffen.
- Strafverfolgungsbehörden: Wenn wir von einer konkreten, unmittelbaren und glaubwürdigen Bedrohung des menschlichen Lebens Kenntnis erhalten, zögern wir nicht, die Strafverfolgungsbehörden zu benachrichtigen. Meta arbeitet auch im Zusammenhang mit gewalttätigen Angriffen mit den Strafverfolgungsbehörden zusammen, wobei wir jede Anfrage der Regierung, die wir erhalten, stets genau prüfen, um sicherzustellen, dass sie rechtlich gültig ist und vereinbar mit international anerkannten Menschenrechtsstandards, einschließlich ordnungsgemäßer Verfahren, Privatsphäre, freier Meinungsäußerung und Rechtsstaatlichkeit. Wenn eine Anfrage fehlerhaft oder zu umfangreich erscheint, weisen wir sie zurück. Mehr über unsere Zusammenarbeit mit den Strafverfolgungsbehörden kannst du hier nachlesen.
Unabhängige Forschung: Wir beauftragen Thinktanks, akademische Institutionen und NGOs mit unabhängigen Forschungsarbeiten zu verschiedenen Themen im Zusammenhang mit der Nutzung des Internets durch gewalttätige Extremist*innen und Terrorist*innen, um unserer Branche zu helfen, diese wichtigen Themen zu verstehen und Fortschritte zu erzielen. Im Jahr 2022 kündigte Meta eine Forschungspartnerschaft mit dem Center on Terrorism, Extremism, and Counterterrorism des Middlebury Institute of International Studies an, um sich entwickelnde Trends im Bereich des gewalttätigen Extremismus und wirksame Instrumente zu analysieren, die den Communitys bei der Bekämpfung dieses Problems helfen.
Strategische Netzwerkunterbrechungen: Der Großteil unserer Maßnahmen zur Bekämpfung von Terrorismus und organisiertem Hass beruht auf der routinemäßigen Entfernung von Inhalten, aber manchmal reicht das nicht aus. Hier treffen gegensätzliche Interessen aufeinander und bestimmte als gefährlich eingestufte Entitäten versuchen mitunter, unsere Maßnahmen zu umgehen und Netzwerke auf unserer Plattform neu zu konstituieren. Um gegen solche Netzwerke vorzugehen, setzen wir auf die sogenannte Strategic Network Disruption (SND). Mithilfe dieses Ansatzes können wir ein Netzwerk bereits verbotener Akteure, die als gefährliche Organisation oder Person eingestuft sind, auf einmal entfernen, entweder wenn diese erstmalig als solche eingestuft werden oder im Rahmen unserer laufenden Arbeit, diese als gefährlich eingestuften Gruppen von unserer Plattform fernzuhalten. Durch die vollständige Deaktivierung dieser Cluster wird es für sie schwieriger, auf die Plattform zurückzukehren. Außerdem wird damit deutlich gemacht, dass wir uns der Anwesenheit dieser Gruppen bewusst sind und dass sie auf unseren Plattformen nicht willkommen sind. Schließlich können wir mit dieser Vorgehensweise untersuchen, wie diese gefährlichen Organisationen und Personen eventuell versuchen, unsere Erkennungsmechanismen zu umgehen, und wie sie versuchen könnten, erneut auf unsere Apps zuzugreifen, nachdem wir ihre Konten entfernt haben.
- Im Juni 2023 veröffentlichte das unabhängige Wissenschaftsjournal Proceedings of the National Academy of Sciences (PNAS) einen Artikel der Meta-Forschenden Daniel Robert Thomas und Laila A. Wahedi, in dem die Wirksamkeit unserer SND-Strategie zur Bekämpfung von Hassgruppen untersucht wurde. Wir haben festgestellt, dass dieser Ansatz funktioniert – und dazu beiträgt, ein angenehmeres und sichereres Nutzungserlebnis auf unseren Plattformen zu schaffen.

Präventionsarbeit

Das Ziel von Meta ist es, die Sicherheit und Integrität unserer Plattformen zu gewährleisten. Das erreichen wir unter anderem durch vorgelagerte Prävention, d. h. durch proaktive Maßnahmen, um die Verbreitung von Inhalten von als gefährlich eingestuften Entitäten zu verhindern, bevor sie bei Einzelpersonen oder Communitys Anklang finden. Dazu gehören gezielte Interventionen und die Förderung positiver Sprache. Wir sind davon überzeugt, dass ein konstruktiver Dialog unerlässlich ist, und wir streben danach, ein Umfeld zu schaffen, das einen solchen Austausch fördert.

Um unsere Bemühungen weiter voranzutreiben, arbeiten wir aktiv mit zivilgesellschaftlichen Organisationen zusammen, die sich der Bekämpfung von Extremismus, organisiertem Hass und kriminellen Aktivitäten verschrieben haben. Wir unterstützen diese Organisationen beim Aufbau ihrer Strukturen und Kompetenzen und stellen ihnen die erforderlichen Ressourcen zur Verfügung, um Inhalte für Gegenrede zu erstellen. Diese Inhalte stellen extremistische Narrative in Frage und bieten alternative Perspektiven, um ein positiveres und integrativeres Online-Umfeld zu fördern.

Unser Ansatz zur Bekämpfung von Extremismus ist vielschichtig und proaktiv und umfasst eine Kombination aus Prävention, Zusammenarbeit und Förderung positiver Sprache.

Die Resiliency Initiative ist ein Programm, das zivilgesellschaftliche Organisationen in Asien, Afrika und den USA in Strategien zur Prävention bzw. Bekämpfung von gewalttätigem Extremismus schult und ihr Potenzial für wirksame Gegenrede-Kampagnen stärkt. Im Rahmen der Resiliency Initiative hat Meta eine Partnerschaft mit Search for Common Ground (SFCG) ins Leben gerufen, um Partner auf Community-Ebene zu unterstützen, die sich vor Ort für die Bekämpfung von hassmotivierter Gewalt und den Aufbau sozialer, widerstandsfähiger Communitys einsetzen.
Mehr Sicherheit bei der Suche: Wir weisen Nutzer*innen ggf. auch auf relevante Ressourcen hin, wenn sie nach Begriffen suchen, die mit gefährlichen Organisationen und Personen im Zusammenhang stehen. Wenn Personen auf Facebook, Instagram und in Threads nach Begriffen im Zusammenhang mit gefährlichen Organisationen und Einzelpersonen suchen, werden ihnen stattdessen Ressourcen zur Verfügung gestellt, die dazu beitragen, sie von der Suche nach Inhalten über gefährliche Entitäten abzuhalten und ihnen stattdessen Bildungsressourcen und Informationsquellen zur Verfügung zu stellen.
In mehreren Ländern, darunter Australien, die USA, das Vereinigte Königreich, Deutschland, Indien, Indonesien und Pakistan, bieten wir auch ein entsprechendes Suchprogramm an. Wenn Nutzer*innen nach Begriffen suchen, die für den jeweiligen Markt spezifisch sind und sich in der Regel auf bestimmte Schäden durch gefährliche Organisationen und Einzelpersonen konzentrieren, stellen wir ihnen zusätzliche Informationen und Ressourcen bereit. Das erfolgt in Zusammenarbeit mit einer lokalen zivilgesellschaftlichen Organisation, die auf die Unterstützung von Nutzer*innen spezialisiert ist, die von Extremismus bedroht sind.
Bereitstellung von Ressourcen für gesellschaftliche Organisationen: Wir haben mit dem Safety Ads-Programm auch ein Format für Sicherheit, das zivilgesellschaftliche Organisationen, mit denen wir zusammenarbeiten, dabei unterstützt, Schäden proaktiv zu verhindern, indem diese Organisationen Werbegutschriften und strategische Unterstützung bei der Durchführung von Gegenrede-Kampagnen erhalten. Wir möchten unsere Partnerschaften mit diesen zivilgesellschaftlichen Organisationen noch weiter ausbauen, um gegen gefährliche Organisationen und Einzelpersonen vorzugehen.

Diese Arbeit setzen wir kontinuierlich fort, denn wir wissen, dass gefährliche Organisationen und Personen – solange es sie auf der Welt gibt – auch im Internet präsent sein werden. Deshalb bleiben wir wachsam. Diese Gruppen wenden immer wieder neue Methoden an, um nicht entdeckt zu werden oder um zu versuchen, sich unseren Richtlinien und deren Durchsetzung zu entziehen. Dieses böswillige Verhalten ist der Grund, warum wir unermüdlich daran arbeiten, immer einen Schritt voraus zu sein, indem wir unseren eigenen Ansatz bewerten und entsprechend aktualisieren.