Im Rahmen der Ausarbeitung unserer Content-Richtlinien arbeitet das Stakeholder Engagement Team von Meta mit zivilgesellschaftlichen Organisationen, Wissenschaftler*innen und anderen führenden Köpfen zusammen, um Wissen und Erfahrungen zusammenzutragen. Gemeinsam mit internen Teams arbeiten wir daran, das Feedback der Stakeholder in den Prozess der Richtlinienentwicklung einfließen zu lassen. Unser Ziel ist es, Richtlinien zu erarbeiten, die einen möglichst vielfältigen Input einer breiten Basis von Interessengruppen widerspiegeln.
Wir werden häufig gefragt, inwieweit die Beteiligung der Stakeholder dazu beigetragen hat, unsere Content-Richtlinien zu gestalten. Hier findest du einige Beispiele:
1. ENGAGEMENT GEGEN VERLETZENDE STEREOTYPE
Im Rahmen seiner Richtlinie gegen Hassrede hat Meta eine Richtlinie zum Entfernen schädlicher Stereotype erarbeitet. Durch die Einbeziehung von Stakeholdern konnte das Content Policy-Team eine Grundlage für das Verständnis und den Umgang mit diesen Stereotypen schaffen. Unser Team hat sich mit Stakeholdern aus der ganzen Welt beraten, darunter wissenschaftliche Fachleute, die sich auf das Thema Hassrede spezialisiert haben, Sozialpsycholog*innen, Historiker*innen und zivilgesellschaftliche Organisationen in Bereichen wie der freien Meinungsäußerung. Stakeholder haben uns geholfen zu verstehen, wie entscheidend Diskriminierung und ein Minderheitenstatus in der Vergangenheit für die Entstehung von Stereotypen sind. Die Expert*innen wiesen auch darauf hin, dass verletzende Stereotype dazu führen, dass sich Menschen in der Öffentlichkeit unsicher fühlen und daran gehindert werden, sich als Bürger*innen zu engagieren.
2. HASSREDE: ANGRIFFE AUF MENSCHEN VS. ANGRIFFE AUF KONZEPTE
Der Schwerpunkt unserer Richtlinie gegen Hassrede liegt auf Angriffen gegen Personen. Umgekehrt haben wir im Rahmen unserer Richtlinien Angriffe auf Konzepte, Ideen, Praktiken, Überzeugungen und Institutionen generell zugelassen, um eine breite Diskussion über solche Themen zu ermöglichen. Stakeholder und Nutzer*innen haben uns jedoch mitgeteilt, dass es unter Umständen schädlich sein kann, wenn Personen eine Institution oder ein Konzept kritisieren oder angreifen, die bzw. das eng mit Menschen mit einer geschützten Eigenschaft verbunden ist. Dies kann unter anderem Gewalt und Einschüchterung zur Folge haben. Dieses Feedback hat uns dazu veranlasst, eine Richtlinie zu diesem Aspekt unserer Standards zu Hassrede zu entwickeln. Wir haben uns mit einer Vielzahl von Wissenschaftler*innen und zivilgesellschaftlichen Organisationen zusammengeschlossen, darunter Expert*innen für gefährliche Sprache und die Prävention von Gräueltaten, Menschenrechtsvertreter*innen, Sozialpsycholog*innen, die sich mit Fragen der persönlichen Identität befassen, Verfechter*innen der Meinungsfreiheit und Gruppen, die religiöse und nicht religiöse Weltanschauungen vertreten. Unsere überarbeitete Richtlinie sieht vor, dass wir unter bestimmten Umständen Inhalte entfernen, „mit denen Konzepte, Institutionen, Ideen, Praktiken oder Ansichten, die im Zusammenhang mit geschützten Eigenschaften stehen, angegriffen werden, und die wahrscheinlich zu drohenden körperlichen Schäden, Einschüchterung oder Diskriminierung der mit der entsprechenden geschützten Eigenschaft verbundenen Personen beitragen“. In unserer Richtlinie gegen hasserfülltes Verhalten erfährst du, dass wir zusätzliche Informationen und/oder Kontext benötigen, um Maßnahmen durchzusetzen.
3. STAATSMEDIEN VERSTEHEN
Für unsere Definition des Begriffs „Staatsmedien“ haben wir uns mit globalen Fachleuten aus den Bereichen Medien, Governance und Menschenrechte konsultiert. Dieser Input waren entscheidend, um die verschiedenen Arten zu verstehen, in denen Regierungen redaktionelle Kontrolle über bestimmte Medien ausüben können. Wir haben uns mit einigen der führenden Institutionen zum Thema Pressefreiheit ausgetauscht, darunter Reporter ohne Grenzen, das Center for International Media Assistance, das European Journalism Centre, die Universität Oxford, das Center for Media, Data and Society (CMDS) der Central European University, der Europarat, die UNESCO, das Global Forum for Media Development (GFMD), das African Centre for Media Excellence (ACME) und die SOS Support Public Broadcasting Coalition, um nur einige zu nennen. Wir wissen, dass Regierungen nach wie vor Finanzierungsmechanismen nutzen, um die Medien zu kontrollieren, aber das allein sagt noch nicht alles aus. Deshalb geht unsere Definition von staatlich kontrollierten Medien über die finanzielle Kontrolle oder das Eigentum hinaus und umfasst auch die redaktionelle Kontrolle durch eine Regierung.
4. SEXUELLER MISSBRAUCH VON ERWACHSENEN
Die Stakeholder haben unsere Richtlinie gegen sexuellen Missbrauch von Erwachsenen maßgeblich mitgestaltet. Bei der Entwicklung unseres Konzepts für Inhalte, die erwachsene Opfer sexueller Übergriffe thematisieren, weil Unterstützer*innen über das Schicksal der Opfer berichten oder helfen, dass deren Stimme gehört wird, haben wir uns mit einer Vielzahl von Wissenschaftler*innen und zivilgesellschaftlichen Organisationen ausgetauscht, für die die Richtlinie relevant ist, darunter Journalist*innen, Rechtswissenschaftler*innen, feministische und aktivistische Gruppen und NGOs, die sich für Frauenrechte engagieren. So konnten wir eine Richtlinie entwickeln, die sozialen Bewegungen und Informationskampagnen, die auf das Thema aufmerksam machen möchten, eine Stimme gibt und gleichzeitig die Würde und Privatsphäre der Opfer respektiert.
5. UMGANG MIT DER AUSBEUTUNG VON MENSCHEN UND DEM RECHT AUF ASYL
Unsere Richtlinie gegen die Ausbeutung von Menschen verbietet es seit Langem, Inhalte zu veröffentlichen, in denen Menschenschmuggel angeboten wird. Unsere Richtlinien haben jedoch gewisse Zugeständnisse für Inhalte gemacht, in denen Schmuggeldienste angefordert werden. 2021 haben wir unseren Ansatz zusammen mit externen Stakeholdern überprüft, darunter Menschenrechtsaktivist*innen, Expert*innen für transnationale Kriminalität, UN-Organisationen und NGOs. Diese haben auf einen schwierigen Zwiespalt hingewiesen: Einerseits können Anfragen nach Schlepperdiensten und Menschenschmuggel für diejenigen, die unsere Plattformen missbrauchen, eine einfache Möglichkeit sein, gefährdete Personen zu finden. Andererseits könnte das Entfernen solcher Beiträge dazu führen, dass Menschen, die schutzbedürftig sind oder ihr Recht auf Asyl ausüben möchten, dies nicht mehr tun können. Letztendlich haben uns Expert*innen geholfen, eine Lösung zu finden, mit der wir die Risiken von Ausbeutung mindern und gleichzeitig die Rechte unserer Nutzer*innen respektieren können: Wir haben unsere Richtlinie aktualisiert und entfernen künftig Inhalte, in denen Schlepperdienste und Menschenschmuggel angeboten werden, fügen aber bei entfernten Beiträgen eine entsprechende Hinweisseite hinzu. Diese Seite, die in Rücksprache mit externen Expert*innen erstellt wurde, enthält Einzelheiten zu den Rechten von Geflüchteten und Asylsuchenden und dazu, wie sie Ausbeutung vermeiden können.
6. INPUT ZU EINEM KRISENRICHTLINIENPROTOKOLL
2022 haben wir unser Krisenrichtlinienprotokoll (Crisis Policy Protocol, CPP) veröffentlicht, um unsere Content-Richtlinien für Krisensituationen zu kodifizieren. Auf der Grundlage einer Empfehlung des Oversight Boards hilft dieses Framework bei der Bewertung von Krisensituationen, die möglicherweise eine bestimmte Reaktion erfordern, die in den Richtlinien widergespiegelt werden sollte. Bei der Entwicklung des CPP haben wir uns mit globalen Expert*innen aus den Bereichen nationale Sicherheit, internationale Beziehungen, humanitäre Hilfe, Konfliktprävention und Menschenrechte beraten und dabei untersucht, wie bestehende Verfahren gestärkt und neue Komponenten integriert werden können – beispielsweise Kriterien für das Eintreten einer Krise und deren Ende. Die Beteiligten haben wichtige Signale identifiziert, anhand derer man bestimmen kann, ob eine Krisenschwelle erreicht ist. Unsere globalen Stakeholder brachten Perspektiven aus Regionen mit, die sich in ihrer politischen Stabilität erheblich unterscheiden. Insgesamt hat das Input der Stakeholder dazu beigetragen, dass unser Protokoll dafür sorgt, dass wir in Krisensituationen zeitnaher, systematischer und gerechter reagieren. Mehr dazu erfährst du hier und hier.
7. BRIGADING UND MASSENBELÄSTIGUNG
Im Rahmen unseres Ansatzes zur Bekämpfung von Mobbing und Belästigung haben wir uns mit vielen verschiedenen Menschen ausgetauscht, die direkt von Brigading (massenhaftes, koordiniertes „Trollen“, um die Popularität von Inhalten oder Personen zu beeinflussen) und Massenbelästigung betroffen sind, darunter Frauenrechtler*innen, Vertreter*innen der LGBTQI+-Community, Minderheitengruppen, Journalist*innen, Menschenrechtsaktivist*innen sowie Personen des öffentlichen Lebens. Wir haben auch mit Fachleuten gesprochen, die sich mit Online-Belästigung und staatlich unterstützten Beeinflussungskampagnen befassen, sowie mit Menschen, die sich für freie Meinungsäußerung einsetzen. Die Stakeholder bestätigten, dass legitimer Aktivismus und schädliches Brigading dieselben Online-Verhaltensweisen aufweisen können, z. B. Massenmeldungen, Kommentarfluten oder Hashtag-Bombing. Daher wurde empfohlen, dass wir uns auf kontextbezogene Faktoren konzentrieren, um zwischen solchen Anwendungsfällen zu unterscheiden. Dabei sollte die Art der geposteten Inhalte, die Auswirkungen auf die Betroffenen und das Potenzial für Schäden abseits des Internets im Vordergrund stehen. Der Input, den wir dazu bekamen, half uns bei der Ausarbeitung der ersten Version unserer Richtlinie zu Brigading und Massenbelästigung, die Teil unserer Richtlinie gegen Mobbing und Belästigung ist.