Wie wir globale Risiken bewerten und uns darauf vorbereiten
AKTUALISIERT 29.04.2024
Meta bewertet kontinuierlich das Risiko unmittelbar drohender Schäden bei kritischen Ereignissen. So können wir gezielte, zeitlich begrenzte Maßnahmen in Bezug auf unsere Richtlinien und Produkte ergreifen, um die Sicherheit der Nutzer*innen zu gewährleisten. Dieser Ansatz beinhaltet die Prüfung potenzieller Risiken im Vorfeld und während lokaler, regionaler und nationaler Veranstaltungen, einschließlich Wahlen.
Als Reaktion auf Ereignisse mit hohem Risikopotenzial verfügt Meta über mehrere Ansätze, um auf eine Reihe von Szenarien zu reagieren, z. B. Produktfunktionen ändern oder einschränken, Messaging-Durchsatzratenbegrenzungen einführen und die Verbreitung von Inhalten einschränken.
Wir identifizieren potenziell gefährliche Trends, indem wir Informationen aus öffentlichen Berichten sammeln, die Empfehlungen unserer Partner prüfen, Content-Trends beobachten, die menschenrechtliche Sorgfaltspflicht einhalten und die Einschätzungen unserer untersuchenden Teams überprüfen. Diese Informationen, zusammen mit bestehenden Gemeinschaftsstandards und Durchsetzungssystemen, helfen dabei, die Art der Produkt- und Richtlinienanpassungen festzulegen, die wir verwenden können, um Missbrauch in Krisen, einschließlich Wahlen mit hohem Risiko, zu verhindern. Dazu gehört unser Crisis Policy Protocol (CPP), das uns dabei hilft, Möglichkeiten zur Bekämpfung von Content-Risiken zu bewerten und Maßnahmen zu ermitteln, mit denen wir unsere Systeme bei einem erhöhten Risiko anpassen können.
Eine wichtige und potenzielle Abhilfemaßnahme ist es, Orte als Temporary High-Risk Locations (THRL) zu kennzeichnen. Dies ist ein Richtlinien-Tool, das zur Bekämpfung bestimmter Arten potenziell gewalttätiger Inhalte an Orten eingesetzt wird, die aufgrund von realen Ereignissen als Hochrisikobereich eingestuft wurden. Zusätzlich zu unseren Richtlinien-Tools und Frameworks zur Krisenbewältigung vertraut Meta auch auf die Integrity Product Operations Centers (IPOCs). Dabei handelt es sich um eine Maßnahme, bei der je nach Bedarf und manchmal auch im Vorfeld einer bestimmten Situation verschiedene Teams, themenbezogene Expert*innen und Funktionen aus dem ganzen Unternehmen zusammengebracht werden, um in Echtzeit auf potenzielle Probleme oder Trends zu reagieren.
Während einer Wahl überwacht ein IPOC mehrere Quellen, darunter Datenanalysetools, Hinweise von vertrauenswürdigen Partnern und herkömmliche Medien. Außerdem beobachten wir Trends in den Meldungen unserer Nutzer*innen und in den Inhalten, die von unseren Classifiern gekennzeichnet werden.
Auch wenn es sich um zwei unterschiedliche Verfahren handelt, stützen sich die Einstufung für „THRL“ und die Überprüfung der Einstufung für „CPP“ auf einige der gleichen Signale für ein erhöhtes Risiko von Gewalt oder Schaden abseits des Internets. Wir können zwar während einer Krise erwägen, eine THRL festzulegen, doch ist dies nicht von der Festlegung eines CPP abhängig.
Unsere Teams überwachen kontinuierlich unsere Plattformen, um die sich wandelnden Risikofaktoren zu beurteilen und etwaige Anpassungen anhand von Spitzenwerten oder Veränderungen in den von uns erfassten Signalen vorzunehmen. Hier findest du weitere Informationen darüber, wie wir unsere Systeme an erhöhte Risiken anpassen.