Wie wir marktspezifische Beleidigungslisten erstellen und verwenden
AKTUALISIERT 12.08.2022
Wie wir marktspezifische Beleidigungslisten entwickeln
Unsere Gemeinschaftsstandards definieren eine Beleidigung als ein Wort, das grundsätzlich anstößig ist und als Beschimpfung für eine geschützte Eigenschaft verwendet wird. Um festzulegen, was als Beleidigung gilt, arbeiten mehrere Teams zusammen, darunter die Teams für Richtlinien, Märkte und Stakeholder Engagement. Zur Erstellung dieser Listen führen unsere regionalen Teams kontinuierliche qualitative und quantitative Analysen der Sprache und Kultur ihrer Region oder Community (wir nennen das einen Markt) durch. Dabei wird unter anderem überprüft, wie ein Wort lokal und umgangssprachlich verwendet wird, wie verbreitet das Wort auf unseren Plattformen ist und mit welcher Bedeutung es verwendet wird. Sie stützen sich dabei auf kulturelles Wissen, das auf Nachrichtenartikeln, akademischen Studien und anderen sprachwissenschaftlichen Forschungsergebnissen beruht. Unsere regionalen Teams werden von weiteren Fachleuten in Hinblick auf unsere Richtlinien und Arbeitsabläufe unterstützt. Der kulturelle Kontext wird bereitgestellt (Nachrichtenartikel, akademische Artikel usw.) und es müssen mindestens 50 Inhalte, die den Begriff enthalten, zusammengetragen und ausgewertet werden. Sobald diese Analyse abgeschlossen ist, überprüfen die Richtlinien-Teams alle von den lokalen Märkten bereitgestellten Inhalte, damit diese anhand der relevanten Meta-Richtlinie bewertet werden können. Die Teams in den einzelnen Märkten sind dafür verantwortlich, dass ihre relevanten Beleidigungslisten so vollständig und aktuell wie möglich sind.
Außerdem analysieren wir, auf welche Weise bestimmte Wörter auf unseren Plattformen verwendet werden, um zu bestimmen, inwiefern sie unsere Definition von Beleidigungen erfüllen. Beispielsweise kann die Verwendung bestimmter Wörter auf unseren Plattformen auf Beleidigungen hindeuten, die zuvor nicht identifizierte Varianten oder zugehörige Begriffe umfassen, die berücksichtigt werden sollten. Wir analysieren die Verwendung von Beleidigungen auf allen unseren Plattformen, um diese Fälle zu identifizieren. Darüber hinaus beinhalten Beleidigungslisten und -richtlinien Hilfestellung zu Umständen, unter denen eine bestimmte Beleidigung eventuell auf zulässige Weise verwendet wird. Das könnte zum Beispiel der Fall sein, wenn eine Person damit eindeutig sich selbst bezeichnet, wenn das Wort in einer alternativen Bedeutung verwendet wird, wenn die Verwendung der Beleidigung diskutiert wird, wenn die Beleidigung gemeldet wird, wenn die Verwendung der Beleidigung verurteilt wird oder wenn die Beleidigung ausdrücklich positiv gemeint ist.
Wie wir marktspezifische Beleidigungslisten durchsetzen
Eine Sprache kann von mehreren Ländern und Kulturen gesprochen werden, aber Beleidigungen sind oft regional oder werden nur in bestimmten Communitys verwendet (wir nennen diese einen Markt). Aus diesem Grund werden unsere Beleidigungslisten marktspezifisch erstellt, nicht nur für die jeweilige Sprache. Für alle Arten von Verstößen haben wir Prüfer*innen, die mehrere Regionen und verschiedene Sprachen abdecken (so sollen alle Dialekte weitestgehend abgedeckt werden). Diese Prüfer*innen werden auf Grundlage ihrer Sprachkenntnisse und ihrer Kompetenzen bezüglich der verschiedenen Arten von Verstößen zugewiesen und können daher beurteilen, welche Beleidigungslisten für die jeweiligen Inhalte am relevantesten sind. Bei der Weiterleitung von Inhalten zur Moderation wird sowohl die Sprache als auch die Region berücksichtigt, um die geeigneten Prüfer*innen für den Inhalt zu bestimmen. Generell ist die Sprache jedoch das wichtigste Kriterium bei dieser komplexen Weiterleitung. Beispielsweise umfasst die Warteschlange zur Weiterleitung für den Markt „Südkegel“ Inhalte aus Chile, Uruguay, Argentinien und Paraguay, deren primäre Sprache Spanisch ist. Jeder Warteschlangen-Algorithmus für einen Markt verfügt außerdem über eine sogenannte „Catch-all“-Bedingung. Diese Bedingung führt dazu, dass alle Jobs in einer Sprache, die nicht den Ländern zugewiesen ist, die der Markt umfasst, automatisch in die Märkte fallen, die für die Sprache am relevantesten sind. Beispielsweise fallen Jobs in französischer Sprache, die geografisch aus dem Markt „Südkegel“ (z. B. Argentinien) stammen, in die Prüfwarteschlangen der französischen Märkte und umgekehrt. Wenn eine Beleidigung in einer Sprache auftaucht, die sich von der des übrigen Inhalts unterscheidet, markiert unsere skalierte Prüftechnologie sie als Begriff, der auf der Beleidigungsliste eines anderen Marktes verzeichnet ist. Sie wird dadurch umfänglich und in allen Marktwarteschlangen als potenziell unzulässige Formulierung gekennzeichnet.
Die Warteschlangen-Algorithmen berücksichtigen sowohl die Sprache als auch das Land, da Beleidigungen andere Bedeutungen (oder harmlose alternative Anwendungsfälle) haben können, die mit dem aktuellen Zeitgeschehen und dem Marktumfeld zusammenhängen. Der Kontext des Marktes ist für Prüfer*innen wichtig, um zu bestimmen, ob ein Wort auf zulässige Weise verwendet wird. Wenn der Kontext fehlt oder es keine weiteren zulässigen Anwendungsfälle gibt, tendieren wir dazu, den Inhalt als Verstoß zu bewerten.
Wie wir marktspezifische Beleidigungslisten prüfen und aktualisieren
Wir führen jährlich ein Audit unserer Beleidigungslisten durch. Dieses wird von unseren operativen Teams in Zusammenarbeit mit unseren regionalen Marktteams durchgeführt, die gemeinsam die Beleidigungen bewerten und festlegen, ob das Wort weiterhin als anstößig gilt und sich damit noch immer für die Liste qualifiziert. Zudem halten wir unsere regionalen Teams, darunter übergeordnete Prüfpartner, dazu an, die Sprachentwicklung in ihrem Markt zu verfolgen und auf dieser Basis neue Beleidigungen vorzuschlagen, die in die Listen der jeweiligen Märkte aufgenommen werden sollten, bzw. auf der Liste vorhandene Wörter vorzuschlagen, die überarbeitet werden sollten. Zuletzt bitten wir außerdem die Bürger*innen und Nichtregierungsorganisationen, mit denen wir interagieren, uns mitzuteilen, welche Wörter als Beleidigungen angesehen werden sollten.