Proaktive Erkennungsrate
AKTUALISIERT 22.02.2023
Diese Kennzahl gibt den Prozentsatz aller Inhalte oder Konten an, die wir erkannt und bei denen wir Maßnahmen ergriffen haben, bevor Nutzer*innen sie uns gemeldet haben. Wir verwenden diese Kennzahl als Indikator dafür, wie effektiv wir Verstöße erkennen.
Unsere Investitionen in maschinelles Lernen leisten einen entscheidenden Beitrag zur schnelleren Erkennung.
Wir ergänzen maschinelles Lernen durch ein Team aus geschulten Expert*innen, die potenziell unzulässige Inhalte überprüfen und ggf. Maßnahmen ergreifen.
Unsere Erkennungsrate für potenziell unzulässige Inhalte ist bei einigen Verstößen hoch, d. h. wir erkennen die meisten Inhalte und ergreifen Maßnahmen, bevor Nutzer*innen sie uns melden. Dies ist insbesondere dann der Fall, wenn Technologie für maschinelles Lernen, die wir entwickelt haben, automatisch Inhalte erkennt, die gegen unsere Standards verstoßen könnten.
Eine derartige Technologie ist sehr vielversprechend, aber es wird noch Jahre dauern, bis sie für alle Arten von Verstößen effektiv ist. Es bestehen beispielsweise immer noch Einschränkungen bezüglich der Fähigkeit, Kontext und Nuancen zu verstehen, insbesondere bei textbasierten Inhalten. Dies schafft zusätzliche Herausforderungen für die proaktive Erkennung bestimmter Verstöße.
Die Kennzahl kann aufgrund externer Faktoren nach oben oder unten schwanken. Ein Beispiel hierfür ist ein Cyberangriff, bei dem Spammer*innen 10 Millionen Beiträge mit derselben schädlichen URL teilen. Wenn wir die schädliche URL entdeckt hätten, bevor ein*e Nutzer*in sie uns gemeldet hat, würde die proaktive Erkennungsrate während des Cyberangriffs steigen und danach wieder sinken, selbst wenn unsere Detektionstechnologien sich in diesem Zeitraum nicht verändert haben. Diese Kennzahl kann auch durch Änderungen unserer Prozesse und Tools steigen oder sinken – so könnte sie steigen, wenn sich unsere Detektionstechnologien verbessern, oder auch sinken, wenn sich unsere Nutzer*innenmeldungen verbessern und wir dadurch nicht so stark auf proaktive Erkennung angewiesen sind.
Da die Kennzahl auf der Menge der Inhalte basiert, gegen die Maßnahmen ergriffen wurden, gelten viele der gleichen Überlegungen. Unsere proaktive Erkennungsrate spiegelt nicht wider, wie lange wir brauchen, um unzulässige Inhalte zu erkennen, oder wie oft sie vor der Erkennung angesehen wurden. Sie gibt auch nicht an, wie viele Verstöße wir überhaupt nicht erkannt haben oder wie oft die entsprechenden Inhalte angesehen wurden. Und obwohl der prozentuale Anteil der Inhalte, die wir proaktiv erkennen, sehr hoch sein kann – in einigen Kategorien liegt er bei 99 % –, kann selbst der verbleibende geringe Prozentsatz erhebliche Auswirkungen auf die Menschen haben.
Wie wir unsere proaktive Erkennungsrate berechnen
Wir messen diesen Prozentsatz folgendermaßen: Die Anzahl der Inhalte, die wir gefunden und gegen die wir Maßnahmen ergriffen haben, bevor Facebook- oder Instagram-Nutzer*innen sie gemeldet haben, geteilt durch die Gesamtzahl der Inhalte, gegen die wir Maßnahmen ergriffen haben.
Bei gefälschten Konten auf Facebook berechnen wir diese Kennzahl als den Prozentsatz der deaktivierten Fake Accounts auf Facebook, die wir als solche erkannt und gegen die wir Maßnahmen ergriffen haben, noch bevor Nutzer*innen sie uns gemeldet haben. Sie wird folgendermaßen berechnet: Die Anzahl der deaktivierten Konten, die wir erkannt und gegen die wir Maßnahmen ergriffen haben, bevor Nutzer*innen sie gemeldet haben, geteilt durch die Gesamtzahl aller Konten, die deaktiviert wurden, da sie gefälscht waren.
Achtung
Wir berechnen unsere proaktive Erkennungsrate, indem wir die Meldungen von Nutzer*innen konsequent den Inhalten zuordnen. Wenn beispielsweise jemand eine Seite meldet und wir während der Überprüfung der Seite einige unzulässige Inhalte auf dieser Seite finden und Maßnahmen dagegen ergreifen, würden wir dies als erfolgte proaktive Maßnahme gegen den Inhalt in unseren Bericht aufnehmen (es sei denn, es lägen konkrete zusätzliche Nutzer*innenmeldungen hierzu vor).
Den neuesten Bericht zur Durchsetzung der Gemeinschaftsstandards ansehen