Hoe technologie ons helpt om prioriteit te bepalen voor beoordeling

BIJGEWERKT 19 JAN. 2022
Of potentieel schendende content nu wordt gerapporteerd door mensen of door de technologie van Meta, automatisering helpt ons om de content snel door te sturen naar beoordelaars die over de juiste expertise beschikken met betrekking tot het onderwerp en de taal.
Vervolgens gebruiken we technologie om content te rangschikken en te prioriteren, zodat onze teams zich eerst op de belangrijkste kwesties kunnen richten. Dit omvat content die de potentie heeft om offline schade te veroorzaken, zoals berichten gerelateerd aan terrorisme en zelfdoding, en virale content die in strijd is met ons beleid en de potentie heeft om een grote doelgroep te bereiken.
We verbeteren onze technologie en processen doorlopend om te zorgen dat beoordelingsteams meer tijd besteden aan het nemen van de juiste besluiten.
Hoe Meta content voor beoordeling prioriteert
Waarom beoordelingsteams belangrijk zijn voor contenthandhaving
Onze technologie en menselijke beoordelingsteams werken altijd samen om schade in onze community te verminderen. Hier volgen enkele manieren waarop beoordelaars, samen met technologie, helpen ons gehele systeem voor contenthandhaving te versterken.
Onze technologie trainen
Als beoordelaars een besluit nemen over een contentitem, trainen en verfijnen ze tegelijkertijd onze technologie zodat deze in de loop van de tijd andere vergelijkbare contentitems kan identificeren. Dit feedbackcircuit tussen mens en technologie is cruciaal om onze systemen actueel te houden.
Wanneer beoordelingsteams schendende content beoordelen, labelen ze handmatig het beleid waarop hun besluit is gebaseerd, wat betekent dat ze het beleid markeren dat wordt geschonden door de content, het account of het gedrag. Deze belangrijke labelgegevens helpen ons de kwaliteit te verbeteren van onze algoritmen voor kunstmatige intelligentie die proactief zoeken naar schadelijke content.
Onze technologie doet het met name goed op 2 gebieden: het detecteren van herhaalde overtredingen en het identificeren van duidelijk expliciete of extreme content. Als er echter sprake is van een hoge mate van ambiguïteit, complexiteit of nuance bij het beoordelen van de toepasselijkheid van ons beleid, nemen beoordelaars doorgaans betere besluiten dan de technologie.