Contentbeoordeling: wanneer we technologie en wanneer we menselijke beoordeling gebruiken
Als er iets in strijd is met de richtlijnen voor de community, beschikt Meta over systemen voor contenthandhaving om hierop te reageren. We gebruiken bijvoorbeeld kunstmatige intelligentie en tools die gebruikmaken van machinelearning om een groot deel van de schendende content te identificeren en verwijderen, vaak nog voordat iemand de content heeft gezien. In de gevallen waarin onze technologie iets heeft gemist of meer input nodig heeft, vertrouwen we op duizenden beoordelaars wereldwijd om onze richtlijnen voor de community te handhaven.
Potentiële contentschendingen worden doorgestuurd naar beoordelingsteams en aan elke beoordelaar wordt een wachtrij met berichten toegewezen om zelf te beoordelen. Soms bestaat een beoordeling simpelweg uit het bekijken van een bericht om te bepalen of het in strijd is met ons beleid, zoals een afbeelding die naaktbeelden van volwassenen bevat, in gevallen waarin onze technologie dit niet eerst heeft gedetecteerd.
In andere gevallen is context cruciaal. Onze technologie kan bijvoorbeeld niet altijd met zekerheid vaststellen of een bericht pestgedrag bevat, een beleidsgebied dat extra context en nuance vereist omdat het vaak de aard van persoonlijke relaties weerspiegelt. In dit geval sturen we het bericht voor verdere beoordeling naar beoordelingsteams die over de juiste expertise beschikken met betrekking tot het onderwerp en de taal. Indien nodig kunnen ze het bericht ook escaleren naar onderwerpexperts van de teams voor wereldwijde activiteiten of contentbeleid.
Waar nodig bieden we beoordelaars ook aanvullende informatie over de gerapporteerde content. Woorden die vroeger bijvoorbeeld werden gebruikt als discriminerende scheldwoorden, kunnen door de ene persoon worden gebruikt als haatdragend taalgebruik, maar kunnen ook een vorm van zelfbekrachtiging zijn als ze door een andere persoon in een andere context worden gebruikt. In sommige gevallen bieden we beoordelaars ook aanvullende context over dergelijke woorden om ze te helpen ons beleid toe te passen en te besluiten of het bericht kan blijven staan of moet worden verwijderd.