Hoe Meta content voor beoordeling prioriteert

BIJGEWERKT 12 NOV. 2024
De technologieën van Meta detecteren en verwijderen het merendeel van de inbreukmakende content voordat deze content wordt gerapporteerd. Wanneer iemand een bericht plaatst op Facebook, Instagram, Messenger of Threads, controleren onze technologieën of de content in strijd is met de richtlijnen voor de community. In de meeste gevallen is het gemakkelijk om dit vast te stellen. Het bericht maakt duidelijk inbreuk op ons beleid, of niet.
In andere gevallen is het moeilijker om dit vast te stellen. Misschien is het gevoel van het bericht onduidelijk, is de taal bijzonder complex of zijn beelden te contextafhankelijk. In deze gevallen voeren we verdere beoordeling uit met behulp van mensen.
Prioriteringsfactoren voor menselijke beoordeling
Bij het bepalen welke content onze menselijke beoordelingsteams eerst moeten beoordelen, houden we rekening met 3 belangrijke factoren:
ERNST
Hoe waarschijnlijk is het dat de content kan leiden tot schade, zowel online als offline?
VIRALITEIT
Hoe snel wordt de content gedeeld?
WAARSCHIJNLIJKHEID VAN INBREUK
Hoe waarschijnlijk is het dat de content in kwestie in feite inbreuk maakt op ons beleid?
Omdat we zoveel mogelijk schade willen voorkomen, gebruiken onze beoordelingssystemen technologie om prioriteit te geven aan content met een hoge ernst met het potentieel voor offline schade en virale content die zich snel verspreidt.
Menselijke beoordelingsteams helpen onze technologie verbeteren
Onze menselijke beoordelingsteams gebruiken hun expertise op bepaalde beleidsterreinen en plaatsen om moeilijke, vaak genuanceerde beoordelingsbesluiten te nemen. Telkens wanneer beoordelaars een besluit nemen, gebruiken we die informatie om onze technologie te trainen. Na verloop van tijd en miljoenen beslissingen, wordt onze technologie beter, waardoor we meer inbreukmakende content kunnen verwijderen.
Beoordelaars helpen de juiste beslissingen te nemen
Technologie helpt menselijke beoordelingsteams te doen waar ze goed in zijn
Zoals veel machinelearningmodellen verbetert onze technologie in de loop van de tijd naarmate deze meer voorbeelden krijgt van inbreukmakende content. Dit betekent dat menselijke beoordelingsteams zich meer hebben kunnen concentreren op ernstige, virale, genuanceerde, nieuwe en complexe content. Dat is precies het soort beslissingen waarbij mensen geneigd zijn betere beslissingen te nemen dan technologie.
Veelgestelde vragen over prioritering van contentbeoordeling
Voorheen besteedden menselijke beoordelingsteams het overgrote deel van hun tijd aan het beoordelen van content die door mensen werd gerapporteerd. Dit betekende dat ze vaak te veel tijd besteedden aan content met een lage ernst of duidelijk niet-inbreukmakende content en niet genoeg tijd aan de ernstigste content met het grootste potentieel voor schade. Het betekende ook dat veel menselijke beslissingen niet echt nuttig waren voor het verbeteren van onze handhavingstechnologie.
Onze huidige benadering van prioritering pakt deze problemen aan, waardoor we eerst de meest potentieel schadelijke content kunnen bekijken en onze technologie sneller kunnen verbeteren.
Niet per se. Zowel menselijke beoordelingsteams als technologie spelen een rol bij het beoordelen van gebruikersrapporten. In gevallen waarin onze technologie een bepaald contentitem kan analyseren, zal deze automatisch actie ondernemen - of niet - op basis van de content in kwestie.
Om tegemoet te komen aan de zorgen over eerlijkheid en inclusie in verband met de implementatie van AI in Meta-technologieën, hebben we ons team Verantwoorde AI opgericht. Dit is een toegewijd, multidisciplinair team van ethici, sociale en politieke wetenschappers, beleidsdeskundigen, onderzoekers op het gebied van kunstmatige intelligentie en ingenieurs. Het algemene doel van het team is om richtlijnen, tools en processen te ontwikkelen om problemen met AI-verantwoordelijkheid aan te pakken en ervoor te zorgen dat deze systemische bronnen voor iedereen beschikbaar zijn op Meta.