Utmaningen med att upptäcka hatretorik
UPPDATERAD 19 JAN 2022
Hatretorik är särskilt svårt för teknik och granskningsteam att upptäcka. Idiom och små språkliga nyanser varierar stort mellan olika kulturer, länder och områden. Dessutom händer det att människor delar ord som normalt sett skulle anses vara hatretorik för att öka medvetenheten om ett problem eller att de använder orden om sig själva för att ta makten över dem.
Det är utmaningar bara när det gäller att upptäcka hatretorik i text. Mycket av den hatretorik vi hittar på Facebook och Instagram finns dock i foton och videor. Ett mem kan till exempel bestå av text och bild som tillsammans är ett angrepp på en viss grupp människor. Det är en ännu större utmaning för tekniken.
Den här typen av innehåll blir ännu mer komplicerad när människor försöker undvika upptäckt genom att ändra sitt innehåll. De kan till exempel stava ord fel, undvika vissa fraser eller ändra bilder och videor.
Framsteg inom användningen av artificiell intelligens för att upptäcka hatretorik
Vi har förbättrat våra verktyg för att bli ännu bättre på att upptäcka hatretorik under de senaste åren. Det gör att vi numera tar bort mycket av den här typen av innehåll redan innan någon anmäler det, och i vissa fall redan innan någon ser det.
Vi använder AI till att identifiera bilder och texter som är identiska med innehåll som vi tidigare har tagit bort eftersom det har identifierats som hatretorik. Vår teknik tittar också på reaktioner och kommentarer för att bedöma hur lika olika innehåll är.
Det gör att tekniken bättre kan upptäcka hatretorik, till och med när innebörden inte är självklar eller om innehållet har ändrats i syfte att göra det svårare att upptäcka.
Läs en ingående analys i Facebooks AI-blogg