Hur vi skapar och använder marknadsspecifika listor över nedsättande uttryck
UPPDATERAD 12 AUG 2022
Hur vi utvecklar marknadsspecifika listor över nedsättande uttryck
I våra communityregler är definitionen av ett nedsättande uttryck ett ord som är stötande i sig och används som en förolämpning mot en skyddad egenskap. Flera team, bland annat team som arbetar med policyfrågor, marknader och interaktion med berörda parter, är involverade i att identifiera ett nedsättande uttryck. När de här listorna skapas utför våra regionala team löpande kvalitativa och kvantitativa analyser av språket och kulturen i sin region eller community (vilket vi kallar en marknad). Det omfattar bland annat att titta på hur ett ord används lokalt och i dagligt tal, ett ords förekomst på våra plattformar och vilken innebörd som associeras med ordet när det används. De kan använda kulturell kunskap grundad på nyhetsartiklar, akademiska studier och annan lingvistisk forskning. Våra regionala team får hjälp av andra experter när det gäller våra policyer och verksamhetsprocesser. Kulturell kontext tillhandahålls (nyhetsartiklar, akademiska artiklar och så vidare) och minst 50 innehållsdelar där termen förekommer måste samlas in och bedömas. När analysen är klar granskar policyteam allt som tillhandahållits av lokala marknader, så att innehållet bedöms utifrån relevant Meta-policy. Det är marknadsteamens ansvar att se till att deras relevanta listor över nedsättande uttryck är så omfattande och uppdaterade som möjligt.
Vi analyserar även hur vissa ord används på våra plattformar för att bedöma i vilken utsträckning de uppfyller vår definition av nedsättande uttryck. Exempelvis kan användningen av ord på våra plattformar peka på vissa nedsättande uttryck som innefattar tidigare oidentifierade variationer eller relaterade termer som borde beaktas. Vi analyserar då användningen av nedsättande uttryck i våra plattformar för att identifiera sådana fall. Dessutom innehåller listorna och policyerna om nedsättande uttryck vägledning om omständigheter i vilka ett givet nedsättande uttryck skulle kunna användas på ett tillåtet sätt. Det gäller bland annat när det är tydligt att det används för att referera till den egna personen, när det används med sin alternativa betydelse, när det handlar om att diskutera användningen av nedsättande uttryck, vid rapportering av det nedsättande uttrycket, när det handlar om att fördöma användningen av det nedsättande uttrycket eller när det används på ett sätt som är uttryckligen positivt.
Hur vi verkställer marknadsspecifika listor över nedsättande uttryck
Ett språk kan användas inom olika nationer och kulturer, men nedsättande uttryck är ofta specifika för en region eller community (vilket vi kallar en marknad). Därför använder vi listor över nedsättande uttryck som är specifika för marknader, inte bara språk. Inom alla överträdelseområden har vi granskare som har hand om flera regioner på flera språk (så att vi täcker alla dialekter i så stor utsträckning som möjligt). De här granskarna tillskrivs köer utifrån språkkompetens och kunskaper om överträdelsetyper, så att de har en grundad uppfattning av vilka listor över nedsättande uttryck som är relevantast för deras respektive innehållsköer. Vi utgår från både språk och region för att fastställa lämpliga granskare för innehållet när det dirigeras för moderering, men i allmänhet väger språket tyngre i den här komplexa dirigeringen. Exempelvis omfattar köer för Southern Cone-marknaden innehåll som kommer från Chile, Uruguay, Argentina och Paraguay, med spanska som primärt språk. Varje marknadsköalgoritm har även ett villkor som kallas ”catch all”. Det villkoret gör att alla jobb på ett språk som inte är tillskrivet de länder som marknaden omfattar automatiskt hamnar i de marknader som är relevantast för språket i fråga. Exempelvis skulle jobb på franska som geografiskt sett kommer från South Cone-marknaden (Argentina till exempel) hamna i granskningsköerna för den franska marknaden och vice versa. När ett nedsättande uttryck på ett språk som skiljer sig från resten av innehållet visas markerar vår skalade granskningsteknik det som att det visas på en annan marknads lista över nedsättande uttryck. På så sätt flaggas det i stor skala och i alla marknadsköer som språk som kan bryta mot reglerna.
Köalgoritmerna innefattar både språk och land eftersom nedsättande uttryck kan ha reservationer (eller alternativa positiva användningsområden) kopplade till vad som pågår i världen för tillfället och till marknadskontext. Marknadskontext är viktigt för granskarna när de ska avgöra om ett ord visas inom ett tillåtet användningsområde eller inte. Om det saknas kontext och det inte finns några andra tillåtna användningsområden ska vi hellre se det som att innehållet bryter mot riktlinjerna.
Hur vi reviderar och uppdaterar marknadsspecifika listor över nedsättande uttryck
Varje år gör vi en revision av våra listor över nedsättande uttryck. Det görs av våra driftteam i samarbete med våra regionala marknadsteam. De reviderar tillsammans de nedsättande uttrycken för att nå en slutsats om huruvida orden har kvar de stötande attribut som gjorde att de placerades på listan till att börja med. Vi uppmuntrar också våra regionala team, inklusive partner som granskar i stor skala, att kontinuerligt hålla koll på språkutvecklingen inom sin marknad och, baserat på det, föreslå nya nedsättande uttryck som borde läggas till på marknadens lista eller föreslå revision av ord som redan finns på listan. Slutligen ber vi civilsamhället och icke-statliga organisationer som vi samarbetar med att ge oss förslag på vilka ord som borde bedömas vara nedsättande uttryck.