Hvordan vi utvikler markedsspesifikke lister over nedsettende bemerkninger
Standardene våre definerer en nedsettende bemerkning som et ord som er iboende støtende og brukes som en fornærmelse for en beskyttet karakteristikk. Flere team, inkludert for retningslinjer og markeder og interessentens engasjementsteam, er involvert i definisjonen av nedsettende bemerkninger. For å lage disse listene gjennomfører de regionale teamene våre pågående kvalitative og kvantitative analyser av språket og kulturen i regionen eller fellesskapet sitt (som vi kaller et marked). Dette inkluderer å undersøke hvordan et ord brukes lokalt og til daglig, forekomsten av ordet på plattformene våre og betydningen knyttet til ordet når det brukes. De kan bruke kulturell kunnskap basert på nyhetsartikler, akademiske studier og annen lingvistisk forskning. Våre regionale team får hjelp av andre eksperter på retningslinjene våre og de driftsmessige prosessene våre. Kulturell kontekst oppgis (nyhetsartikler, akademiske artikler osv.), og minst 50 innholdselementer som inneholder ordet, må samles inn og evalueres. Når den analysen er fullført, går retningslinjeteamene gjennom alt de får fra de lokale markedene, slik at innholdet evalueres basert på de relevante Meta-retningslinjene. Markedsteamene er ansvarlige for å sikre at deres relevante lister over nedsettende bemerkninger er så utfyllende og oppdaterte som mulig.
Vi analyserer også hvordan bestemte ord brukes på plattformene våre, for å avgjøre i hvilken utstrekning de samsvarer med definisjonen vår på en nedsettende bemerkning. For eksempel kan bruken av ord på plattformene våre indikere enkelte nedsettende bemerkninger som tidligere uidentifiserte varianter eller relaterte ord som bør vurderes. Vi analyserer bruken av nedsettende bemerkninger på plattformene våre for å identifisere slike tilfeller. Lister over nedsettende bemerkninger og retningslinjer inneholder også veiledning om tilfeller der en bestemt nedsettende bemerkning kan brukes på en tillatt måte, som når de brukes på en tydelig selvrefererende måte, når de brukes i sin alternative betydning, ved diskusjon av nedsettende bemerkninger, ved rapportering av den nedsettende bemerkningen, ved fordømmelse av den nedsettende bemerkningen eller når den nedsettende bemerkningen brukes på en tydelig positiv måte.
Hvordan vi håndhever markedsspesifikke lister over nedsettende bemerkninger
Et språk kan deles over flere nasjoner og kulturer, men nedsettende bemerkninger er ofte spesifikke for en region eller et fellesskap (som vi kaller et marked). Derfor bruker vi lister over nedsettende bemerkninger som er spesifikke for markeder, ikke bare språk. I alle områder med brudd har vi kontrollører som dekker flere regioner og flere språk (for å dekke alle dialekter så mye som mulig). Disse kontrollørene tilordnes køer baser på språkekspertise og ferdigheter for typer brudd, slik at de har et velbegrunnet inntrykk av hvilke lister over nedsettende bemerkninger som er mest relevante for sine respektive innholdskøer. Prosessen vår for innholdsmoderering tar hensyn til både språk og region for å finne egnede kontrollører for innholdet, men generelt sett spiller språk en større rolle i denne kompliserte prosessen. For eksempel omfatter køene for Southern Cone-markedet innhold som kommer fra Chile, Uruguay, Argentina og Paraguay, og der hovedspråket er spansk. Køalgoritmene for hvert marked har også en betingelse som kalles et «catch all». Denne betingelsen gjør at alle jobber på et språk som ikke er tilordnet til landene som markedet dekker, automatisk faller i markedene som er mest relevante for det språket. For eksempel vil jobber på fransk som geografisk har opphav i South Cone-markedet (for eksempel Argentina), havne i gjennomgangskøene for de franske markedene, og omvendt. Når det dukker opp en nedsettende bemerkning på et språk som avviker fra resten av et innholdselement, blir den fremhevet av den skalerte gjennomgangsteknologien vår på listen til et annet marked, slik at den flagges i skala og i alle markedskøer som potensielt problematisk språkbruk.
Køalgoritmene tar hensyn til både språk og land fordi nedsettende bemerkninger kan være betinget (eller ha tillatte alternative bruksområder) i forhold til hva som foregår i verden på det tidspunktet og i markedskonteksten. Markedskonteksten er viktig for kontrollørene når det gjelder å avgjøre om et ord forekommer på et tillatt bruksområde eller ikke. Hvis konteksten mangler, og hvis noe annet tillatt bruksområde er fraværende, anser vi innholdet som krenkende.