In che modo creiamo e utilizziamo le liste di insulti specifiche per i mercati
AGGIORNATO 12 AGO 2022
In che modo sviluppiamo le liste di insulti specifiche per i mercati
Secondo i nostri Standard della community, l'insulto è definito come una parola che è intrinsecamente offensiva e usata come offesa per una caratteristica protetta. Nella designazione degli insulti sono coinvolti più team, inclusi quelli che si occupano di normative, mercati e coinvolgimento degli stakeholder. Per creare queste liste, i nostri team regionali conducono analisi qualitative e quantitative continue sulla lingua e sulla cultura della loro area geografica o community (che chiamiamo mercato). Ciò include l'analisi di come una parola viene utilizzata a livello locale e colloquiale, la sua diffusione sulle nostre piattaforme e il significato a essa associato quando viene utilizzata. I team possono utilizzare la conoscenza culturale basata su articoli della stampa, studi accademici e altre ricerche linguistiche. I team regionali sono assistiti da altri esperti delle nostre normative e dei nostri processi operativi. Viene fornito il contesto culturale (articoli della stampa, articoli accademici, ecc.) e devono essere raccolti e valutati almeno 50 contenuti che includono un determinato termine. Una volta completata l'analisi, i team che si occupano delle normative analizzano tutto ciò che viene fornito dai mercati locali, in modo che il contenuto venga valutato in base alla normativa di Meta pertinente. I team di mercato hanno la responsabilità di garantire che le loro liste di insulti pertinenti siano il più possibile esaustive e aggiornate.
Analizziamo anche il modo in cui determinate parole vengono utilizzate sulle nostre piattaforme per determinare la misura in cui rientrano nella nostra definizione di insulto. Ad esempio, l'uso di parole sulle nostre piattaforme può indicare alcuni insulti che includono varianti precedentemente non identificate o termini correlati che dovrebbero essere presi in considerazione. Viene analizzato l'uso degli insulti sulle nostre piattaforme per identificare tali casi. Inoltre, le liste e le normative relative agli insulti includono linee guida sulle circostanze in cui un dato insulto potrebbe essere utilizzato in modo consentito. Ad esempio, quando è usato in modo chiaramente autoreferenziale, quando è usato nel suo significato alternativo, quando si parla dell'uso degli insulti, quando viene segnalato, quando ne viene condannato l'utilizzo o quando è usato in modo esplicitamente positivo.
In che modo applichiamo le liste di insulti specifiche per i mercati
Una lingua può essere condivisa tra nazioni e culture, ma spesso gli insulti sono specifici di un'area geografica o di una community (che chiamiamo mercato). Questo è il motivo per cui utilizziamo liste di insulti specifiche per i mercati, non solo per le lingue. In tutte le aree di violazione, abbiamo responsabili dell'analisi che coprono più aree geografiche in più lingue (per includere quanti più dialetti possibili). Questi responsabili dell'analisi vengono assegnati alle code in base all'esperienza linguistica e all'insieme di competenze sul tipo di violazione, in modo da avere un'idea consapevole di quali elenchi di insulti saranno più rilevanti per le rispettive code dei contenuti. Il nostro percorso di moderazione dei contenuti incorpora sia la lingua che l'area geografica per determinare quali responsabili siano più adatti ad analizzare il contenuto ma, in linea generale, la lingua gioca un ruolo più importante in questo percorso complesso. Ad esempio, le code del mercato del Cono meridionale includeranno contenuti provenienti da Cile, Uruguay, Argentina e Paraguay e per i quali la lingua principale è lo spagnolo. Ogni algoritmo di accodamento del mercato presenta anche una condizione chiamata "catch all". Questa consente a tutti i processi in una lingua che non è assegnata ai Paesi inclusi nel mercato di rientrare automaticamente nei mercati più pertinenti per quella lingua. Ad esempio, i processi in lingua francese che hanno origine geograficamente nel mercato del Cono meridionale (come l'Argentina) finirebbero nelle code di analisi dei mercati francesi e viceversa. Quando compare un insulto in una lingua diversa dal resto di un contenuto, la nostra tecnologia di analisi scalata lo evidenzia come se comparisse nella lista di insulti di un mercato diverso, in modo che venga segnalato su larga scala e in tutte le code del mercato come linguaggio potenzialmente in violazione.
Gli algoritmi di accodamento tengono conto sia della lingua che del Paese, perché gli insulti possono contenere moniti (o casi d'uso alternativi innocui) relativi a ciò che sta accadendo nel mondo in quel momento e nel contesto del mercato. Il contesto del mercato è importante per i responsabili dell'analisi per stabilire se una parola compare o meno in un caso d'uso consentito. In caso di assenza di contesto o di qualsiasi altro caso d'uso consentito, tendiamo a considerare il contenuto come violazione.
In che modo controlliamo e aggiorniamo le liste di insulti specifiche per i mercati
Conduciamo un controllo annuale delle nostre liste di insulti. Questa operazione viene svolta dai nostri team operativi in collaborazione con i nostri team di mercato regionali, che insieme analizzano gli insulti e stabiliscono se la parola mantiene la caratteristica offensiva che inizialmente l'ha qualificata per la lista. Incoraggiamo inoltre i nostri team regionali, inclusi i partner di analisi su vasta scala, a monitorare continuamente lo sviluppo del linguaggio e, in base a questo, di proporre l'aggiunta di nuovi insulti alla lista del proprio mercato o di suggerire la revisione di termini già presenti. Infine, chiediamo alla comunità e agli enti non governativi con cui collaboriamo di fornire contributi in merito ai termini da considerare come insulti.