Come funziona la nostra tecnologia per l'applicazione delle normative
AGGIORNATO 12 NOV 2024
Creazione dei modelli e elaborazione delle previsioni
Il processo inizia con i team incaricati dell'intelligenza artificiale. Sono loro a sviluppare i modelli di apprendimento automatico che possono portare a termine attività come l'analisi dei soggetti di una foto o la comprensione di un testo. Quindi, i nostri team incaricati dell'integrità , responsabili per l'applicazione su larga scala delle operazioni di rilevamento delle violazioni e di applicazione delle normative, si basano su questi schemi per creare modelli più specifici che elaborano previsioni su persone e contenuti. Queste previsioni ci aiutano nell'applicazione delle nostre normative.
Ad esempio, un modello di IA può prevedere se un contenuto è costituito da un discorso di incitamento all'odio oppure se è violento ed esplicito. Un sistema separato basato sulla nostra tecnologia per l'applicazione delle normative stabilisce se è opportuno prendere dei provvedimenti come l'eliminazione, la penalizzazione o l'invio dei contenuti a un team addetto al controllo umano per ulteriori verifiche.
Una tecnologia che apprende mediante la ripetizione con il controllo dei revisori umani
Quando sviluppiamo nuove tecnologie per l'applicazione delle normative sui contenuti, le alleniamo a cercare determinati segnali. Ad esempio, alcune tecnologie cercano elementi di nudo nelle foto mentre altre imparano a comprendere i testi. All'inizio, un nuovo tipo di tecnologia può avere difficoltà a stabilire se un contenuto viola o meno le nostre normative.
In questi casi, le decisioni finali possono essere prese dai team addetti al controllo e la tecnologia può utilizzarle per apprendere e migliorare. Con il passare del tempo, imparando da migliaia di decisioni umane, la tecnologia diventa sempre più precisa.
Anche le normative sono in evoluzione costante per stare al passo con i cambiamenti del nostro prodotto, delle norme sociali e del linguaggio. Di conseguenza, l'addestramento della nostra tecnologia e la formazione dei team addetti al controllo si basano su un processo graduale e continuo.
In che modo rileviamo le violazioni ricorrentiLa tecnologia è molto utile per rilevare i contenuti che ricorrono più volte, anche nei casi in cui i post sono milioni. La nostra tecnologia prende provvedimenti in merito a un nuovo contenuto quando rileva corrispondenze o somiglianze forti con un altro post che è già stato contrassegnato come non conforme. Ciò è particolarmente utile per le campagne di disinformazione virali, per i meme e per altri contenuti che vengono condivisi molto velocemente.
In che modo riusciamo a identificare le differenze più sottili
La tecnologia può individuare e rimuovere lo stesso contenuto diverse volte. Tuttavia, è molto difficile far comprendere a una macchina le sfumature di significato delle parole o le piccole differenze nelle accezioni determinate dal contesto.
La prima immagine rappresenta il contenuto fuorviante originale che annovera disinformazione in materia di sicurezza sanitaria pubblica.
La seconda immagine è costituita da uno screenshot della prima che include anche la barra del menu del computer nella parte superiore.
Infine, la terza immagine è molto simile alle prime due ma sono state apportate 2 piccole modifiche all'ordine delle parole che correggono il titolo, rendendolo veritiero.
Si tratta di un meccanismo semplice da capire per un addetto al controllo umano, ma estremamente complesso per una macchina. C'è un forte rischio di sbagliare in entrambi i versanti. Se la tecnologia è troppo aggressiva, potrebbe rimuovere milioni di post non in violazione. Se non lo è a sufficienza, in un caso simile si giungerebbe alla conclusione che lo screenshot con la barra del menu sia un contenuto diverso dall'originale e i provvedimenti che si prenderebbero non sarebbero opportuni.
Dedichiamo molto tempo a questo tipo di meccanismi. Negli anni, abbiamo effettuato diversi investimenti per perfezionare la nostra tecnologia e migliorare il processo con cui individuiamo le differenze più sottili tra i contenuti. Ogni giorno i nostri strumenti tecnologici acquisiscono nuove informazioni e diventano più precisi.
