In che modo la tecnologia ci aiuta a stabilire le priorità dei controlli
AGGIORNATO 19 GEN 2022
Sia nei casi in cui il contenuto in potenziale violazione è segnalato dagli utenti che in quelli in cui viene rilevato dalla tecnologia di Meta, l'automazione aiuta a girarlo velocemente ai revisori specializzati in materia e dotati delle conoscenze linguistiche opportune.
Dopodiché, utilizziamo la tecnologia per classificare e stabilire le priorità in merito ai contenuti in modo che i nostri team addetti al controllo possano concentrarsi prima sui casi più importanti. Ad esempio, i contenuti che possono causare violenza offline come i post virali che violano le nostre normative e che possono raggiungere un pubblico molto ampio o quelli relativi ai temi del terrorismo e del suicidio.
Per garantire che i team addetti al controllo possano prendere sempre le decisioni migliori, stiamo facendo del nostro meglio anche per migliorare la tecnologia che utilizziamo e le nostre procedure.
Perché i team addetti al controllo sono importanti per l'applicazione delle normative sui contenuti
La nostra tecnologia e i team addetti al controllo umano lavorano sempre insieme per ridurre gli atti di violenza nella community. Ecco alcuni dei modi in cui gli addetti al controllo collaborano con la nostra tecnologia per rafforzare l'intero sistema di applicazione delle normative sui contenuti di Facebook.
In che modo addestriamo la nostra tecnologia
Ogni volta che i revisori prendono una decisione in merito a un post, contribuiscono ad addestrare e a perfezionare la nostra tecnologia aiutandola a identificare contenuti simili in futuro. Questa strategia circolare basata sul feedback e sulla cooperazione tra revisori umani e tecnologia è fondamentale per tenere aggiornati i nostri sistemi.
In che modo miglioriamo i nostri algoritmi di intelligenza artificiale
Durante il controllo dei contenuti in violazione, i nostri team etichettano manualmente le normative su cui basano le proprie decisioni. Ciò significa che contrassegnano le normative che non sono in linea con un determinato contenuto, account o comportamento. Questa operazione importante di etichettatura dei dati ci aiuta a migliorare la qualità dei nostri algoritmi di intelligenza artificiale basati sulla ricerca proattiva dei contenuti pericolosi.
In che modo prendiamo le decisioni difficili
La nostra tecnologia è particolarmente efficace in 2 ambiti: il rilevamento delle violazioni ripetute e l'identificazione di contenuti forti o espliciti. Al contempo, quando l'applicazione delle normative è fortemente ambigua o complessa e nei casi in cui è necessario riflettere sulle diverse sfumature di significato di un post, gli addetti al controllo tendono a essere più efficaci rispetto alla tecnologia.