Il nostro approccio alle persone e alle organizzazioni pericolose

AGGIORNATO 11 NOV 2024
Sulla nostra piattaforma non c'è posto per gruppi o persone che promuovono la violenza, la criminalità organizzata, l'odio o il terrorismo. Nel corso di anni di lavoro abbiamo definito e continuiamo a definire normative e processi in materia di persone e organizzazioni pericolose al fine di affrontare questo tipo di contenuti. Sebbene ci impegniamo a fornire uno spazio in cui le persone possano parlare di eventi che accadono in tutto il mondo e che hanno un impatto sulle loro vite, sulle loro famiglie e sulle loro community, la nostra normativa esiste per tracciare una linea di demarcazione per ciò che non è consentito sulle nostre piattaforme.
policy-image
Le nostre normative sono progettate per mantenere sicure le nostre piattaforme
Meta ha una delle normative più complete del settore, rivolta a organizzazioni terroristiche, gruppi di odio, organizzazioni criminali organizzate come cartelli, entità che inducono alla violenza e autori di eventi illeciti designati come sparatorie di massa o attacchi terroristici.
In base alla presente normativa in materia di persone e organizzazioni pericolose, designiamo e banniamo persone e organizzazioni coinvolte in attività e rimuoviamo qualsiasi forma di glorificazione e supporto nei loro confronti quando ne veniamo a conoscenza. Designiamo e banniamo inoltre le entità che inducono alla violenza, ovvero quelle entità che sono coinvolte nella preparazione o istigazione a compiere atti di violenza futura ma che non necessariamente hanno commesso atti di violenza a oggi e rimuoviamo anche la glorificazione e il supporto nei loro confronti.
Le nostre normative sono pubbliche e puoi leggere maggiori dettagli a riguardo nella nostra pagina degli Standard della community. Inoltre, pubblichiamo regolarmente dettagli sulla quantità di questi contenuti che rimuoviamo nel nostro report trimestrale sugli Standard della community.
Modalità e motivi della designazione
Non consentiamo a persone o organizzazioni pericolose che sostengono una missione violenta o di incitamento all'odio o che sono coinvolte in azioni violente di essere presenti sulle piattaforme di Meta. Valutiamo queste entità in base al loro comportamento online e offline e in particolare per quanto riguarda i legami con la violenza. In base alla presente normativa, designiamo persone, organizzazioni e reti di persone. Per garantire un'applicazione più efficace, proporzionata e coerente, abbiamo suddiviso le designazioni in due livelli. Puoi trovare maggiori informazioni su questi livelli e sui tipi di organizzazioni che ciascuno comprende nei nostri Standard della community.
Disponiamo di un efficiente processo interno, che tiene conto di numerose fonti di informazione, che utilizziamo per valutare organizzazioni e persone ai fini di una possibile designazione. Sviluppare le nostre definizioni e il nostro processo di designazione, indipendentemente dall'area geografica o dall'ideologia, ci consente di essere efficienti, equi e proattivi nella protezione delle nostre piattaforme.
Questo lavoro non è statico. Valutiamo costantemente i rischi e i gruppi e le persone ai fini della designazione in base al loro comportamento, alle mutevoli circostanze, alle nuove informazioni, all'analisi degli esperti interni e all'input degli stakeholder esterni. Ad esempio, come abbiamo annunciato a gennaio 2024, quando un'organizzazione o una persona designata modifica il proprio comportamento può anche essere rimossa dalla nostra lista, in particolare se: (1) non è designata dal governo degli Stati Uniti come Specially Designated Narcotics Trafficking Kingpin (SDNTK, boss del traffico di stupefacenti appositamente designato), come Foreign Terrorist Organization (FTO, organizzazione terroristica straniera) o come Specially Designated Global Terrorist (SDGT, terrorista globale appositamente designato); (2) non è più coinvolta in atti di violenza o odio; (3) non rappresenta un simbolo di violenza e odio né è usata per incitare ulteriore violenza o diffondere propaganda violenta o di odio.
Sebbene diamo grande importanza alla trasparenza e valutiamo costantemente i compromessi, al momento non condividiamo i dettagli della nostra lista di designazioni per attenuare i rischi legali e legati alla sicurezza e per impedire a questi attori pericolosi di eludere i nostri meccanismi di applicazione.
Modalità di applicazione verso persone e organizzazioni pericolose
Investiamo molto in persone, tecnologia, partnership e ricerca per contrastare l'attività legata a persone e organizzazioni pericolose.
  • Tecnologia: ci approcciamo a questo spazio attraverso una combinazione di intelligenza umana e di IA, investendo inoltre nella ricerca e collaborando con esperti e organizzazioni esterne per rimanere sempre aggiornati su questo ambiente in continua evoluzione. Utilizziamo l'IA per rilevare video, immagini, audio, testo e persino elementi grafici come loghi e rappresentazioni di violenza. Mettiamo inoltre a disposizione dell'intero settore strumenti open source per aiutare i partner ad accedere alla tecnologia necessaria per contrastare persone e organizzazioni pericolose sulle proprie piattaforme. Ad esempio, nel dicembre 2022, per aiutare tutte le aziende del settore a mantenere le proprie piattaforme libere da contenuti terroristici, abbiamo reso disponibile l'"Hasher-Matcher-Actioner" (HMA), uno strumento software open source gratuito che aiuterà le piattaforme a individuare copie di immagini o video e ad agire contro di esse in massa.
  • Persone: il contesto e il linguaggio sono spesso complessi e la tecnologia non riesce sempre a distinguere la glorificazione di persone e organizzazioni pericolose dalla critica specifica di una determinata cultura. Ecco perché Meta ha investito miliardi di dollari e impiega circa 40 000 persone che lavorano sulla sicurezza. In tale ambito, disponiamo di un team interfunzionale composto da centinaia di persone che si occupano di questo lavoro con competenze specifiche che spaziano dalle forze dell'ordine alla sicurezza nazionale, passando per l'intelligence antiterrorismo e gli studi accademici sulla radicalizzazione.
  • Partnership: finché esisteranno attività dannose nel mondo, esisteranno anche su Internet e nessuna azienda potrà risolvere questi problemi per conto proprio. Ecco perché le partnership con altri soggetti (aziende, società civile, ricercatori e governi) sono così essenziali. Collaboriamo con governi e agenzie intergovernative in tutto il mondo e con organizzazioni esperte in terrorismo, estremismo violento, cyber intelligence e comportamenti ostili online.
    • GIFCT: nel 2017 abbiamo unito le forze con YouTube, Microsoft e Twitter per creare il Global Internet Forum to Counter Terrorism (GIFCT), un'organizzazione nata con l'obiettivo di impedire ai terroristi e agli estremisti violenti di sfruttare le piattaforme digitali. Nel 2019, il GIFCT è diventato una ONG indipendente e coordina la risposta alle crisi in tutto il settore in risposta agli attacchi.
    • Forze dell'ordine: quando ci rendiamo conto di una specifica minaccia alla vita delle persone imminente e credibile, non esitiamo a informare le forze dell'ordine. Meta collabora anche con le forze dell'ordine in caso di attacchi violenti, ma esaminiamo sempre attentamente ogni richiesta governativa che riceviamo per assicurarci che sia legalmente valida e coerente con gli standard riconosciuti a livello internazionale sui diritti umani, tra cui il giusto processo, la privacy, la libertà di espressione e lo stato di diritto. Se riteniamo che una richiesta sia insufficiente o eccessivamente generica, la respingiamo. Puoi leggere di più sulla nostra collaborazione con le forze dell'ordine qui.
  • Ricerca indipendente: commissioniamo ricerche indipendenti a think tank, accademici e ONG su vari argomenti riguardanti l'uso estremista violento e terroristico di Internet, al fine di aiutare il nostro settore a comprendere e fare progressi su queste importanti questioni. Nel 2022, Meta ha annunciato una partnership di ricerca con il Center on Terrorism, Extremism, and Counterterrorism (Centro sul terrorismo, l'estremismo e l'antiterrorismo) del Middlebury Institute of International Studies per analizzare le tendenze in evoluzione dell'estremismo violento e gli strumenti efficaci che aiutano le community a contrastarlo.
  • Interruzioni strategiche della rete: sebbene la maggior parte della nostra lotta contro il terrorismo e l'odio organizzato derivi dalla rimozione di routine dei contenuti, a volte ciò non è sufficiente. Questo è uno spazio conflittuale e talvolta entità pericolose designate tentano di aggirare le nostre misure di controllo e di ricostituire le reti sulla nostra piattaforma. Per combattere queste reti, utilizziamo un approccio chiave chiamato Strategic Network Disruption (SND, Interruzione strategica della rete). Questo approccio ci consente di rimuovere contemporaneamente una rete di persone e organizzazioni pericolose già bannate, sia quando vengono designate per la prima volta, sia come parte del nostro lavoro continuo per tenere questi gruppi designati fuori dalla nostra piattaforma. Disattivando completamente questi cluster, sarà più difficile per loro tornare sulla piattaforma. Inoltre, dà un messaggio chiaro: siamo consapevoli della loro presenza e questi gruppi non sono benvenuti sulle nostre piattaforme. Infine, questa tecnica ci consente di studiare come queste persone e organizzazioni pericolose potrebbero tentare di eludere il nostro rilevamento e tornare alle nostre app dopo aver rimosso i loro account.
Lavoro di prevenzione
In Meta ci impegniamo a mantenere la sicurezza e l'integrità delle nostre piattaforme. Uno dei modi in cui riusciamo a raggiungere questo obiettivo è attraverso la prevenzione a monte, che consiste nell'adottare misure proattive per impedire la diffusione di persone e organizzazioni pericolose prima che possano radicarsi nelle persone o nelle community. Ciò include l'uso di interventi mirati e la promozione di un linguaggio positivo. Riteniamo che il dialogo costruttivo sia essenziale e ci impegniamo a creare un ambiente che incoraggi tali scambi.
Per rafforzare ulteriormente i nostri impegni, collaboriamo attivamente con le organizzazioni della società civile (OSC) dedite a contrastare l'estremismo, l'odio organizzato e le attività criminali. Sosteniamo queste organizzazioni rafforzandone le capacità e fornendo loro le risorse necessarie per creare contenuti di counterspeech. Questi contenuti sfidano le narrazioni estremiste e offrono prospettive alternative, contribuendo a promuovere un ambiente online più positivo e inclusivo.
Il nostro approccio alla lotta all'estremismo è sfaccettato e proattivo e prevede una combinazione di prevenzione, collaborazione e promozione di un linguaggio positivo.
  • The Resiliency Initiative è un programma che forma le organizzazioni della società civile in Asia, Africa e Stati Uniti sulle strategie di campagne di prevenzione/contrasto dell'estremismo violento (P/CVE) e rafforza la loro capacità di realizzare campagne di counterspeech efficaci. Nell'ambito della Resiliency Initiative, Meta ha lanciato una partnership con sede negli Stati Uniti con Search for Common Ground (SFCG) per supportare i partner basati sulla community che lavorano a livello locale per contrastare la violenza alimentata dall'odio e costruire resilienza sociale e comunitaria.
  • Ricerche più sicure: quando opportuno, inoltre, indirizziamo le persone verso risorse specifiche quando cercano termini associati a persone e organizzazioni pericolose. Quando gli utenti cercano termini legati a persone e organizzazioni pericolose su Facebook, Instagram e Threads, vengono invece fornite loro delle risorse che contribuiscono a scoraggiare le ricerche di contenuti relativi a tale argomento e a fornire risorse formative agli utenti.
    Gestiamo anche un programma di ricerca in diversi Paesi, tra cui Australia, Stati Uniti, Regno Unito, Germania, India, Indonesia e Pakistan. Se una persona cerca termini specifici per ogni mercato e in genere si concentra su particolari danni legati a persone e organizzazioni pericolose, le offriamo informazioni e risorse aggiuntive in collaborazione con un'organizzazione della società civile locale specializzata nell'offerta di servizi di supporto agli utenti a rischio di estremismo.
  • Fornire risorse alle organizzazioni comunitarie: gestiamo inoltre un programma di inserzioni di sicurezza, che mira a supportare i partner delle organizzazioni della società civile nella prevenzione proattiva dei danni, offrendo loro crediti pubblicitari e supporto strategico quando gestiscono programmi di counterspeech. Collaborando con queste organizzazioni, puntiamo a rafforzare le nostre partnership per contrastare le persone e le organizzazioni pericolose.
Si tratta di un lavoro in corso e sappiamo che finché nel mondo esisteranno organizzazioni e persone pericolose, esisteranno anche su Internet. Ecco perché restiamo vigili. Questi gruppi adottano nuove tattiche per evitare di essere scoperti e/o cercare di eludere le nostre normative e misure di controllo: questo comportamento avverso è il motivo per cui lavoriamo costantemente per rimanere un passo avanti, valutando e aggiornando il nostro approccio.