Abordarea noastră cu privire la organizațiile și persoanele periculoase

ACTUALIZARE 11 NOV. 2024
Grupurile sau persoanele care promovează violența, crima organizată, ura sau terorismul nu sunt acceptate pe platforma noastră. De-a lungul mai multor ani de activitate, am dezvoltat și continuăm să dezvoltăm politici și procese referitoare la Persoane și organizații periculoase (DOI), pentru a aborda acest tip de conținuturi. Deși ne angajăm să oferim un spațiu în care utilizatorii să poată discuta despre evenimentele care au loc în întreaga lume și care le afectează viața, familiile și comunitățile, politica noastră există pentru stabili limita a ceea ce nu este permis pe platformele noastre.
policy-image
Politicile noastre sunt concepute pentru a ne proteja platformele
Meta dispune de una dintre cele mai cuprinzătoare politici din domeniu, care vizează organizațiile teroriste, grupurile care incită la ură, organizațiile de crimă organizată precum cartelurile, entitățile care incită la violență și autorii unor evenimente desemnate care încalcă legea, cum ar fi împușcături în masă sau atacuri teroriste.
În conformitate cu prezenta Politică referitoare la DOI, desemnăm și interzicem persoanele și organizațiile implicate în astfel de activități și eliminăm conținuturile care le elogiază și le sprijină atunci când le identificăm. De asemenea, desemnăm și interzicem entitățile care incită la violență – implicate în pregătirea sau susținerea unor acte de violență viitoare, dar care nu s-au implicat neapărat în acte de violență până în prezent – și eliminăm conținuturile care le elogiază și le sprijină.
Politicile noastre sunt publice și puteți citi mai multe detalii despre acestea pe pagina dedicată Standardelor comunității. În plus, în raportul nostru trimestrial privind Standardele comunității publicăm cu regularitate detalii despre volumul de conținut de acest gen pe care îl ștergem.
Cum și de ce desemnăm entități
Nu permitem prezența pe platformele Meta a organizațiilor sau a persoanelor care declară că au o misiune violentă sau instigatoare la ură ori care sunt implicate în acte de violență. Evaluăm aceste entități pe baza comportamentului lor atât online, cât și offline, și mai ales pe baza legăturilor lor cu violența. În cadrul acestei politici, vom defini persoane, organizații și rețele de persoane. Pentru a asigura o aplicare mai eficientă, proporțională și consecventă a politicii, am împărțit pe două niveluri entitățile desemnate. În Standardele comunității noastre puteți citi mai multe despre aceste niveluri și despre tipurile de organizații incluse în fiecare dintre ele.
Dispunem de propriul proces intern, robust – care ia în considerare multiple surse de informații –, pe care îl folosim pentru a evalua organizațiile și persoanele în vederea unei posibile desemnări. Dezvoltarea propriilor definiții și a procesului de desemnare a entităților, indiferent de regiune sau de ideologie, ne permite să fim robuști, corecți și proactivi în protejarea platformelor noastre.
Acest efort nu este static. Evaluăm în permanență riscurile, precum și grupurile și persoanele, pentru a le desemna pe baza comportamentului lor, a circumstanțelor în schimbare, a informațiilor noi, a analizei experților interni și a contribuțiilor consultanților externi. De exemplu, după cum am anunțat în ianuarie 2024, atunci când o organizație sau o persoană desemnată își schimbă comportamentul, aceasta este, de asemenea, eligibilă pentru eliminarea de pe lista noastră – în special dacă (1) nu este desemnată de guvernul SUA drept Element-pivot în traficul de narcotice, desemnat în mod special (SDNTK); Organizație teroristă străină (FTO); sau Terorist global desemnat în mod special (SDGT); (2) nu mai este implicată în acte de violență sau de incitare la ură; și (3) nu reprezintă un simbol al violenței și urii sau nu e utilizată pentru a incita în continuare la violență sau pentru a răspândi propagandă violentă ori care incită la ură.
Deși prețuim profund transparența și evaluăm permanent compromisurile, în prezent nu diseminăm detaliile listei noastre de entități desemnate pentru a atenua riscurile de securitate și legale și pentru a preveni sustragerea acestor actori periculoși de la mecanismele noastre de aplicare a măsurilor punitive.
Măsurile pe care le aplicăm împotriva organizațiilor și persoanelor periculoase
Investim foarte mult în oameni, tehnologie, parteneriate și cercetare pentru a contracara activitatea DOI.
  • Tehnologie: abordăm acest domeniu combinând AI-ul cu inteligența umană și, de asemenea, investim în cercetare și colaborăm cu experți externi și organizații externe pentru a rămâne la curent cu acest mediu în continuă schimbare. Utilizăm AI-ul pentru a detecta clipuri video, imagini, conținut audio, texte și chiar elemente grafice precum siglele și descrierile de acțiuni violente. De asemenea, punem la dispoziția întregului domeniu instrumente open-source menite să ne ajute partenerii să acceseze tehnologia necesară pentru a lupta împotriva organizațiilor și a persoanelor periculoase pe propriile platforme. De exemplu, în decembrie 2022, pentru a ajuta companiile din domeniu să își protejeze platformele de conținutul terorist, le-am pus la dispoziție „Hasher Matcher Actioner” (HMA), un instrument software open-source și gratuit, care va ajuta platformele să identifice copiile imaginilor sau ale clipurilor video și să ia măsuri în masă împotriva acestora.
  • Persoane: contextul și limbajul sunt adesea complexe, iar tehnologia nu poate diferenția întotdeauna elogierea unei DOI de critica specifică culturii. Acesta este motivul pentru care Meta a investit miliarde de dolari și apelează la aproape 40.000 de persoane, care lucrează pentru a garanta siguranța și securitatea. În cadrul acestui demers, avem o echipă interfuncțională dedicată, alcătuită din sute de persoane cu experiență în domenii diverse, de la aplicarea legii și securitate națională, până la informații despre combaterea terorismului și studii academice despre radicalizare.
  • Parteneriate: cât timp vor exista activități rău-intenționate în lume, acestea vor fi prezente și pe internet și nicio companie nu poate rezolva pe cont propriu aceste probleme. De aceea, parteneriatele cu alte entități – companii, societatea civilă, cercetători și guverne – sunt esențiale. Colaborăm cu guverne și cu agenții interguvernamentale din întreaga lume și avem parteneriate cu organizații specializate în combaterea terorismului, extremismului violent, atacurilor cibernetice și comportamentului amenințător online.
    • GIFCT: în 2017, ne-am unit forțele cu YouTube, Microsoft și Twitter pentru a crea Global Internet Forum to Counter Terrorism (Forumul pentru combaterea terorismului la nivel mondial GIFCT), o organizație înființată cu scopul de a preveni exploatarea platformelor digitale de către teroriști și extremiștii violenți. În 2019, GIFCT a devenit un ONG independent și coordonează răspunsul la crizele provocate de atacuri din întregul domeniu.
    • Instituții de ordine publică: când identificăm o amenințare specifică, iminentă și credibilă la adresa vieții umane, nu ezităm să anunțăm instituțiile de ordine publică. Meta colaborează, de asemenea, cu instituții de ordine publică pentru a combate atacurile violente. Totuși, examinăm întotdeauna atent fiecare solicitare guvernamentală pe care o primim, pentru a ne asigura că este valabilă din punct de vedere legal și conformă cu standardele recunoscute la nivel internațional privind drepturile omului, inclusiv cu tratamentul echitabil, confidențialitatea, libertatea de expresie și statul de drept. Dacă stabilim că o solicitare pare a fi deficitară sau prea generală, o respingem. Puteți citi mai multe aici despre colaborarea noastră cu instituțiile de ordine publică.
  • Cercetare independentă: autorizăm cercetări independente realizate de grupuri consultative de experți, academicieni și ONG-uri pe diferite subiecte privind utilizarea internetului în scopuri extremiste violente și teroriste, pentru a ne ajuta domeniul să înțeleagă și să facă progrese în ceea ce privește aceste probleme importante. În 2022, Meta a anunțat un parteneriat de cercetare cu Centrul pentru terorism, extremism și contraterorism din cadrul Institutului de Studii Internaționale Middlebury, având scopul analizării tendințelor în evoluția extremismului violent și a instrumentelor eficiente care ajută comunitățile să îl combată.
  • Desființarea strategică a rețelelor: deși cele mai multe dintre măsurile noastre împotriva terorismului și a incitării la ură organizate constau în eliminarea conținutului ca practică de rutină, uneori, aceste măsuri nu sunt suficiente. Acesta este un spațiu deschis comportamentului amenințător, iar entitățile periculoase desemnate încearcă uneori să ocolească măsurile noastre punitive și să reconstituie rețele pe platforma noastră. Pentru a combate aceste rețele, folosim o abordare-cheie denumită Desființarea strategică a rețelelor (SND). SND ne permite să eliminăm o rețea întreagă de actori DOI deja interziși, fie când aceștia sunt desemnați pentru prima oară, fie ca parte a eforturilor noastre continue de a elimina aceste grupuri desemnate de pe platforma noastră. Dezactivarea acestor formațiuni în întregime le face mai dificilă revenirea pe platformă. De asemenea, această măsură transmite mesajul clar că suntem la curent cu prezența lor și că aceste grupuri nu sunt binevenite pe platformele noastre. Nu în ultimul rând, această tehnică ne permite să studiem modul în care entitățile DOI ar putea încerca să ocolească mijloacele noastre de detectare, precum și modul în care acestea ar putea încerca să revină în aplicațiile noastre după ce le ștergem conturile.
Activități de prevenție
La Meta, suntem dedicați menținerii siguranței și integrității platformelor noastre. Una dintre modalitățile prin care atingem acest obiectiv o constituie prevenirea din punctul zero, care implică măsuri proactive pentru a împiedica răspândirea DOI înainte să ajungă la persoane sau comunități. Aceasta include apelul la intervenții direcționate și promovarea discursului pozitiv. Considerăm că dialogul constructiv este esențial și ne străduim să creăm un mediu care să încurajeze astfel de schimburi.
Pentru a ne consolida și mai mult eforturile, colaborăm activ cu organizațiile din societatea civilă (CSO-uri) care sunt dedicate combaterii extremismului, a urii organizate și a activităților infracționale. Sprijinim aceste organizații prin dezvoltarea capacităților lor și prin faptul că le oferim resursele necesare pentru a crea conținut cu argumente împotriva discursului care incită la ură. Acest conținut combate discursurile extremiste și oferă perspective alternative, contribuind la promovarea unui mediu online mai pozitiv și mai incluziv.
Abordarea noastră vizavi de combaterea extremismului este multidimensională și proactivă, combinând prevenirea, colaborarea și promovarea discursului pozitiv.
  • The Resiliency Initiative (Inițiativa pentru reziliență) este un program care instruiește CSO-urile din Asia, Africa și Statele Unite, prin intermediul unor strategii de campanie pentru Prevenirea/Combaterea Extremismului Violent (P/CVE) și le dezvoltă capacitatea de a derula campanii eficiente de promovare a argumentelor împotriva discursului care incită la ură. Ca parte a Inițiativei pentru reziliență, Meta a lansat, în Statele Unite, un parteneriat cu Search for Common Ground (SFCG) pentru a sprijini partenerii din comunitate care acționează la nivel local în scopul de a contracara violența alimentată de ură și a consolida reziliența socială și comunitară.
  • Căutări mai sigure: de asemenea, atunci când este cazul, le indicăm utilizatorilor resurse atunci când aceștia caută termeni asociați cu organizații și persoane periculoase. Când utilizatorii caută termeni asociați cu DOI pe Facebook, pe Instagram și pe Threads, le oferim, în schimb, resurse, în încercarea de a descuraja căutările de conținuturi legate de DOI și de a le oferi utilizatorilor resurse educaționale.
    De asemenea, derulăm un program de căutare în mai multe țări, inclusiv în Australia, Statele Unite, Regatul Unit, Germania, India, Indonezia și Pakistan. Dacă cineva caută termeni specifici fiecărei piețe și se axează de obicei pe anumite vătămări provocate de DOI, îi oferim informații și resurse suplimentare în colaborare cu o CSO locală specializată în servicii de asistență pentru utilizatorii expuși riscului reprezentat de extremism.
  • Furnizarea de resurse organizațiilor din comunitate: de asemenea, derulăm un Program de reclame privind siguranța, care funcționează în sprijinul partenerilor CSO pentru a preveni în mod proactiv vătămările, oferindu-le acestora credite publicitare și asistență strategică atunci când derulează programe ce promovează argumente împotriva discursului care incită la ură. Prin colaborarea cu aceste organizații, ne propunem să ne dezvoltăm parteneriatele, pentru a combate persoanele și organizațiile periculoase (DOI).
Aceste eforturi sunt continue și știm că, atât timp cât în lume vor exista organizații și persoane periculoase, acestea vor fi prezente și pe internet, motiv pentru care rămânem vigilenți. Aceste grupuri adoptă tactici noi, pentru a evita detectarea și/sau pentru a încerca să se sustragă politicilor și aplicării măsurilor noastre punitive. Acest comportament amenințător este motivul pentru care lucrăm în mod constant ca să fim mereu cu un pas înainte, evaluându-ne și actualizându-ne abordarea.