Cum prioritizează Meta conținutul în vederea analizei

ACTUALIZARE 12 NOV. 2024
Tehnologiile Meta detectează și șterg cea mai mare parte a conținutului care ne încalcă politicile atât de rapid, încât utilizatorii nu apucă să îl raporteze. Când cineva postează pe Facebook, pe Instagram, pe Messenger sau pe Threads, tehnologiile noastre verifică dacă acel conținut respectă Standardele comunității. În majoritatea cazurilor, identificarea este simplă. Se vede clar dacă o postare ne încalcă sau nu politicile.
Alte dăți, identificarea este mai dificilă. Poate că sentimentul mesajului este neclar, limbajul său este deosebit de complex sau imaginile sale depind prea mult de context. În aceste cazuri, realizăm analize mai detaliate, utilizând persoane.
Prioritizarea factorilor pentru analiza umană
Atunci când stabilim ce conținut ar trebui să analizeze mai întâi echipele noastre de analiză umană, luăm în considerare 3 factori principali:
GRAVITATEA
Cât de probabil este ca acest conținut să conducă la violență, atât online, cât și offline?
VIRALITATE
Cât de rapid este distribuit conținutul?
PROBABILITATEA DE ÎNCĂLCARE
Cât de probabil este ca acel conținut în cauză să ne încalce, de fapt, politicile?
Pentru că dorim să prevenim cât mai multe cazuri de violență posibil, sistemele noastre de analiză folosesc tehnologia pentru a prioritiza conținutul de mare gravitate cu potențial de violență offline și conținutul viral care se răspândește rapid.
Echipele de analiză umană contribuie la îmbunătățirea tehnologiei noastre
Echipele de analiză umană își folosesc expertiza în anumite domenii de politică și în anumite zone pentru a lua decizii dificile și adesea nuanțate. Ori de câte ori revizorii iau o decizie, utilizăm informațiile respective pentru a ne instrui tehnologia. În timp, în urma a milioane de decizii, tehnologia noastră se îmbunătățește, permițându-ne să eliminăm mai mult conținut care încalcă prevederile.
Cum ajutăm revizorii de conținut să decidă corect
Tehnologia ajută echipele de analiză umană să facă lucrurile la care se pricep cel mai bine
La fel ca numeroase modele de învățare programată, tehnologia noastră se îmbunătățește în timp, pe măsură ce primește mai multe exemple de conținut care încalcă prevederile. Aceasta înseamnă că echipele de analiză umană pot să se concentreze mai mult pe conținut grav, viral, nuanțat, nou și complex – exact tipul de decizii pentru care oamenii au tendința de a alege variante mai bune decât tehnologia.
Întrebări obișnuite despre prioritizarea analizei conținutului
Anterior, echipele de analiză umană își petreceau vasta majoritate a timpului analizând conținut raportat de persoane. Acest lucru a însemnat că petreceau adesea prea mult timp cu conținuturi cu gravitate redusă sau care în mod clar nu încălcau legea și timp insuficient cu conținuturile cele mai grave, cu cel mai mare potențial de violență. Acest lucru a însemnat, de asemenea, că numeroase decizii umane nu au fost prea utile pentru îmbunătățirea tehnologiei noastre de aplicare.
Abordarea noastră actuală a prioritizării rezolvă aceste probleme, permițându-ne să analizăm mai întâi conținutul cu cel mai mare potențial de violență și să ne îmbunătățim mai rapid tehnologia.
Nu neapărat. Atât echipele de analiză umană, cât și tehnologia joacă un rol în analizarea rapoartelor de la utilizatori. În cazurile în care tehnologia noastră poate analiza un anumit element de conținut, aceasta va acționa în mod automat – sau nu – asupra conținutului în cauză.
Pentru a aborda problemele de echitate și incluziune asociate cu implementarea AI-ului în tehnologiile Meta, am creat echipa noastră răspunzătoare pentru AI – o echipă multidisciplinară dedicată, formată din eticieni, sociologi și politologi, experți în domeniul politicilor, cercetători în domeniul inteligenței artificiale și ingineri. Obiectivul general al echipei este de a elabora reguli, instrumente și procese pentru a aborda problemele legate de responsabilitatea AI și de a contribui la asigurarea faptului că aceste resurse sistemice sunt disponibile la scară largă în cadrul Meta.