Cum funcționează tehnologia de aplicare
ACTUALIZARE 12 NOV. 2024
Crearea modelelor și a estimărilor
Procesul începe în cadrul echipelor noastre care se ocupă cu inteligența artificială. Acestea creează modele de învățare programată ce pot îndeplini anumite sarcini precum recunoașterea conținutului unei fotografii sau înțelegerea unui text. Apoi, echipele noastre de integritate – care sunt responsabile de scalarea detectării și impunerii politicilor noastre – dezvoltă aceste modele, pentru a crea unele mai specifice, care să poată face estimări cu privire la persoane și conținuturi. Aceste estimări ne ajută să ne impunem politicile.
De exemplu, un model AI estimează dacă un element de conținut reprezintă limbaj care incită la ură sau este conținut violent sau explicit. Un sistem separat – tehnologia noastră de aplicare –stabilește dacă este necesară luarea de măsuri precum ștergerea, retrogradarea sau transmiterea conținutului către o echipă de analiză umană, pentru o verificare suplimentară.
Învățare prin repetiție verificată de oameni
Atunci când creăm tehnologii noi de aplicare a politicilor asupra conținutului, le antrenăm pentru a recunoaște anumite semnale. De exemplu, unele tehnologii caută elemente de nuditate în fotografii, în timp ce altele învață să înțeleagă texte. La început, un nou tip de tehnologie poate avea o precizie scăzută atunci când încearcă să recunoască dacă un element de conținut ne încalcă politicile.
Echipele de analiză iau astfel decizia finală, iar tehnologiile învață de pe urma deciziei umane. Cu timpul – după învățarea a mii de decizii umane –, tehnologia devine mai precisă.
Politicile noastre evoluează, de asemenea, de-a lungul timpului, pentru a ține pasul cu modificările aduse produsului nostru, cu normele sociale și cu limba. În consecință, instruirea tehnologiei și a echipelor noastre de analiză reprezintă un proces gradual și iterativ.
Detectarea încălcărilor repetateTehnologia detectează foarte eficient același conținut de fiecare dată când apare, chiar și de milioane de ori, dacă este necesar. Tehnologia noastră va lua măsuri cu privire la un nou element de conținut dacă acesta se potrivește sau este foarte asemănător cu un alt element de conținut care ne încalcă politicile. Acest lucru este util îndeosebi în cazul campaniilor de dezinformare virale, al meme-urilor și al altor tipuri de conținut care se pot răspândi extrem de rapid.
Detectarea diferențelor subtile
Tehnologia poate găsi și șterge în mod repetat același conținut. Însă este o mare provocare să înveți o mașină să înțeleagă nuanțele cuvintelor alese sau modul în care diferențele minore pot schimba contextul.
Prima imagine reprezintă elementul original de conținut înșelător, care conține dezinformări cu privire la siguranța din domeniul sănătății publice.
Cea de-a doua imagine reprezintă o captură de ecran a primei imagini, de această dată cu bara de meniu a computerului în partea superioară.
În fine, cea de-a treia imagine arată extrem de asemănător cu prima și cu a doua imagine, însă conține două modificări mici ale cuvintelor, care transformă titlul într-un conținut adevărat, nu fals.
Acest lucru poate fi înțeles cu relativă ușurință de oameni, dar tehnologia se descurcă greu în această privință. Există riscul apariției unor greșeli prea mari în defavoarea unui sens sau al celuilalt. Dacă tehnologia este prea agresivă, va elimina milioane de postări care nu încalcă politicile. Dacă nu este suficient de agresivă, va considera că acea captură de ecran cu bara de meniu este diferită de original și nu va lua măsuri cu privire la conținutul acesteia.
Petrecem foarte mult timp lucrând la acest lucru. În ultimii ani, am făcut mai multe investiții pentru a ajuta tehnologia noastră să devină mai bună la detectarea diferențelor subtile între elemente de conținut. Tehnologia devine mai precisă în fiecare zi, pe măsură ce continuă să învețe.
