Provocarea pe care o constituie detectarea limbajului care incită la ură
ACTUALIZARE 19 IAN. 2022
Limbajul care incită la ură este deosebit de dificil de detectat de tehnologie și de echipele de analiză umane. Expresiile și nuanțele pot fi foarte diferite de la o cultură, limbă și regiune la alta. De asemenea, se poate întâmpla ca utilizatorii să distribuie cuvinte care, în mod normal, sunt considerate limbaj care instigă la ură, dar să facă acest lucru pentru a atrage atenția asupra problemei în cauză sau în sens autoreferențial, pentru a redefini termenul.
Simpla detectare a limbajului care instigă la ură într-un text constituie o provocare. O mare parte din limbajul care instigă la ură se regăsește, pe Facebook și Instagram, în fotografii și clipuri video. Un meme, de exemplu, poate utiliza o combinație de text și imagini pentru a ataca un anumit grup de persoane. Acest lucru reprezintă o provocare și mai mare pentru tehnologie.
Conținuturile de acest fel devin și mai complicate atunci când utilizatorii încearcă să evite detectarea schimbându-le conținutul. De exemplu, aceștia scriu greșit anumite cuvinte, evită anumite fraze sau își modifică imaginile și clipurile video.
Progresul făcut în utilizarea inteligenței artificiale pentru a detecta limbajul care incită la ură
Ne-am îmbunătățit instrumentele de detectare a limbajului care instigă la ură în cursul ultimilor ani, astfel încât acum reușim să ștergem o mare parte dintre aceste conținuturi înainte ca utilizatorii să le raporteze și, în unele cazuri, chiar înainte ca cineva să le vadă.
Utilizăm tehnologii AI pentru a identifica imagini și texte care sunt identice cu elementele de conținut pe care deja le-am șters pe motiv de limbaj care incită la ură. Tehnologia noastră examinează, de asemenea, reacțiile și comentariile pentru a evalua cât de asemănător este un element de conținut.
Aceste tehnici ne ajută tehnologia să detecteze cu mai multă precizie limbajul care incită la ură, chiar și atunci când sensul nu este evident sau când conținutul este modificat pentru a evita detectarea.
Citește o analiză detaliată pe blogul Facebook AI