A gyűlöletbeszéd észlelésének kihívása
FRISSÍTVE 2022. JAN. 19.
A gyűlöletbeszéd felismerése különösen nehéz a technológia és az emberi ellenőrzést végző csoportok számára is. A kifejezésmódok és az árnyalatok változatossága igen széles a különböző kultúrákban, nyelveken és régiókban. Ezenkívül az emberek néha megosztanak alapesetben gyűlöletbeszédnek minősülő szavakat a problémával kapcsolatos figyelemfelhívás szándékával, vagy éppen a kifejezés visszakövetelése céljából önmagukra vonatkoztatva.
Mindezek pedig csak a szövegekben előforduló gyűlöletbeszéd észlelésének kihívásai. A gyűlöletbeszéd jelentős részét fényképeken és videókban találjuk meg a Facebookon és az Instagramon. Egy mém például szöveg és képek együttes használatával támadhat valamilyen embercsoportot. Ez még nagyobb kihívást jelent a technológia számára.
Az ilyen tartalmak esetei még bonyolultabbakká válnak, amikor az emberek a tartalom módosításával próbálják elkerülni az észlelést. Például szándékosan helytelenül írhatnak le szavakat, kerülhetik bizonyos megfogalmazások használatát, illetve módosíthatják a képeiket és videóikat.
Előrelépés a mesterséges intelligencia gyűlöletbeszéd észlelésére való alkalmazásában
Az elmúlt néhány évben fejlesztettük a gyűlöletbeszéd észlelésére szolgáló eszközeinket, így most már az ilyen tartalmak nagy részét eltávolítjuk, még mielőtt az emberek jelentenék – egyes esetekben már azelőtt, hogy bárki láthatná őket.
A mesterséges intelligenciát olyan képek és szövegek azonosítására használjuk, amelyek megegyeznek más, gyűlöletbeszéd miatt már eltávolított tartalmakkal. Technológiánk a reakciókat és a hozzászólásokat is figyeli annak felméréséhez, milyen mértékű hasonlóságot mutat egy tartalomelem.
Ezek a megoldások segítik technológiánkat a gyűlöletbeszéd pontosabb észlelésében még akkor is, ha a jelentés nem nyilvánvaló, vagy ha a tartalmat módosították az észlelés elkerülése érdekében.
Mélyreható elemzést olvashatsz a Facebook MI blogon