Η πρόκληση του εντοπισμού εκφράσεων μίσους
ΕΝΗΜΕΡΩΘΗΚΕ 19 Ιαν 2022
Οι εκφράσεις μίσους είναι ιδιαίτερα δύσκολο να εντοπιστούν από την τεχνολογία και τις ομάδες ανθρώπινου ελέγχου. Οι ιδιωματισμοί και οι μικρές νοηματικές διαφοροποιήσεις ποικίλουν σε μεγάλο βαθμό ανάλογα με την κουλτούρα, τη γλώσσα και την περιοχή. Επίσης, ορισμένες φορές, οι χρήστες κοινοποιούν εκφράσεις που κανονικά θα ήταν εκφράσεις μίσους, αλλά το κάνουν για να ευαισθητοποιήσουν το κοινό για το πρόβλημα ή σε αυτοαναφορικό πλαίσιο σε μια προσπάθεια να "εξυγιάνουν" τον όρο.
Αυτές είναι οι δυσκολίες που αφορούν απλώς και μόνο τον εντοπισμό των εκφράσεων μίσους στα διάφορα κείμενα. Αρκετές από τις εκφράσεις μίσους που βρίσκουμε στο Facebook και στο Instagram βρίσκονται σε φωτογραφίες και βίντεο. Ένα μιμίδιο, για παράδειγμα, μπορεί να επιτίθεται σε μια συγκεκριμένη ομάδα ατόμων μέσα από συνδυαστική χρήση του κειμένου και των εικόνων. Κάτι τέτοιο αποτελεί ακόμα μεγαλύτερη πρόκληση για την τεχνολογία.
Το περιεχόμενο αυτού του είδους γίνεται ακόμα πιο περίπλοκο, όταν οι χρήστες προσπαθούν να αποφύγουν τον εντοπισμό κάνοντας αλλαγές. Για παράδειγμα, μπορεί να γράψουν ανορθόγραφα κάποιες λέξεις, να αποφύγουν ορισμένες φράσεις ή να τροποποιήσουν τις εικόνες και τα βίντεό τους.
Πρόοδος στη χρήση της τεχνητής νοημοσύνης για τον εντοπισμό των εκφράσεων μίσους
Τα τελευταία χρόνια έχουμε βελτιώσει τα εργαλεία μας για τον εντοπισμό των εκφράσεων μίσους. Έτσι, αφαιρούμε πλέον αρκετό από αυτό το περιεχόμενο προτού γίνει αναφορά από τους χρήστες και, σε ορισμένες περιπτώσεις, πριν καν το δει κάποιος.
Χρησιμοποιούμε την τεχνητή νοημοσύνη για να εντοπίζουμε τις εικόνες και τα κείμενα που είναι πανομοιότυπα με άλλο περιεχόμενο που έχουμε αφαιρέσει ήδη λόγω εκφράσεων μίσους. Επιπλέον, η τεχνολογία μας ελέγχει τις αντιδράσεις και τα σχόλια προκειμένου να αξιολογήσει πόσο παρόμοιο είναι ένα στοιχείο περιεχομένου.
Αυτές οι τεχνικές βοηθούν την τεχνολογία μας να εντοπίζει με μεγαλύτερη ακρίβεια τις εκφράσεις μίσους, ακόμη και όταν δεν είναι εμφανής η σημασία ή έχουν γίνει αλλαγές στο περιεχόμενο για να αποφευχθεί ο εντοπισμός.
Διαβάστε μια λεπτομερή ανάλυση στο ιστολόγιο Facebook AI