Πώς βοηθάει η τεχνολογία στην ιεράρχηση των ελέγχων
ΕΝΗΜΕΡΩΘΗΚΕ 19 Ιαν 2022
Είτε το δυνητικά παραβατικό περιεχόμενο έχει αναφερθεί από χρήστες είτε έχει εντοπιστεί από την τεχνολογία του Meta, η αυτοματοποίηση μας βοηθά να το δρομολογούμε γρήγορα στους ελεγκτές που διαθέτουν την κατάλληλη εξειδίκευση επί του θέματος και την απαιτούμενη γλωσσική επάρκεια.
Στη συνέχεια, χρησιμοποιούμε την τεχνολογία για να ταξινομήσουμε και να ιεραρχήσουμε το περιεχόμενο, ώστε οι ομάδες ελέγχου να μπορούν να επικεντρωθούν πρώτα στις πιο σημαντικές περιπτώσεις. Σε αυτές περιλαμβάνονται το περιεχόμενο που μπορεί να οδηγήσει στην πρόκληση βλαβών εκτός διαδικτύου, όπως δημοσιεύσεις που σχετίζονται με την τρομοκρατία και την αυτοκτονία, καθώς και το viral περιεχόμενο που παραβιάζει τις πολιτικές μας και έχει τη δυνατότητα να προσεγγίσει μεγάλο κοινό.
Για να διασφαλίσουμε ότι οι ομάδες ελέγχου θα αφιερώνουν περισσότερο χρόνο στις σωστές αποφάσεις, βελτιώνουμε συνεχώς την τεχνολογία και τις διαδικασίες μας.
Γιατί οι ομάδες ελέγχου είναι σημαντικές για την επιβολή των πολιτικών για το περιεχόμενο
Η τεχνολογία μας και οι ομάδες ανθρώπινου ελέγχου συνεργάζονται πάντα για τον περιορισμό των βλαβών στην κοινότητά μας. Ακολουθούν ορισμένοι τρόποι με τους οποίους οι ελεγκτές, σε συνδυασμό με την τεχνολογία, βοηθούν στην ενίσχυση ολόκληρου του συστήματος επιβολής των πολιτικών μας για το περιεχόμενο.
Εκπαίδευση της τεχνολογίας
Όταν οι ελεγκτές παίρνουν μια απόφαση για κάποιο περιεχόμενο, ταυτόχρονα εκπαιδεύουν και βελτιώνουν την τεχνολογία μας, βοηθώντας την να εντοπίζει και άλλα παρεμφερή στοιχεία περιεχομένου με την πάροδο του χρόνου. Αυτός ο κύκλος ανατροφοδότησης ανθρώπου-τεχνολογίας είναι ζωτικής σημασίας για την ενημέρωση των συστημάτων μας.
Βελτίωση των αλγόριθμων τεχνητής νοημοσύνης
Κατά τον έλεγχο του παραβατικού περιεχομένου, οι ομάδες ελέγχου επισημαίνουν με μη αυτόματο τρόπο την πολιτική που καθοδηγεί την απόφασή τους, το οποίο σημαίνει ότι επισημαίνουν την πολιτική που παραβιάζει το περιεχόμενο, ο λογαριασμός ή η συμπεριφορά. Αυτά τα σημαντικά δεδομένα μάς βοηθούν να βελτιώσουμε την ποιότητα των αλγόριθμων τεχνητής νοημοσύνης που αναζητούν προληπτικά επιβλαβές περιεχόμενο.
Λήψη δύσκολων αποφάσεων
Η τεχνολογία μας τα πάει ιδιαίτερα καλά σε 2 τομείς: τον εντοπισμό επανειλημμένων παραβιάσεων και τον εντοπισμό εμφανώς σκληρού ή ακραίου περιεχομένου. Όταν, όμως, υπάρχει υψηλός βαθμός αμφισημίας, πολυπλοκότητας ή λεπτών διαφοροποιήσεων ως προς την εφαρμογή των πολιτικών για ένα στοιχείο περιεχομένου, οι ελεγκτές τείνουν να λαμβάνουν καλύτερες αποφάσεις από την τεχνολογία.