Πώς λειτουργεί η τεχνολογία επιβολής
ΕΝΗΜΕΡΩΘΗΚΕ 12 Νοε 2024
Δημιουργία μοντέλων και προβλέψεις
Η διαδικασία ξεκινά με τις ομάδες τεχνητής νοημοσύνης. Δημιουργούν μοντέλα μηχανικής μάθησης που μπορούν να εκτελούν συγκεκριμένες εργασίες, όπως να αναγνωρίζουν τι υπάρχει σε μια φωτογραφία ή να καταλαβαίνουν τη σημασία του κειμένου. Στη συνέχεια, οι ομάδες ακεραιότητας, οι οποίες είναι υπεύθυνες για την κλιμάκωση του εντοπισμού παραβιάσεων και της επιβολής των πολιτικών μας, αναπτύσσουν περαιτέρω αυτά τα μοντέλα ώστε να δημιουργήσουν πιο συγκεκριμένα μοντέλα που κάνουν προβλέψεις για τους χρήστες και το περιεχόμενο. Αυτές οι προβλέψεις συμβάλλουν στην επιβολή των πολιτικών μας.
Για παράδειγμα, ένα μοντέλο τεχνητής νοημοσύνης προβλέπει αν ένα στοιχείο περιεχομένου περιλαμβάνει εκφράσεις μίσους ή βίαιο και σκληρό περιεχόμενο. Ένα άλλο σύστημα, η λεγόμενη τεχνολογία επιβολής, προσδιορίζει αν θα γίνει κάποια ενέργεια, όπως διαγραφή, υποβάθμιση ή αποστολή του περιεχομένου σε ομάδα ανθρώπινου ελέγχου για περαιτέρω έλεγχο.
Εκμάθηση μέσω επανάληψης, επαλήθευση από ανθρώπους
Όταν ξεκινάμε να αναπτύσσουμε μια νέα τεχνολογία για την επιβολή των πολιτικών περιεχομένου, την εκπαιδεύουμε ώστε να αναζητά συγκεκριμένα σήματα. Για παράδειγμα, ορισμένες τεχνολογίες αναζητούν γυμνό περιεχόμενο στις φωτογραφίες, ενώ άλλες μαθαίνουν να κατανοούν το κείμενο. Στην αρχή, ένας νέος τύπος τεχνολογίας μπορεί να μην είναι σε θέση να προσδιορίσει με βεβαιότητα αν κάποιο στοιχείο περιεχομένου παραβιάζει τις πολιτικές μας.
Σε αυτήν την περίπτωση, η τελική απόφαση λαμβάνεται από τις ομάδες ελέγχου και η τεχνολογία μας μαθαίνει από κάθε ανθρώπινη απόφαση. Με τον καιρό, αφού θα έχει μάθει από χιλιάδες ανθρώπινες αποφάσεις, η τεχνολογία γίνεται πιο ακριβής.
Ακόμη, με τον καιρό εξελίσσονται και οι πολιτικές μας ώστε να συμβαδίζουν με τις αλλαγές στα προϊόντα μας, τις κοινωνικές νόρμες και τη γλώσσα. Κατά συνέπεια, η εκπαίδευση της τεχνολογίας και των ομάδων ελέγχου είναι μια σταδιακή και επαναλαμβανόμενη διαδικασία.
Εντοπισμός επαναλαμβανόμενων παραβιάσεωνΗ τεχνολογία είναι πολύ καλή στο να εντοπίζει το ίδιο περιεχόμενο ξανά και ξανά, εκατομμύρια φορές, αν είναι απαραίτητο. Η τεχνολογία μας προβαίνει σε ενέργειες για κάθε νέο στοιχείο περιεχομένου που ταιριάζει ή είναι παρόμοιο με κάποιο άλλο στοιχείο παραβατικού περιεχομένου. Αυτό είναι ιδιαίτερα χρήσιμο για viral εκστρατείες παραπληροφόρησης, meme και άλλο περιεχόμενο που μπορεί να εξαπλωθεί εξαιρετικά γρήγορα.
Λεπτές διαφοροποιήσεις
Η τεχνολογία μπορεί να βρει και να αφαιρέσει το ίδιο περιεχόμενο ξανά και ξανά. Ωστόσο, είναι πολύ δύσκολο μια μηχανή να μάθει τις λεπτές διαφορές στην επιλογή των λέξεων ή πώς οι μικρές διαφορές μπορεί να αλλάζουν το συγκείμενο.
Η πρώτη εικόνα δείχνει το πρωτότυπο στοιχείο παραπλανητικού περιεχομένου, το οποίο περιλαμβάνει λανθασμένες πληροφορίες για ένα θέμα ασφάλειας σχετικά με τη δημόσια υγεία.
Η δεύτερη εικόνα δείχνει ένα στιγμιότυπο οθόνης της πρώτης εικόνας, αλλά αυτή τη φορά με τη γραμμή μενού του υπολογιστή στο πάνω μέρος.
Τέλος, η τρίτη εικόνα είναι εξαιρετικά παρόμοια με την πρώτη και τη δεύτερη, αλλά έχει 2 μικρές αλλαγές λέξεων που κάνουν τον τίτλο να είναι ακριβής και όχι πλέον ψευδής.
Αυτό γίνεται πολύ εύκολα κατανοητό από έναν άνθρωπο, αλλά όχι και από την τεχνολογία. Υπάρχει ο κίνδυνος λάθους προς οποιαδήποτε κατεύθυνση. Αν η τεχνολογία είναι πολύ επιθετική, θα αφαιρεί εκατομμύρια μη παραβατικές δημοσιεύσεις. Αν, ωστόσο, δεν είναι αρκετά επιθετική, θα νομίζει ότι το στιγμιότυπο οθόνης με τη γραμμή μενού είναι διαφορετικό από το πρωτότυπο και δεν θα προβεί σε κάποια ενέργεια για το περιεχόμενο.
Αφιερώνουμε πολύ χρόνο σε αυτό το ζήτημα. Τα τελευταία χρόνια κάναμε αρκετές επενδύσεις προκειμένου να βοηθήσουμε την τεχνολογία μας να βελτιωθεί στον εντοπισμό των λεπτών διαφοροποιήσεων του περιεχομένου. Και, καθώς συνεχίζει να μαθαίνει, γίνεται ολοένα και πιο ακριβής κάθε μέρα.
