Πώς ιεραρχεί το Meta το περιεχόμενο για έλεγχο
ΕΝΗΜΕΡΩΘΗΚΕ 12 Νοε 2024
Σε άλλες περιπτώσεις, το θέμα δεν είναι τόσο απλό. Ίσως η αίσθηση που αποπνέει η δημοσίευση να μην είναι σαφής, η γλώσσα που χρησιμοποιεί να είναι σύνθετη ή η ερμηνεία των εικόνων να εξαρτάται πολύ από το γενικότερο πλαίσιο. Σε αυτές τις περιπτώσεις, πραγματοποιούμε πρόσθετους ελέγχους τους οποίους εκτελούν άνθρωποι.
Παράγοντες ιεράρχησης για τον ανθρώπινο έλεγχο
Για να αποφασίσουμε σε ποιο περιεχόμενο θα δώσει προτεραιότητα η ομάδα ανθρώπινου ελέγχου, λαμβάνουμε υπόψη 3 παραμέτρους:
ΣΟΒΑΡΟΤΗΤΑ
Πόσο πιθανό είναι αυτό το περιεχόμενο να βλάψει κάποιον, είτε online είτε εκτός διαδικτύου;
ΔΙΑΔΟΣΗ
Πόσο γρήγορα κοινοποιείται το συγκεκριμένο περιεχόμενο;
ΠΙΘΑΝΟΤΗΤΑ ΠΑΡΑΒΙΑΣΗΣ
Πόσο πιθανό είναι το εν λόγω περιεχόμενο να παραβιάζει πράγματι τις πολιτικές μας;
Οι ομάδες ανθρώπινου ελέγχου συμβάλλουν στη βελτίωση της τεχνολογίας μας
Οι συγκεκριμένες ομάδες αξιοποιούν την εμπειρία τους σε συγκεκριμένους τομείς και τοπικές παραμέτρους των πολιτικών για να λάβουν δύσκολες αποφάσεις που συχνά έχουν λεπτές νοηματικές αποχρώσεις. Κάθε φορά που η ομάδα ελέγχου παίρνει μια απόφαση, χρησιμοποιούμε αυτές τις πληροφορίες για να εκπαιδεύσουμε την τεχνολογία μας. Με το πέρασμα του χρόνου, μέσα από εκατομμύρια αποφάσεις, η τεχνολογία μας βελτιώνεται, επιτρέποντάς μας να αφαιρούμε περισσότερο παραβατικό περιεχόμενο.
Συνδρομή των ελεγκτών για τη λήψη σωστών αποφάσεων
Η τεχνολογία βοηθάει τις ομάδες ανθρώπινου ελέγχου να κάνουν αυτό που γνωρίζουν καλά
Όπως πολλά μοντέλα μηχανικής μάθησης, η τεχνολογία μας βελτιώνεται με το πέρασμα του χρόνου, καθώς λαμβάνει περισσότερα παραδείγματα παραβατικού περιεχομένου. Αυτό σημαίνει ότι οι ομάδες ανθρώπινου ελέγχου καταφέρνουν να επικεντρώνονται σε περιεχόμενο μεγαλύτερης σοβαρότητας, μεγάλης διάδοσης, με λεπτές αποχρώσεις, πρωτόγνωρο και σύνθετο – ακριβώς δηλαδή στις περιπτώσεις στις οποίες οι άνθρωποι κατά κανόνα παίρνουν καλύτερες αποφάσεις από την τεχνολογία.
Συχνές ερωτήσεις σχετικά με την ιεράρχηση του ελέγχου περιεχομένου
Πώς έχει αλλάξει η ιεράρχηση για την επιβολή των πολιτικών με την πάροδο του χρόνου;
Παλιότερα, οι ομάδες ανθρώπινου ελέγχου ξόδευαν το μεγαλύτερο μέρος του χρόνου τους ελέγχοντας περιεχόμενο για το οποίο είχαν υποβάλει αναφορά οι χρήστες. Αυτό σήμαινε ότι συχνά ξόδευαν υπερβολικά πολύ χρόνο σε περιεχόμενο χαμηλής σοβαρότητας ή σε περιεχόμενο που σαφώς δεν παραβίαζε τις πολιτικές μας, και όχι επαρκή χρόνο στο περιεχόμενο με τη μεγαλύτερη σοβαρότητα και τη μεγαλύτερη πιθανότητα για επιβλαβείς συνέπειες. Επίσης, σήμαινε ότι οι ανθρώπινες αποφάσεις δεν ήταν ιδιαίτερα χρήσιμες για τη βελτίωση της τεχνολογίας επιβολής.
Η τωρινή μας προσέγγιση όσον αφορά την ιεράρχηση αντιμετωπίζει αυτά τα ζητήματα και μας επιτρέπει να ελέγχουμε κατά προτεραιότητα το περιεχόμενο που είναι πιο πιθανό να είναι επιβλαβές και να βελτιώνουμε την τεχνολογία μας πιο γρήγορα.
Οι ομάδες ανθρώπινου ελέγχου ελέγχουν όλες τις αναφορές που υποβάλλουν οι χρήστες;
Όχι απαραίτητα. Τόσο οι ομάδες ανθρώπινου ελέγχου όσο και η τεχνολογία παίζουν τον ρόλο τους στον έλεγχο των αναφορών που υποβάλλουν οι χρήστες. Στις περιπτώσεις στις οποίες η τεχνολογία μας μπορεί να αναλύσει ένα συγκεκριμένο περιεχόμενο, προχωράει αμέσως σε ενέργειες (ή δεν κάνει καμία ενέργεια).
Πώς διασφαλίζετε ότι οι ανθρώπινες αποφάσεις δεν εισάγουν προκαταλήψεις στην τεχνολογία;
Στο πλαίσιο των προσπαθειών μας σε αυτόν τον τομέα, έχουμε δημιουργήσει την ομάδα υπεύθυνης τεχνητής νοημοσύνης, μια πολυεπιστημονική ομάδα ειδικών σε θέματα ηθικής, κοινωνικών και πολιτικών επιστημόνων, ειδικών σε θέματα πολιτικής, ερευνητών και μηχανικών τεχνητής νοημοσύνης, η οποία επικεντρώνεται στα ζητήματα δικαιοσύνης και ίσης συμμετοχής που σχετίζονται με την εφαρμογή της τεχνητής νοημοσύνης στις τεχνολογίες του Meta. Απώτερος σκοπός της ομάδας είναι η ανάπτυξη κατευθυντήριων γραμμών, εργαλείων και διαδικασιών για την αντιμετώπιση των ζητημάτων που σχετίζονται με την ευθύνη στην τεχνητή νοημοσύνη και τη διασφάλιση ότι αυτοί οι συστημικοί πόροι είναι ευρέως διαθέσιμοι στο Meta.