Η προσέγγισή μας σε σχέση με επικίνδυνες οργανώσεις και επικίνδυνα άτομα
ΕΝΗΜΕΡΩΘΗΚΕ 11 Νοε 2024
Ομάδες ή άτομα που προωθούν τη βία, το οργανωμένο έγκλημα, το μίσος ή την τρομοκρατία δεν έχουν καμία θέση στην πλατφόρμα μας. Μετά από πολυετείς προσπάθειες έχουμε αναπτύξει, και συνεχίζουμε να αναπτύσσουμε, πολιτικές και διαδικασίες σχετικά με επικίνδυνες οργανώσεις και επικίνδυνα άτομα (DOI), ώστε να αντιμετωπίζουμε αυτόν τον τύπο περιεχομένου. Ενώ δεσμευόμαστε να δίνουμε στους χρήστες χώρο ώστε να μπορούν να συζητούν για γεγονότα που συμβαίνουν σε όλο τον κόσμο και επηρεάζουν τις ζωές, τις οικογένειες και τις κοινότητές τους, ο σκοπός της πολιτικής μας είναι να θέσει ένα όριο στο τι επιτρέπεται στις πλατφόρμες μας.
Οι πολιτικές μας είναι σχεδιασμένες με σκοπό την προστασία των πλατφορμών μας
Το Meta διαθέτει μία από τις πιο ολοκληρωμένες πολιτικές στον κλάδο για την αντιμετώπιση τρομοκρατικών οργανώσεων, ομάδων μίσους, οργανωμένων εγκληματικών ομάδων όπως καρτέλ, οντοτήτων υποκίνησης της βίας, και αυτουργών καθορισμένων παράνομων συμβάντων, όπως μαζικών πυροβολισμών ή τρομοκρατικών επιθέσεων.
Στο πλαίσιο αυτής της Πολιτικής σχετικά με επικίνδυνες οργανώσεις και επικίνδυνα άτομα, αποδίδουμε χαρακτηρισμούς και αποκλείουμε τα άτομα και τις οργανώσεις που εμπλέκονται σε τέτοιου είδους δραστηριότητες, και αφαιρούμε το περιεχόμενο εκθειασμού και υποστήριξής τους, όταν το εντοπίζουμε στις πλατφόρμες μας. Επιπλέον, αποδίδουμε χαρακτηρισμούς και αποκλείουμε οντότητες υποκίνησης της βίας, δηλαδή οντότητες που εμπλέκονται σε ενέργειες προετοιμασίας ή υποστήριξης μελλοντικών βίαιων δράσεων, αλλά που δεν έχουν απαραίτητα εμπλακεί σε βίαιες πράξεις μέχρι στιγμής, και αφαιρούμε επίσης το περιεχόμενο εκθειασμού και υποστήριξής τους.
Οι πολιτικές μας είναι δημόσια διαθέσιμες και μπορείτε να διαβάσετε περισσότερες σχετικές λεπτομέρειες στη σελίδα των Όρων της κοινότητας. Επιπρόσθετα, ανά τακτά χρονικά διαστήματα δημοσιεύουμε λεπτομέρειες σχετικά με τον όγκο αυτού του περιεχομένου που αφαιρούμε στην τριμηνιαία έκθεση των Όρων της κοινότητας.
Πώς και γιατί αποδίδουμε αυτούς τους χαρακτηρισμούς
Δεν επιτρέπουμε σε οργανώσεις ή άτομα που διακηρύσσουν κάποια βίαιη αποστολή ή αποστολή έκφρασης μίσους ή που εμπλέκονται σε βίαιες ενέργειες να έχουν παρουσία στις πλατφόρμες του Meta. Αξιολογούμε αυτές τις οντότητες με βάση τη συμπεριφορά τους στο διαδίκτυο και εκτός διαδικτύου, και κυρίως, με βάση τη σχέση τους με τη βία. Στο πλαίσιο αυτής της πολιτικής αποδίδουμε χαρακτηρισμούς σε άτομα, οργανώσεις και δίκτυα ατόμων. Για να διασφαλίσουμε την πιο αποτελεσματική, δίκαιη και συνεπή εφαρμογή της πολιτικής μας, έχουμε χωρίσει αυτούς τους χαρακτηρισμούς σε δύο κατηγορίες. Μπορείτε να διαβάσετε περισσότερα σχετικά με αυτές τις κατηγορίες και τους τύπους των οργανισμών που εμπίπτουν σε κάθε κατηγορία, στους Όρους της κοινότητας.
Ακολουθούμε τη δική μας αξιόπιστη εσωτερική διαδικασία, λαμβάνοντας υπόψη πολλές πηγές πληροφοριών, για να αξιολογούμε τους οργανισμούς και τα άτομα για την απόδοση πιθανών χαρακτηρισμών. Αναπτύσσοντας τους δικούς μας ορισμούς και τη δική μας διαδικασία για την απόδοση χαρακτηρισμών, ανεξαρτήτως θρησκείας ή ιδεολογίας, έχουμε τη δυνατότητα να ακολουθούμε μια αξιόπιστη, δίκαιη και προληπτική προσέγγιση για την προστασία των πλατφορμών μας.
Δεν πρόκειται για μια στατική διαδικασία. Αντιθέτως, αξιολογούμε συνεχώς τους κινδύνους καθώς και τις ομάδες και τα άτομα για την απόδοση χαρακτηρισμών με βάση τη συμπεριφορά τους, τις μεταβαλλόμενες συνθήκες, τις νέες πληροφορίες που αποκτούμε στη διάθεσή μας, τις εσωτερικές αναλύσεις από ειδικούς, και τα δεδομένα που λαμβάνουμε από εξωτερικούς συμβούλους. Για παράδειγμα, όπως ανακοινώσαμε τον Ιανουάριο του 2024, στην περίπτωση που μια χαρακτηρισμένη οργάνωση ή ένα χαρακτηρισμένο άτομο αλλάξει συμπεριφορά, τότε πληροί τις προϋποθέσεις ώστε να αφαιρεθεί από τη λίστα μας. Ειδικότερα, αυτό ισχύει στην περίπτωση οργανισμών ή ατόμων που (1) δεν χαρακτηρίζονται από την κυβέρνηση των ΗΠΑ ως Ειδικά Καθορισμένοι Παράγοντες Εμπορίας Ναρκωτικών (SDNTK), Ξένες Τρομοκρατικές Οργανώσεις (FTO), ή Ειδικά Καθορισμένοι Παγκόσμιοι Τρομοκράτες (SDGT), και (2) δεν εμπλέκονται πλέον σε βίαιες πράξεις ή πράξεις μίσους, και (3) δεν συμβολίζουν τη βία και το μίσος ή δεν χρησιμοποιούνται για την υποκίνηση περαιτέρω βίαιων πράξεων ή για τη διάδοση προπαγάνδας βίας ή μίσους.
Ενώ εκτιμούμε πραγματικά τη διαφάνεια και αξιολογούμε συνεχώς τους πιθανούς συμβιβασμούς, προς το παρόν δεν κοινοποιούμε τις λεπτομέρειες της λίστας χαρακτηρισμών, για να περιορίσουμε κινδύνους ασφάλειας και νομικούς κινδύνους, καθώς και για να αποτρέψουμε αυτούς τους επικίνδυνους παράγοντες από την παράκαμψη των μηχανισμών επιβολής της πολιτικής μας.
Πώς επιβάλουμε την πολιτική μας σχετικά με επικίνδυνες οργανώσεις και επικίνδυνα άτομα
Επενδύουμε σε μεγάλο βαθμό στους ανθρώπους, στην τεχνολογία, στις συνεργασίες και στην έρευνα για την αντιμετώπιση τέτοιου είδους δραστηριοτήτων.
- Τεχνολογία: Η προσέγγισή μας συνίσταται σε έναν συνδυασμό τεχνητής και ανθρώπινης νοημοσύνης. Επίσης, επενδύουμε στην έρευνα και συνεργαζόμαστε με ανεξάρτητους ειδικούς και οργανισμούς για να διατηρούμε αυτό το μεταβαλλόμενο περιβάλλον υπό τον έλεγχό μας. Χρησιμοποιούμε τεχνητή νοημοσύνη για τον εντοπισμό βίντεο, εικόνων, αρχείων ήχου, κειμένων, ακόμα και γραφικών, όπως λογότυπων, και απεικονίσεων βίας. Επίσης, παρέχουμε εργαλεία ανοιχτού κώδικα σε όλα τα μέλη του κλάδου, ώστε να βοηθάμε τους συνεργάτες μας να έχουν πρόσβαση σε τεχνολογικά μέσα για την καταπολέμηση επικίνδυνων οργανώσεων και ατόμων στις δικές τους πλατφόρμες. Για παράδειγμα, τον Δεκέμβριο του 2022, για να διευκολύνουμε κάθε εταιρεία σε όλο τον κλάδο να προστατεύσει την πλατφόρμα της από τη διείσδυση τρομοκρατικού περιεχομένου, προσφέραμε το εργαλείο "Hasher Matcher Actioner" (HMA). Πρόκειται για ένα δωρεάν εργαλείο λογισμικού ανοιχτού κώδικα που βοηθάει τις πλατφόρμες να εντοπίζουν αντίγραφα εικόνων ή βίντεο και να λαμβάνουν συλλογικά μέτρα για την αντιμετώπισή τους.
- Άνθρωποι: Το ευρύτερο πλαίσιο και η γλώσσα συχνά περιπλέκουν το τοπίο, και τα τεχνολογικά μέσα δεν μπορούν πάντα να διακρίνουν τη διαφορά μεταξύ του περιεχομένου εκθειασμού επικίνδυνων οργανώσεων ή ατόμων και της κριτικής που ασκείται υπό συγκεκριμένο πολιτισμικό πρίσμα. Γι' αυτόν τον λόγο, το Meta έχει επενδύσει δισεκατομμύρια δολάρια και απασχολεί σχεδόν 40 χιλιάδες άτομα στον τομέα της ασφάλειας και της προστασίας. Στο πλαίσιο αυτό, έχουμε συγκροτήσει ειδικά για αυτόν τον σκοπό μια πολυσύνθετη ομάδα εκατοντάδων ατόμων με διάφορες εξειδικεύσεις, από ζητήματα επιβολής του νόμου και εθνικής ασφάλειας μέχρι αντιτρομοκρατικές υπηρεσίες πληροφοριών και ακαδημαϊκές σπουδές σχετικά με τη ριζοσπαστικοποίηση.
- Συνεργασίες: Στον βαθμό που υπάρχουν επιβλαβείς δραστηριότητες στον πραγματικό κόσμο, θα υπάρχουν και στο διαδίκτυο, και καμία εταιρεία δεν μπορεί να επιλύσει αυτά τα προβλήματα μόνη της. Γι' αυτό, η ανάπτυξη συνεργασιών με άλλες οντότητες, όπως με εταιρείες, ερευνητές, κυβερνήσεις και με την κοινωνία των πολιτών, είναι ζωτικής σημασίας. Συνεργαζόμαστε με κυβερνήσεις και διακυβερνητικούς φορείς σε όλο τον κόσμο, καθώς και με οργανισμούς που εξειδικεύονται σε ζητήματα τρομοκρατίας, βίαιου εξτρεμισμού, πληροφοριών του κυβερνοχώρου, και ανταγωνιστικής συμπεριφοράς στο διαδίκτυο.
- GIFCT: Το 2017 ενώσαμε τις δυνάμεις μας με το YouTube, τη Microsoft και το Twitter, για να δημιουργήσουμε το Παγκόσμιο Διαδικτυακό Φόρουμ για την Καταπολέμηση της Τρομοκρατίας (GIFCT). Πρόκειται για έναν οργανισμό που συγκροτήθηκε με σκοπό να αποτρέψει τρομοκράτες και βίαιους εξτρεμιστές από τη χρήση ψηφιακών πλατφορμών. Το GIFCT έγινε ανεξάρτητος μη κερδοσκοπικός οργανισμός το 2019 και συντονίζει την αντιμετώπιση κρίσεων και επιθέσεων σε όλο τον κλάδο.
- Διωκτικές αρχές: Όταν αντιλαμβανόμαστε κάποια συγκεκριμένη, επικείμενη και βάσιμη απειλή για ανθρώπινες ζωές, δεν διστάζουμε να ειδοποιήσουμε τις διωκτικές αρχές. Το Meta επίσης συνεργάζεται με τις διωκτικές αρχές για την αντιμετώπιση βίαιων επιθέσεων, αν και πάντα εξετάζουμε προσεκτικά κάθε κυβερνητικό αίτημα που λαμβάνουμε προκειμένου να επιβεβαιώνουμε τη νομική ισχύ και τη συμμόρφωσή του με τα διεθνώς αναγνωρισμένα πρότυπα για τα ανθρώπινα δικαιώματα, συμπεριλαμβανομένων των δικαιωμάτων περί δέουσας διαδικασίας, απορρήτου, ελεύθερης έκφρασης και εφαρμογής των κανόνων δικαίου. Αν διαπιστώσουμε ότι κάποιο αίτημα φαίνεται να είναι ελλιπές ή υπερβολικά γενικό, το απορρίπτουμε. Μπορείτε να διαβάσετε περισσότερες πληροφορίες σχετικά με τη συνεργασία μας με τις διωκτικές αρχές εδώ.
- Ανεξάρτητη έρευνα: Προσλαμβάνουμε ανεξάρτητους ερευνητές από ομάδες προβληματισμού (think tank), ακαδημαϊκούς και μη κερδοσκοπικούς οργανισμούς για τη διερεύνηση διάφορων θεμάτων βίαιου εξτρεμισμού και τρομοκρατικής χρήσης του διαδικτύου, ώστε να βοηθάμε όλα τα μέλη του κλάδου μας να κατανοούν αυτά τα σημαντικά ζητήματα και να σημειώνουν πρόοδο σχετικά με την αντιμετώπισή τους. Το 2022, το Meta ανακοίνωσε μια συνεργασία έρευνας με το Ινστιτούτο Διεθνών Σπουδών του Middlebury (Middlebury Institute of International Studies) και, ειδικότερα, με το Κέντρο για την Τρομοκρατία, τον Εξτρεμισμό, και την Αντιτρομοκρατία (Center on Terrorism, Extremism, and Counterterrorism) με σκοπό την ανάλυση των εξελισσόμενων τάσεων βίαιου εξτρεμισμού και την ανάπτυξη αποτελεσματικών εργαλείων που θα βοηθήσουν τις κοινότητες στην καταπολέμησή του.
- Στρατηγικές διακοπές δικτύου: Αν και τα περισσότερα μέτρα που επιβάλουμε για την καταπολέμηση της τρομοκρατίας και του οργανωμένου μίσους εντάσσονται στη συνήθη διαδικασία αφαίρεσης περιεχομένου, μερικές φορές αυτό δεν αρκεί. Πρόκειται για έναν ανταγωνιστικό χώρο και οι χαρακτηρισμένες επικίνδυνες οντότητες μερικές φορές επιχειρούν να παρακάμψουν τα μέτρα επιβολής μας και να επανασυγκροτήσουν δίκτυα στην πλατφόρμα μας. Για την καταπολέμηση αυτών των δικτύων, ακολουθούμε μια βασική προσέγγιση που λέγεται Στρατηγική διακοπή δικτύου (SND). Η προσέγγιση αυτή μάς επιτρέπει να αφαιρούμε εξ ολοκλήρου ένα δίκτυο ήδη αποκλεισμένων επικίνδυνων παραγόντων είτε κατά την απόδοση χαρακτηρισμών για πρώτη φορά είτε στο πλαίσιο των συνεχών προσπαθειών μας για να αποτρέπουμε τη διείσδυση αυτών των χαρακτηρισμένων ομάδων στην πλατφόρμα μας. Η εξ ολοκλήρου κατάργηση αυτών των συμπλεγμάτων καθιστά πιο δύσκολη την επιστροφή τους στην πλατφόρμα. Επίσης, έτσι καθίσταται σαφές ότι έχουμε αντιληφθεί την παρουσία τους και ότι οι εν λόγω ομάδες δεν είναι ευπρόσδεκτες στις πλατφόρμες μας. Τέλος, αυτή η τεχνική μάς επιτρέπει να εξετάζουμε πώς αυτοί οι επικίνδυνοι παράγοντες μπορεί να προσπαθήσουν να παρακάμψουν τους μηχανισμούς εντοπισμού που εφαρμόζουμε, καθώς και πώς μπορεί να επιχειρήσουν να επιστρέψουν στις εφαρμογές μας, αφού καταργήσουμε τους λογαριασμούς τους.
- Τον Ιούνιο του 2023, το ανεξάρτητο ακαδημαϊκό περιοδικό Proceedings of the National Academy of Sciences (PNAS) δημοσίευσε ένα άρθρο των ερευνητών του Meta Daniel Robert Thomas και Laila A. Wahedi, που εξέταζε την αποτελεσματικότητα της στρατηγικής μας SND για τη διακοπή των δραστηριοτήτων ομάδων μίσους. Διαπιστώσαμε ότι η τακτική αυτή λειτουργεί και μάλιστα, συμβάλλει στη δημιουργία μιας πιο υγιούς και πιο ασφαλούς εμπειρίας για τους χρήστες στις πλατφόρμες μας.
Προληπτικά μέτρα
Στο Meta, είμαστε αφοσιωμένοι στη διατήρηση της ασφάλειας και ακεραιότητας των πλατφορμών μας. Ένας από τους τρόπους που το πετυχαίνουμε αυτό είναι μέσω της έγκαιρης πρόληψης, που περιλαμβάνει τη λήψη προληπτικών μέτρων για την αποτροπή της εξάπλωσης επικίνδυνων παραγόντων πριν μπορέσουν να βλάψουν μεμονωμένους χρήστες ή κοινότητες. Στο πλαίσιο αυτό εντάσσεται η πραγματοποίηση στοχευμένων παρεμβάσεων και η προώθηση του θετικού τρόπου έκφρασης. Πιστεύουμε ότι ο εποικοδομητικός διάλογος είναι ζωτικής σημασίας, και καταβάλλουμε προσπάθειες ώστε να δημιουργήσουμε ένα περιβάλλον που ενθαρρύνει την ανταλλαγή απόψεων.
Προκειμένου να ενισχύσουμε περισσότερο τις προσπάθειές μας αυτές, συνεργαζόμαστε ενεργά με οργανισμούς της κοινωνίας των πολιτών (CSO) που έχουν συγκροτηθεί ειδικά για την αντιμετώπιση του εξτρεμισμού, του οργανωμένου μίσους, και των εγκληματικών δραστηριοτήτων. Υποστηρίζουμε αυτούς τους οργανισμούς ενισχύοντας τις δυνατότητές τους και παρέχοντάς τους τους απαραίτητους πόρους για τη δημιουργία περιεχομένου αντίλογου. Το περιεχόμενο αυτό αμφισβητεί τις εξτρεμιστικές αφηγήσεις και παρέχει εναλλακτικές οπτικές, συμβάλλοντας στην προώθηση ενός πιο θετικού και συμπεριληπτικού διαδικτυακού περιβάλλοντος.
Η προσέγγισή μας για την αντιμετώπιση του εξτρεμισμού είναι πολύπλευρη και προληπτική, καθώς περιλαμβάνει έναν συνδυασμό προληπτικών μέτρων, συνεργασιών και ενεργειών προώθησης του θετικού τρόπου έκφρασης.
- Το The Resiliency Initiative είναι ένα πρόγραμμα για την εκπαίδευση οργανισμών της κοινωνίας των πολιτών στην Ασία, την Αφρική και τις Ηνωμένες Πολιτείες στο πλαίσιο στρατηγικών εκστρατειών αποτροπής και αντιμετώπισης του βίαιου εξτρεμισμού (P/CVE), που ενισχύει τις ικανότητές τους να αναπτύσσουν αποτελεσματικές εκστρατείες ως αντίλογο. Στο πλαίσιο του προγράμματος "The Resiliency Initiative", το Meta ξεκίνησε μια συνεργασία με τον οργανισμό Search for Common Ground (SFCG), με βάση τις ΗΠΑ, για την υποστήριξη κοινοτικών συνεργατών που καταβάλλουν προσπάθειες σε τοπικό επίπεδο για την αντιμετώπιση της βίας και του μίσους, και την ενίσχυση της κοινωνικής και κοινοτικής ανθεκτικότητας.
- Ασφαλέστερες αναζητήσεις: Επίσης, στις κατάλληλες περιπτώσεις, υποδεικνύουμε στους χρήστες συγκεκριμένους πόρους όταν αναζητούν όρους που σχετίζονται με επικίνδυνες οργανώσεις και επικίνδυνα άτομα. Όταν οι χρήστες αναζητούν τέτοιους όρους στο Facebook, το Instagram και το Threads, τους παρέχουμε συγκεκριμένους πόρους που συμβάλλουν στην αποτροπή αναζητήσεων τέτοιου είδους περιεχομένου και στην παροχή εκπαιδευτικού υλικού στους χρήστες.Επίσης, εφαρμόζουμε ένα πρόγραμμα αναζήτησης σε ορισμένες χώρες, όπως στην Αυστραλία, στις Ηνωμένες Πολιτείες, στο Ηνωμένο Βασίλειο, στη Γερμανία, στην Ινδία, στην Ινδονησία και στο Πακιστάν. Αν οι χρήστες αναζητήσουν όρους που είναι συγκεκριμένοι για κάθε αγορά και τυπικά εστιάζουν σε ειδικές επιβλαβείς ενέργειες επικίνδυνων οργανώσεων και ατόμων, τους παρέχουμε πρόσθετες πληροφορίες και πόρους σε συνεργασία με έναν τοπικό οργανισμό της κοινωνίας των πολιτών που εξειδικεύεται στην παροχή υπηρεσιών υποστήριξης σε χρήστες υπό τον κίνδυνο του εξτρεμισμού.
- Παροχή πόρων σε κοινοτικούς οργανισμούς: Επίσης, εφαρμόζουμε ένα πρόγραμμα διαφημίσεων για θέματα ασφάλειας, που αποσκοπεί στην υποστήριξη των συνεργαζόμενων οργανισμών της κοινωνίας των πολιτών για την έγκαιρη πρόληψη επιβλαβών ενεργειών, παρέχοντάς τους διαφημιστικές πιστώσεις και στρατηγική υποστήριξη όταν υλοποιούν προγράμματα αντίλογου. Ενώνοντας τις δυνάμεις μας με αυτούς τους οργανισμούς, επιδιώκουμε να εξελίξουμε τις συνεργασίες μας για την καταπολέμηση επικίνδυνων οργανώσεων και ατόμων.
Πρόκειται για μια συνεχιζόμενη προσπάθεια και γνωρίζουμε ότι στον βαθμό που υπάρχουν επικίνδυνες οργανώσεις και επικίνδυνα άτομα στον πραγματικό κόσμο, θα υπάρχουν και στο διαδίκτυο. Γι' αυτό, πρέπει να παραμένουμε σε εγρήγορση. Οι ομάδες αυτές υιοθετούν νέες τακτικές για να αποφεύγουν τους μηχανισμούς εντοπισμού και επιχειρούν να παρακάμπτουν τις πολικές μας και τα μέτρα που εφαρμόζουμε για την επιβολή τους. Αυτή η ανταγωνιστική συμπεριφορά είναι ο λόγος για τον οποίο καταβάλλουμε συνεχώς προσπάθειες ώστε να είμαστε πάντα ένα βήμα μπροστά, αξιολογώντας και ενημερώνοντας την προσέγγισή μας.