Наш підхід до небезпечних осіб і організацій

ОНОВЛЕНО 11 лист. 2024 р.
На нашій платформі немає місця групам чи окремим особам, які пропагують насильство, організовану злочинність, ненависть чи тероризм. За роки роботи ми розробили й продовжуємо розробляти політику й процеси щодо небезпечних осіб і організацій для боротьби із цим типом контенту. Хоча ми прагнемо надавати людям простір для обговорення подій, що відбуваються у світі та впливають на їхні життя, сім’ї та громади, наша політика визначає, про що на наших платформах заборонено висловлюватися.
policy-image
Наші правила спрямовано на забезпечення безпеки наших платформ
Компанія Meta має один із найбільш комплексних наборів правил у галузі, спрямованих проти терористичних організацій, груп ненависті, організованих злочинних організацій, як-от картелів, суб’єктів, що підбурюють до насильства, й осіб, винних у визначених порушеннях, як-от масових стрілянинах або терористичних атаках.
Відповідно до цієї політики щодо небезпечних осіб й організацій ми визначаємо та блокуємо осіб й організації, що причетні до відповідної діяльності, а також видаляємо контент зі звеличенням і підтримкою цих осіб й організацій, коли нам стає про нього відомо. Ми також визначаємо та блокуємо суб’єктів, що підбурюють до насильства, – суб’єктів, які займаються підготовкою або пропагандою майбутнього насильства, але наразі не обов’язково були залучені до насильницьких дій, а також вилучаємо контент зі звеличенням і підтримкою таких суб’єктів.
Наші правила є загальнодоступними. Ви можете ознайомитися з ними докладніше на нашій сторінці Стандарти спільноти. Крім того, ми регулярно публікуємо відомості про те, скільки такого контенту ми вилучили, у нашому щоквартальному звіті з дотримання стандартів спільноти.
Способи та причини віднесення до особливої категорії
Ми не дозволяємо присутність на платформах Meta організацій або осіб, які проголошують насильницьку чи ненависницьку місію або здійснюють насильницькі дії. Для оцінки цих суб’єктів ми враховуємо їхню поведінку в мережі й поза нею, але перш за все – їхні зв’язки з насильством. У межах цієї політики ми відносимо до особливої категорії осіб, організації та спільноти. Для забезпечення більш ефективного, пропорційного й послідовного забезпечення дотримання правил ми розділили процес віднесення до особливої категорії на два рівні. У наших стандартах спільноти можна прочитати докладніше про ці рівні, а також про типи організацій, що входять до кожного з них.
У нас є власний надійний внутрішній процес, що враховує багато джерел інформації, який ми використовуємо для оцінки організацій та осіб на предмет можливого віднесення до особливої категорії. Розробка власних визначень і процесу віднесення до особливої категорії незалежно від регіону чи ідеології дає нам змогу бути надійними, справедливими й проактивними в захисті наших платформ.
Ця робота не є статичною. Ми постійно аналізуємо ризики й оцінюємо групи й осіб на предмет віднесення до особливої категорії на основі їхньої поведінки, мінливих обставин, нової інформації, внутрішнього експертного аналізу й інформації від зовнішніх зацікавлених сторін. Наприклад, згідно з оголошенням у січні 2024 року, коли організація або особа, віднесена до особливої категорії, змінює свою поведінку, вона також має право на виключення з нашого списку, зокрема, якщо (1) її не віднесено урядом США до категорії Specially Designated Narcotics Trafficking Kingpin (SDNTK); до Іноземної терористичної організації (FTO); або до Списку особливо розшукуваних міжнародних терористів (SDGT); (2) її більше не пов’язано з насильством чи ненавистю; та (3) вона не символізує насильство й ненависть і не використовуються для підбурювання до подальшого насильства чи поширення пропаганди насильства або ненависті.
Хоча ми глибоко цінуємо прозорість і постійно оцінюємо компроміси, зараз ми не ділимося відомостями нашого списку осіб особливої категорії, щоб зменшити безпекові та юридичні ризики й не дати цим небезпечним суб’єктам обійти наші механізми правозастосування.
Як ми діємо проти небезпечних організацій та осіб
Ми інвестуємо значні кошти в людей, технології, партнерства й дослідження, щоб протидіяти діяльності небезпечних осіб й організацій.
  • Технології. У підході до цієї сфери ми застосовуємо поєднання ШІ та людського інтелекту, а також інвестуємо в дослідження та співпрацюємо із зовнішніми експертами й організаціями, щоб бути в курсі подій цього мінливого середовища. Ми використовуємо ШІ для розпізнавання відео, зображень, аудіо, тексту й навіть графіки, наприклад логотипів і зображень насильства. Ми також надаємо відкриті інструменти для використання в усій галузі, щоб допомагати партнерам отримати доступ до технологій для боротьби з небезпечними особами й організаціями на їхніх власних платформах. Наприклад, у грудні 2022 року, щоб допомогти кожній компанії в галузі захистити свої платформи від терористичного контенту, ми зробили доступним «Hasher Matcher Actioner» (HMA) – безкоштовний програмний інструмент із відкритим вихідним кодом, який допомагає платформам виявляти копії зображень або відео й масово вживати заходів проти них.
  • Люди. Контекст і мова часто складні, а технології не завжди можуть відрізнити звеличення небезпечних осіб й організацій від культурно-специфічної критики. Саме тому компанія Meta інвестувала мільярди доларів і має близько 40 тисяч працівників, які працюють над питаннями безпеки й захисту. У межах цього в нас є багатофункціональна команда із сотень людей, які працюють у цій сфері – від правоохоронних органів і національної безпеки до антитерористичної розвідки й наукових досліджень радикалізації.
  • Партнерства. Поки у світі існує шкідлива діяльність, вона буде існувати в Інтернеті, і жодна компанія не може вирішити ці проблеми самостійно. Ось чому партнерство з іншими – компаніями, громадянським суспільством, дослідниками й урядами – має вирішальне значення. Ми співпрацюємо з урядами й міжурядовими установами по всьому світу, а також з організаціями, що мають досвід у боротьбі з тероризмом і войовничим екстремізмом, досвід у кіберрозвідці й роботі із загрозливими діями в Інтернеті.
    • GIFCT. У 2017 році ми об’єднали зусилля з YouTube, Microsoft і Twitter, щоб створити Глобальний інтернет-форум із протидії тероризму (GIFCT) з метою запобігти використанню терористами й войовничими екстремістами цифрових платформ. Форум GIFCT став незалежною неурядовою організацією у 2019 році й координує кризове реагування в галузі у відповідь на атаки.
    • Правоохоронні органи. Коли нам стає відомо про конкретну, неминучу й достовірну загрозу життю людини, ми без вагань повідомляємо про це правоохоронні органи. Компанія Meta також співпрацює з правоохоронними органами щодо нападів із застосуванням насильства, хоча ми завжди ретельно вивчаємо кожен урядовий запит, який отримуємо, щоб переконатися, що він є юридично обґрунтованим і відповідає міжнародно визнаним стандартам прав людини, зокрема належній правовій процедурі, принципам конфіденційності, свободі слова й верховенству права. Якщо ми визначимо, що запит є неповним або надто узагальненим, ми відхиляємо його. Про нашу роботу з правоохоронними органами можна дізнатися тут.
  • Незалежні дослідження. Ми замовляємо незалежні дослідження в аналітичних центрів, науковців і неурядових організацій на різні теми, що стосуються використання Інтернету войовничими екстремістами й терористами, щоб допомогти нашій галузі зрозуміти ці важливі питання та досягти прогресу в їх вирішенні. У 2022 році Meta оголосила про партнерство в галузі досліджень із Центром із питань тероризму, екстремізму й боротьби з тероризмомІнституту міжнародних досліджень Міддлбері, щоб проаналізувати тенденції розвитку войовничого екстремізму й ефективні інструменти, які допомагають громадам боротися з ним.
  • Стратегічний підрив діяльності мережі. Хоча більша частина нашої боротьби з тероризмом й організованою пропагандою ненависті полягає у звичайному видаленні контенту, іноді цього буває недостатньо. Це змагальний простір, і небезпечні суб’єкти, віднесені до особливої категорії, іноді намагаються обійти наші заходи й відновити мережі на нашій платформі. Для боротьби із цими мережами ми використовуємо базовий підхід, який називається Стратегічний підрив діяльності мережі (SND). SND дає нам змогу видалити всю мережу вже заборонених небезпечних осіб й організацій разом, або коли вони вперше потрапляють до списку, або в межах нашої постійної роботи, спрямованої на те, щоб не допустити ці групи на нашу платформу. Деактивація діяльності цих осередків у всій їхній повноті ускладнює їм повернення на платформу. Це також надсилає чіткий сигнал, що ми знаємо про їхню присутність і не вітаємо присутність цих груп на наших платформах. Нарешті, цей метод дає нам змогу вивчити, як ці небезпечні особи й організації можуть намагатися обійти наші технології виявлення, а також як вони можуть намагатися повернутися в наші додатки після того, як ми видалимо їхні облікові записи.
Попереджувальна діяльність
Компанія Meta прагне підтримувати безпеку й цілісність наших платформ. Одним із способів досягнення цієї мети є попереджувальна діяльність, яка передбачає вжиття запобіжних заходів для попередження поширення діяльності небезпечних осіб й організацій до того, як вони встигнуть вкоренитися серед окремих осіб або спільнот. Це включає використання цілеспрямованих втручань і просування позитивних висловлювань. Ми вважаємо, що конструктивний діалог є важливим, і прагнемо створити середовище, яке заохочує такі обміни.
Для подальшого посилення наших зусиль ми активно співпрацюємо з громадськими організаціями, які протидіють екстремізму, організованій пропаганді ненависті й злочинній діяльності. Ми підтримуємо ці організації, розширюючи їхній потенціал і надаючи їм необхідні ресурси для створення контенту, зосередженого на громадському осуді. Цей контент кидає виклик екстремістським наративам і пропонує альтернативні точки зору, сприяючи створенню більш позитивного й інклюзивного онлайн-середовища.
Наш підхід до протидії екстремізму є багатогранним й упереджувальним і передбачає поєднання запобігання, співпраці й просування позитивних висловлювань.
  • «Ініціатива стійкості» – це програма, яка пропонує навчання для громадських організацій з Азії, Африки й Сполучених Штатів Америки щодо стратегій проведення кампаній із запобігання/протидії войовничому екстремізму (P/CVE) і розвиває їхній потенціал для проведення ефективних кампаній із громадського осуду. У межах програми «Ініціатива стійкості» компанія Meta започаткувала партнерство з американською організацією Search for Common Ground (SFCG), щоб підтримати партнерів на рівні громади, які працюють на місцях над протидією насильству на ґрунті ненависті й над розбудовою соціальної та громадської стійкості.
  • Безпечніший пошук. Коли доречно, ми також спрямовуємо людей на відповідні ресурси, коли вони шукають терміни, пов’язані з небезпечними організаціями й особами. Коли користувачі шукають терміни, пов’язані з небезпечними організаціями й особами, у Facebook, Instagram і Threads, натомість їм надаються ресурси, які допомагають запобігти пошуку подібного контенту й містять освітні матеріали.
    Ми також маємо програму пошуку в кількох країнах, зокрема в Австралії, Сполучених Штатах Америки, Сполученому Королівства, Німеччині, Індії, Індонезії та Пакистані. Якщо хтось шукає терміни, притаманні для кожного ринку, і зазвичай зосереджується на певній шкоді від небезпечних осіб й організацій, ми пропонуємо йому додаткову інформацію та ресурси в співпраці з місцевою громадською організацією, яка спеціалізується на послугах підтримки користувачів, яким загрожує екстремізм.
  • Надання ресурсів громадським організаціям. Ми також маємо «Програму безпечної реклами», яка допомагає партнерам-громадським організаціям завчасно запобігати шкоді, надаючи їм кредити на рекламу та стратегічну підтримку, коли вони запускають програми громадського осуду. Співпрацюючи із цими організаціями, ми прагнемо розвивати наше партнерство для боротьби з небезпечними особами й організаціями.
Ця робота триває, і ми розуміємо, що поки у світі існують небезпечні особи й організації, вони існуватимуть і в Інтернеті, тому ми зберігаємо пильність. Ці групи застосовують нову тактику, щоб уникнути виявлення та/або намагаються ухилитися від наших правил і заходів – саме тому ми постійно працюємо над тим, щоб бути на крок попереду, оцінюючи й оновлюючи наш підхід.