Xét duyệt chính xác nội dung có tác động lớn thông qua hệ thống kiểm tra chéo
NGÀY CẬP NHẬT 12 THáNG 11, 2024
Vào ngày 06/12/2022, Ủy ban Giám sát đã đăng ý kiến tư vấn về chính sách (PAO) liên quan đến các chính sách Kiểm tra chéo của Meta. Để giải quyết toàn bộ số lượng đề xuất, chúng tôi đã đồng ý với Ủy ban sẽ xét duyệt và phản hồi trong vòng 90 ngày. Để tìm hiểu thêm về hệ thống kiểm tra chéo, hãy truy cập vào bài viết trên Trung tâm minh bạch của chúng tôi.
Tổng quan về hệ thống kiểm tra chéo
Người dùng Facebook và Instagram tạo hàng tỷ nội dung mỗi ngày. Việc kiểm duyệt nội dung với quy mô này đưa ra những thách thức, bao gồm cả sự đánh đổi giữa các giá trị và mục tiêu quan trọng. Chúng tôi tìm cách nhanh chóng xét duyệt nội dung có khả năng vi phạm và gỡ nội dung đó nếu vi phạm chính sách của mình. Nhưng chúng tôi phải cân bằng mục tiêu này với nguy cơ "phát hiện nhầm" (gỡ nhầm nội dung không vi phạm) để bảo vệ tiếng nói của người dùng. (Ở đây, chúng tôi đề cập đến việc "gỡ" nội dung mà chúng tôi đang sử dụng để mô tả các hành động liêm chính một cách tổng quan hơn. Những điều này cũng có thể bao gồm, ví dụ việc sử dụng màn hình cảnh báo hoặc gỡ các trang.)
Để cân bằng những cân nhắc này, Meta đã triển khai hệ thống kiểm tra chéo để xác định nội dung có nguy cơ phát hiện nhầm cao hơn và cung cấp các cấp độ xét duyệt bổ sung để giảm thiểu rủi ro đó. Kiểm tra chéo cung cấp các cấp độ xét duyệt bổ sung đối với một số nội dung nhất định mà hệ thống nội bộ của chúng tôi gắn cờ là vi phạm (thông qua quy trình tự động hóa hoặc chuyên viên xét duyệt), với mục tiêu ngăn ngừa hoặc giảm thiểu các lỗi kiểm duyệt với nguy cơ phát hiện nhầm cao nhất có thể xảy ra do nhiều yếu tố, chẳng hạn như cần phải hiểu sắc thái hoặc ngữ cảnh. (Ở đây, chúng tôi đề cập đến "nội dung" được xét duyệt thông qua hệ thống kiểm tra chéo của mình. Chúng tôi cũng sử dụng hệ thống này để xét duyệt các hành động khác như gỡ trang hoặc trang cá nhân.) Trong khi hệ thống kiểm tra chéo cung cấp các cấp độ xét duyệt bổ sung, người xét duyệt áp dụng các Tiêu chuẩn cộng đồng tương tự cho mọi nội dung khác trên Facebook hoặc Instagram.
Hệ thống kiểm tra chéo đóng vai trò quan trọng góp phần bảo vệ nhân quyền. Ví dụ: Hệ thống kiểm tra chéo bao gồm các thực thể và bài đăng của các nhà báo đưa tin từ các khu vực xung đột và các nhà lãnh đạo cộng đồng nâng cao nhận thức về các trường hợp thù ghét hoặc bạo lực. Xét duyệt kiểm tra chéo có tính đến ngữ cảnh có ích trong việc xử lý nội dung này một cách chính xác. Xét duyệt kiểm tra chéo cũng có thể áp dụng cho tổ chức dân sự có những người dùng quan tâm nhiều đến phát ngôn của các nhà lãnh đạo.
Ngoài ra, kiểm tra chéo đóng một vai trò quan trọng trong việc quản lý các mối quan hệ của Meta với nhiều đối tác kinh doanh của chúng tôi. Ví dụ: Nếu gỡ không chính xác nội dung trên một trang hoặc trang cá nhân có nhiều người theo dõi, có thể dẫn đến trải nghiệm tiêu cực cho cả các đối tác kinh doanh của Meta và số lượng lớn người dùng đang theo dõi họ. Chúng tôi cũng áp dụng kiểm tra chéo cho một số Nhóm rất lớn vì một lỗi tại đó có thể ảnh hưởng đến hàng trăm nghìn hoặc hàng triệu người dùng. Kiểm tra chéo không miễn cho các đối tác kinh doanh của Meta hoặc Nhóm khỏi việc tuân thủ các chính sách nội dung của chúng tôi, nhưng đôi khi hệ thống này cung cấp các cấp độ xét duyệt bổ sung để đảm bảo áp dụng chính xác chính sách.
Người dùng Facebook và Instagram đăng hàng tỷ nội dung mỗi ngày. Ngay cả có hàng nghìn người xét duyệt chuyên trách trên khắp thế giới, chúng tôi vẫn không thể xét duyệt thủ công từng phần nội dung có khả năng vi phạm Tiêu chuẩn cộng đồng. Phần lớn nội dung vi phạm bị gỡ là do công nghệ của chúng tôi chủ động phát hiện trước khi có người báo cáo. Khi ai đó đăng lên Facebook hoặc Instagram, công nghệ của chúng tôi kiểm tra để biết nội dung đó có vi phạm Tiêu chuẩn cộng đồng hay không. Trong nhiều trường hợp, việc xác định khá đơn giản. Bài viết hoặc vi phạm rõ ràng chính sách của chúng tôi hoặc không vi phạm. Nhưng trong các trường hợp khác, nội dung được chuyển đến người xét duyệt để đánh giá thêm.
Hệ thống xét duyệt chính của chúng tôi sử dụng công nghệ để ưu tiên nội dung có mức độ nghiêm trọng cao, bao gồm nội dung có sức lan truyền nhanh chóng. Khi hệ thống gắn cờ nội dung để báo cáo, những người xét duyệt của chúng tôi đưa ra những quyết định khó khăn thường dựa trên các phán đoán nhạy bén về việc liệu có nên tiếp tục để nội dung trên nền tảng hay không. Mặc dù chúng tôi luôn hướng tới việc đưa ra các quyết định đúng đắn, nhưng chúng tôi nhận thấy rằng các trường hợp phát hiện nhầm vẫn xảy ra và một số nội dung được cho là bị gỡ do vi phạm các chính sách của Meta trong khi thực tế thì không. Do đó, Meta đã đầu tư vào việc ngăn chặn để xét duyệt thêm và giảm thiểu các trường hợp phát hiện nhầm. Kiểm tra chéo là một trong những chiến lược ngăn ngừa sai lầm này.
Kiểm tra chéo là một hệ thống được dùng để giúp đảm bảo rằng các quyết định thực thi được đưa ra một cách chính xác và với các mức độ xét duyệt bổ sung của người xét duyệt. Nếu trong quá trình kiểm tra chéo, người xét duyệt xác nhận rằng nội dung vi phạm Tiêu chuẩn cộng đồng của chúng tôi, chúng tôi sẽ thực thi các chính sách đó và giải quyết nội dung vi phạm cho phù hợp. Tùy thuộc vào mức độ phức tạp của nội dung, chúng tôi có thể áp dụng nhiều cấp độ xét duyệt, bao gồm cả một số trường hợp hiếm hoi được lãnh đạo xét duyệt. Nếu người xét duyệt cuối cùng xác định rằng nội dung đang được đề cập không vi phạm Tiêu chuẩn cộng đồng của chúng tôi, người xét duyệt có thể "hủy bỏ" hành động ban đầu và để nội dung đó trên nền tảng.
Phương thức kiểm tra chéo trước đây
Lần đầu tiên chúng tôi triển khai hệ thống được gọi là kiểm tra chéo vào năm 2013. Các chi tiết của hệ thống đã phát triển qua nhiều năm và chúng tôi đã cung cấp ngày tháng và khoảng ngày giải thích thời điểm những thay đổi này xảy ra (nếu có thể).
Để xác định nội dung hoặc thực thể nào nhận được xét duyệt kiểm tra chéo, đội ngũ của chúng tôi đã xác định và biên soạn danh sách người dùng hoặc thực thể được coi là có rủi ro liên quan cao hơn với phát hiện nhầm chống lại họ. "Rủi ro phát hiện nhầm" đề cập đến nguy cơ thực thi không chính xác đối với nội dung hoặc thực thể không thực sự vi phạm Tiêu chuẩn cộng đồng của chúng tôi. Để xác định người dùng và thực thể nào có nguy cơ phát hiện nhầm cao hơn, đội ngũ của chúng tôi đã áp dụng nhiều tiêu chí khác nhau, bao gồm loại người dùng hoặc thực thể (ví dụ: một viên chức được bầu, nhà báo, đối tác kinh doanh quan trọng, tổ chức nhân quyền), số người theo dõi và chủ đề của thực thể. (Thực thể là một thuật ngữ chung cho nơi nội dung có thể bắt nguồn hoặc xuất hiện, chẳng hạn như tài khoản người dùng, trang hoặc nhóm.)
Khi người dùng hoặc thực thể được xác định trong các danh sách đó đã đăng nội dung hoặc thực hiện các hành động mà hệ thống của chúng tôi gắn cờ là có khả năng vi phạm chính sách của chúng tôi, chúng tôi sẽ thêm nội dung hoặc thực thể vào hàng đợi để xét duyệt kiểm tra chéo.
Bắt đầu từ năm 2020, chúng tôi đã thực hiện các thay đổi để hầu hết nội dung trong hàng đợi được ưu tiên sử dụng khung rủi ro, khung này chỉ định mức độ rủi ro phát hiện nhầm có thể xảy ra nếu Meta gỡ nội dung đó không chính xác. Khung rủi ro này thường dựa trên ba yếu tố: (1) mức độ nhạy cảm của thực thể, (2) mức độ nghiêm trọng của hành vi vi phạm bị cáo buộc và (3) mức độ nghiêm trọng của biện pháp thực thi tiềm năng.
Phương thức kiểm tra chéo hiện tại
Như với tất cả chính sách và quy trình của mình, chúng tôi không ngừng tìm cách cải thiện và thực hiện các thay đổi. Đầu năm nay, chúng tôi đã xác định những cơ hội khác để cải thiện hệ thống kiểm tra chéo. Một sự thay đổi về cấu trúc mà chúng tôi đã thực hiện là hệ thống kiểm tra chéo hiện bao gồm 2 thành phần: Xét duyệt thứ cấp chung (GSR) và Xét duyệt thứ cấp thực thể nhạy cảm (SSR). Mặc dù chúng tôi sẽ tiếp tục sử dụng phương pháp dựa trên danh sách được mô tả ở trên để đưa vào SSR một tỷ lệ phần trăm người dùng và thực thể nhất định, nhưng với GSR, chúng tôi đang trong quá trình đảm bảo nội dung từ tất cả người dùng cũng như thực thể trên Facebook và Instagram đều đủ điều kiện xét duyệt kiểm tra chéo dựa trên một hệ thống ưu tiên động có tên là "bộ xếp hạng kiểm tra chéo".
GSR liên quan đến người xét duyệt theo hợp đồng và những người thuộc đội ngũ tại khu vực của chúng tôi (tiến hành xét duyệt thứ cấp nội dung) cũng như các thực thể có thể vi phạm chính sách mà chúng tôi đặt ra trước khi biện pháp thực thi được áp dụng. Quá trình xét duyệt này không chỉ dựa vào danh tính của người dùng hoặc thực thể để xác định nội dung nào được xét duyệt kiểm tra chéo. Bộ xếp hạng kiểm tra chéo xếp hạng nội dung dựa trên nguy cơ phát hiện nhầm bằng cách sử dụng các tiêu chí như độ nhạy cảm của chủ đề (xu hướng/chủ đề nhạy cảm như thế nào), mức độ nghiêm trọng của việc thực thi (mức độ nghiêm trọng của hành động thực thi tiềm ẩn), xác suất phát hiện nhầm, dự đoán phạm vi tiếp cận và độ nhạy cảm của thực thể (phần lớn dựa trên các danh sách đã tổng hợp, được mô tả ở trên). Bộ xếp hạng kiểm tra chéo đã được sử dụng cho phần lớn các quá trình xét duyệt kiểm tra chéo hiện nay.
SSR tương tự như hệ thống kiểm tra chéo cũ. Để xác định nội dung hoặc thực thể nào được SSR, chúng tôi tiếp tục duy trì danh sách người dùng và thực thể có biện pháp thực thi được xét duyệt kiểm tra chéo bổ sung nếu bị gắn cờ là có khả năng vi phạm Tiêu chuẩn cộng đồng. Tuy nhiên, chúng tôi đã bổ sung các lựa chọn kiểm soát vào quá trình biên soạn và sửa đổi những danh sách này. Trước tháng 09/2020, hầu hết nhân viên có khả năng thêm người dùng hoặc thực thể vào danh sách kiểm tra chéo. Sau tháng 09/2020, mặc dù bất kỳ nhân viên nào cũng có thể yêu cầu thêm người dùng hoặc thực thể vào danh sách kiểm tra chéo, nhưng chỉ một đội ngũ nhân viên được chỉ định mới có quyền bổ sung vào danh sách này.
Hiện tại, tổ chức Vận hành trên toàn cầu chịu trách nhiệm quản lý danh sách SSR, với sự hỗ trợ của các đội ngũ Pháp lý và Quan hệ đối tác có kinh nghiệm cũng như kiến thức chuyên môn. Mặc dù cấu trúc báo cáo của đội ngũ Vận hành trên toàn cầu tách biệt với đội ngũ Chính sách công khai của Meta, nhưng đội ngũ Chính sách công khai được tham vấn để đưa ra các quyết định kiểm tra chéo vì họ thuộc nhiều lĩnh vực kiểm duyệt nội dung trong toàn công ty. Trong những trường hợp này, đội ngũ Vận hành có thể tận dụng chuyên môn từ đội ngũ Chính sách công của Meta, kết hợp với các chuyên gia và người xét duyệt chuyên biệt theo ngôn ngữ trong khu vực để cải thiện góc nhìn về địa phương và văn hóa. Các cấu trúc báo cáo tách biệt góp phần đảm bảo quá trình xét duyệt không bị ảnh hưởng bởi yếu tố chính trị hoặc kinh tế. Để duy trì danh sách liên quan và phù hợp, chúng tôi cũng đã phát triển một quy trình xét duyệt cẩn trọng hàng năm để kiểm tra xem các thực thể trong danh sách SSR còn đủ điều kiện hay không. Chúng tôi sẽ liên tục tinh chỉnh quy trình này theo thời gian.
Trong những tháng mới đây, Meta xét duyệt trung bình vài nghìn công việc được kiểm tra chéo mỗi ngày, với phần lớn được hoàn thành trong GSR. (So với hàng triệu nội dung bị gắn cờ và xử lý do vi phạm Tiêu chuẩn cộng đồng của chúng tôi hàng ngày thì đây là một tỷ lệ nhỏ.) SSR hiện chiếm phần nhỏ trong các công việc xét duyệt hàng ngày này. Chúng tôi dự đoán số lượng công việc xét duyệt kiểm tra chéo sẽ tiếp tục thay đổi. Đây là kết quả của việc ưu tiên GSR đến cuối năm 2021 và sang năm 2022.
Nếu nội dung là của một cá nhân hoặc thực thể áp dụng SSR thì thông thường, đội ngũ tại khu vực sẽ xét duyệt trước tiên. Sau đó, đội ngũ xem xét thêm sẽ xét duyệt để xác nhận liệu nội dung có vi phạm hay không. Nhìn chung, nếu đội ngũ tại khu vực nhận thấy rằng nội dung không vi phạm chính sách của chúng tôi, đội ngũ xem xét thêm sẽ không xét duyệt. Nếu nội dung là của một cá nhân hoặc thực thể được bộ xếp hạng kiểm tra chéo ưu tiên thì thông thường, các nhà thầu hoặc đội ngũ tại khu vực sẽ xét duyệt, trừ khi đội ngũ xem xét thêm có thêm khả năng xét duyệt. Giống như hệ thống kiểm tra chéo cũ, các vấn đề rất phức tạp có thể được xét duyệt bổ sung, bao gồm cả một số trường hợp hiếm hoi được lãnh đạo xét duyệt. Nếu quá trình xét duyệt cuối cùng phát hiện thấy nội dung vi phạm Tiêu chuẩn cộng đồng của chúng tôi, chúng tôi sẽ gỡ nội dung đó. Nếu quá trình xét duyệt của chúng tôi nhận thấy rằng nội dung không vi phạm, chúng tôi sẽ để lại nội dung.
Kể từ ngày 16/10/2021, khoảng 660.000 người dùng và thực thể có các hành động yêu cầu áp dụng hình thức SSR nào đó dựa trên việc đưa vào các danh sách được mô tả ở trên. Con số này thường xuyên thay đổi khi chúng tôi thêm hoặc xóa người dùng và thực thể trong các danh sách được mô tả ở trên dựa vào những tiêu chí vẫn đang trong quá trình hoàn thiện. Ví dụ về người dùng và thực thể đủ điều kiện SSR bao gồm nhưng không giới hạn ở:
- Các thực thể liên quan đến phản hồi báo cáo hoặc sự kiện có rủi ro cao. Chúng tôi đang áp dụng một quy trình không chính thức mà theo đó, các đội ngũ chuẩn bị cho một sự kiện có rủi ro lớn sẽ xác định những thực thể có nguy cơ cao bị thực thi quá mức. Ví dụ: nếu nội dung gây tranh cãi của người dùng đang lan truyền mạnh mẽ (chẳng hạn như video trực tiếp về hành vi bạo lực của cảnh sát), chúng tôi có thể sẽ xác định rằng cần áp dụng quy trình SSR với người dùng đó để tránh gỡ nhầm.
- Các thực thể được đưa vào để đảm bảo tuân thủ pháp luật. Chúng tôi sử dụng SSR trong một số trường hợp để tuân thủ các yêu cầu pháp lý hoặc theo quy định.
- Nhà phát hành và người của công chúng có mức độ hiển thị cao. Chúng tôi xác định các thực thể cần được SSR vì việc thực thi quá mức có thể khiến nhiều người dùng gặp phải trải nghiệm tiêu cực.
- Các nhóm yếu thế. Chúng tôi xác định các nhà hoạt động nhân quyền, người bất đồng chính trị và những người khác mà chúng tôi tin rằng có thể bị nhắm mục tiêu bởi hành vi quấy rối mang tính đối kháng, chia bè kéo phái hoặc báo cáo hàng loạt do nhà nước bảo trợ để bảo vệ chống lại những cuộc tấn công này.
- Các tổ chức dân sự. Chúng tôi tuân theo những tiêu chí khách quan và chuyên môn của các đội ngũ chính sách tại khu vực để xác định những chính trị gia, viên chức, thiết chế, tổ chức, nhóm vận động và người có tầm ảnh hưởng đến công chúng. Chúng tôi đưa các thực thể này vào SSR nhằm ngăn chặn những sai lầm có thể hạn chế phát ngôn mang tính chính trị không vi phạm và vô tình tác động đến cuộc thảo luận về những chủ đề dân sự như bầu cử, chính sách công và các vấn đề xã hội. Chúng tôi muốn đảm bảo sự công bằng giữa các tổ chức dân sự của một quốc gia. Chẳng hạn, nếu đưa nội các chính phủ vào SSR, chúng tôi sẽ đưa tất cả các bộ thuộc chính phủ của quốc gia đó vào SSR.
- Doanh nghiệp. Chúng tôi xác định những nhà quảng cáo có giá trị cao cũng như nhà quảng cáo từng chịu biện pháp thực thi quá mức để đảm bảo doanh thu và gây dựng uy tín lâu dài đối với nền tảng của chúng tôi.
Chúng tôi đang xem xét cách cải thiện tiêu chí để xác định các thực thể sẽ được SSR. Chẳng hạn, chúng tôi đang tìm hiểu việc phát triển các tiêu chí trong những khía cạnh như số người theo dõi, số lần thực thi nhầm trước đây, yêu cầu pháp lý/theo quy định, cũng như các vấn đề chính trị/xã hội quan trọng. Người dùng có thể sử dụng mẫu này để yêu cầu không đưa họ vào danh sách SSR. Meta không xác nhận liệu người dùng có tên trong hoặc đã bị xóa khỏi danh sách dạng này hay không. Tuy nhiên, chúng tôi rất tin tưởng vào quyền tự quyết của người dùng và sẽ xem xét từng yêu cầu trong thời gian sớm nhất có thể.
Ngoài 2 thành phần trong hệ thống kiểm tra chéo, chúng tôi còn có hệ thống ngăn ngừa sai lầm nội bộ gọi là Xét duyệt linh động nhiều lần (DMR). Hệ thống này cho phép chúng tôi gửi lại các trường hợp đã xét duyệt để xét duyệt lại nhằm lấy được biểu quyết của đa số về một quyết định (ví dụ: nếu phần đông người xét duyệt đồng ý với quyết định đó, chúng tôi sẽ đóng trường hợp). Như vậy, chúng tôi sẽ tự tin hơn về độ chính xác. Chúng tôi sử dụng hệ thống này để cải thiện chất lượng cũng như độ chính xác của phương pháp xét duyệt bằng con người, đồng thời giảm thiểu nguy cơ đưa ra các quyết định không chính xác bằng việc điều chỉnh số lần xét duyệt bắt buộc đối với quyết định cuối cùng dựa trên một số yếu tố khác như mức độ lan truyền, lượt xem và khả năng góp phần gây hại (ví dụ: những trường hợp có thể vi phạm các chính sách của chúng tôi về Bóc lột tình dục hoặc Cá nhân và tổ chức nguy hiểm).
Các biện pháp can thiệp trong tương lai đến tính minh bạch của hệ thống kiểm tra chéo
Để đáp lại quyết định đưa ra vào tháng 12/2022 của Ủy ban Giám sát liên quan đến việc giới thiệu lời khuyên về chính sách kiểm tra chéo, chúng tôi cũng cam kết thực hiện một loạt các biện pháp can thiệp đến tính minh bạch của việc ngăn ngừa sai lầm. Các biện pháp can thiệp này bao gồm:
- Tương tác mạnh mẽ và theo cấu trúc với các đội ngũ nội bộ phụ trách về Nhân quyền và Dân quyền, Đối tác tin cậy cũng như những tổ chức xã hội dân sự bên ngoài khác nhằm tìm ra cách cung cấp thông tin về tiêu chí mà chúng tôi dùng để xác định các thực thể phục vụ lợi ích cộng đồng sẽ được đưa vào danh sách kiểm tra chéo.
- Khám phá quy trình đề xuất danh sách kiểm tra chéo chính thức hơn từ các nhóm xã hội dân sự trên toàn cầu, trong khu vực và tại địa phương.
- Đầu tư vào các nguồn lực xét duyệt và đào tạo có chất lượng khi chúng tôi chuyển sang bố trí mọi quyết định kiểm tra chéo cho những người xét duyệt nói ngôn ngữ đó và có chuyên môn tại khu vực bất cứ khi nào có thể.
- Triển khai Thỏa thuận cấp độ dịch vụ (SLA) rõ ràng đối với quyết định xét duyệt trên các hệ thống ngăn ngừa sai lầm, từ đó tối ưu hóa mô hình bố trí người xét duyệt hiện tại để có thể xét duyệt nhanh nhất bằng ngôn ngữ của họ.
Mặc dù đã thực hiện những cải tiến đáng kể đối với hệ thống kiểm tra chéo, nhưng chúng tôi vẫn đang tiếp tục tìm cách để đảm bảo rằng hệ thống này cân bằng một cách thích hợp các mục tiêu gỡ nội dung vi phạm Tiêu chuẩn cộng đồng mà vẫn giảm thiểu các sai lầm thực thi có tác động lớn nhất.