Cách công nghệ hỗ trợ việc ưu tiên xét duyệt
NGÀY CẬP NHẬT 19 THáNG 1, 2022
Bất kể nội dung có khả năng vi phạm bị mọi người báo cáo hay do công nghệ của Meta phát hiện, hệ thống tự động hóa giúp chúng tôi nhanh chóng chuyển nội dung đến người xét duyệt có chuyên môn phù hợp về lĩnh vực cũng như ngôn ngữ cụ thể.
Sau đó, chúng tôi sử dụng công nghệ để xếp thứ tự và ưu tiên nội dung. Nhờ vậy, đội ngũ xét duyệt có thể tập trung vào việc ưu tiên xử lý các trường hợp quan trọng nhất. Những trường hợp này bao gồm nội dung có khả năng gây hại ngoài đời (chẳng hạn như các bài viết liên quan đến hành vi khủng bố và tự tử), cũng như nội dung lan truyền nhanh, vi phạm chính sách và có khả năng tiếp cận một lượng lớn đối tượng.
Để đảm bảo đội ngũ xét duyệt dành nhiều thời gian hơn cho việc đưa ra quyết định đúng đắn, chúng tôi không ngừng cải thiện công nghệ và các quy trình của mình.
Lý do đội ngũ xét duyệt đóng vai trò quan trọng trong việc thực thi đối với nội dung
Để giảm bớt mối nguy hại trong cộng đồng, công nghệ và đội ngũ xét duyệt của chúng tôi luôn phối hợp với nhau. Dưới đây là một số cách mà người xét duyệt cùng với công nghệ thực hiện để góp phần củng cố toàn bộ hệ thống thực thi đối với nội dung.
Huấn luyện công nghệ
Khi người xét duyệt đưa ra quyết định về một nội dung, họ sẽ đồng thời huấn luyện và tinh chỉnh sao cho công nghệ của chúng tôi dần dần có thể xác định các nội dung khác tương tự. Chu trình phản hồi giữa con người và công nghệ như vậy là thành phần thiết yếu để hệ thống của chúng tôi luôn được cập nhật.
Cải thiện thuật toán trí tuệ nhân tạo
Khi xem xét nội dung vi phạm, đội ngũ xét duyệt tự gắn nhãn cho chính sách hướng dẫn họ đưa ra quyết định, cụ thể là đánh dấu chính sách mà nội dung, tài khoản hoặc hành vi nào đó vi phạm. Dữ liệu gắn nhãn này rất quan trọng và giúp chúng tôi có thể cải thiện chất lượng thuật toán trí tuệ nhân tạo để chủ động tìm kiếm nội dung có hại.
Đưa ra những quyết định khó khăn
Công nghệ của chúng tôi đạt hiệu quả cao ở 2 khía cạnh cụ thể: phát hiện hành vi vi phạm nhiều lần và xác định nội dung rõ ràng là phản cảm hoặc cực đoan. Tuy nhiên, khi cân nhắc áp dụng chính sách đối với nội dung có nhiều điểm mơ hồ, phức tạp hoặc khó xác định ý nghĩa, phương pháp xét duyệt bằng con người có xu hướng đưa ra quyết định hợp lý hơn công nghệ.