Cách Meta sắp xếp thứ tự ưu tiên cho nội dung cần xét duyệt
NGÀY CẬP NHẬT 12 THáNG 11, 2024
Đôi khi, chúng tôi sẽ khó xác định hơn. Có thể là do cảm nghĩ thể hiện trong bài viết không rõ ràng, ngôn từ của bài viết đặc biệt phức tạp hoặc hình ảnh phụ thuộc nhiều vào ngữ cảnh. Trong những trường hợp này, chúng tôi sẽ sử dụng con người để xem xét thêm.
Các yếu tố sắp xếp ưu tiên cho phương pháp xét duyệt bằng con người
Khi xác định xem đội ngũ chuyên viên xét duyệt nên xem xét nội dung nào trước tiên, chúng tôi cân nhắc 3 yếu tố chính sau đây:
MỨC ĐỘ NGHIÊM TRỌNG
Khả năng nội dung dẫn đến mối nguy hại, cả ở trên mạng và ngoài đời thực.
MỨC ĐỘ LAN TRUYỀN
Tốc độ chia sẻ nội dung
KHẢ NĂNG VI PHẠM
Khả năng nội dung được đề cập thực sự vi phạm chính sách của chúng tôi.
Đội ngũ chuyên viên xét duyệt hỗ trợ cải thiện công nghệ
Đội ngũ chuyên viên xét duyệt vận dụng kiến thức chuyên môn ở một số lĩnh vực chính sách và ngôn ngữ để đưa ra những quyết định khó khăn (thường dựa trên phán đoán đa chiều). Mỗi khi chuyên viên xét duyệt đưa ra quyết định, chúng tôi sử dụng thông tin đó để huấn luyện công nghệ. Dần dần, dựa trên hàng triệu quyết định, công nghệ trở nên hiệu quả hơn, tạo điều kiện cho chúng tôi gỡ được nhiều nội dung vi phạm hơn.
Hỗ trợ chuyên viên xét duyệt đưa ra quyết định đúng đắn
Công nghệ hỗ trợ đội ngũ chuyên viên xét duyệt trong những việc mà công nghệ phát huy hiệu quả cao nhất
Giống như nhiều mô hình máy học, công nghệ của chúng tôi sẽ hoạt động ngày càng tốt hơn theo thời gian vì được tiếp nhận nhiều ví dụ hơn về nội dung vi phạm. Khi đó, đội ngũ chuyên viên xét duyệt có thể tập trung hơn vào những nội dung mới, nghiêm trọng, có tính lan truyền, phức tạp và đa sắc thái - nghĩa là kiểu quyết định mà thường thì con người sẽ làm tốt hơn công nghệ.
Câu hỏi thường gặp về mức độ ưu tiên xét duyệt nội dung
Mức độ ưu tiên thực thi đã thay đổi như thế nào theo thời gian?
Trước đó, đội ngũ chuyên viên xét duyệt sẽ dành phần lớn thời gian để xét duyệt nội dung do mọi người báo cáo. Nghĩa là họ thường dành quá nhiều thời gian vào những nội dung có mức độ nghiêm trọng thấp hoặc rõ ràng là không vi phạm và không đủ thời gian cho những nội dung nghiêm trọng có nguy cơ gây hại lớn nhất. Như vậy cũng có nghĩa là nhiều quyết định của chuyên viên xét duyệt không hữu ích cho hoạt động cải thiện công nghệ thực thi.
Cách sắp xếp ưu tiên hiện tại góp phần giải quyết những vấn đề này, tạo điều kiện cho chúng tôi ưu tiên xét duyệt những nội dung có nhiều khả năng gây hại nhất, cũng như cải thiện công nghệ một cách nhanh hơn.
Đội ngũ chuyên viên xét duyệt có xem xét mọi báo cáo của người dùng không?
Không nhất thiết là như vậy. Cả đội ngũ chuyên viên xét duyệt lẫn công nghệ đều đóng vai trò quan trọng khi xem xét báo cáo của người dùng. Khi có thể phân tích nội dung cụ thể, công nghệ của chúng tôi sẽ (hoặc không) tự động áp dụng biện pháp xử lý cho nội dung đó.
Meta làm cách nào để đảm bảo rằng quyết định của chuyên viên xét duyệt không đưa sự thiên vị vào công nghệ?
Để giải quyết mối quan ngại về tính công bằng và toàn diện liên quan đến quá trình triển khai AI trong công nghệ của Meta, chúng tôi đã thành lập đội ngũ AI có trách nhiệm. Đây là đội ngũ chuyên trách đến từ nhiều lĩnh vực, gồm các nhà đạo đức học, nhà khoa học xã hội và chính trị, chuyên gia về chính sách, kỹ sư và nhà nghiên cứu trí tuệ nhân tạo. Mục tiêu chung của đội ngũ này là phát triển quy tắc, công cụ và quy trình để giải quyết những vấn đề về trách nhiệm của AI, đồng thời đảm bảo những nguồn lực này trong hệ thống được cung cấp rộng rãi trên Meta.