ความท้าทายในการตรวจจับคำพูดที่แสดงความเกลียดชัง
อัพเดตแล้ว 19 ม.ค. 2022
คำพูดที่แสดงความเกลียดชังเป็นสิ่งที่เทคโนโลยีและทีมเจ้าหน้าที่ตรวจสอบตรวจจับได้ยากเป็นพิเศษ สำนวนและความหมายเฉพาะของคำมีความแตกต่างกันออกไปในวัฒนธรรม ภาษา และภูมิภาคต่างๆ นอกจากนี้ บางครั้งผู้คนก็แชร์คำที่ปกติเป็นคำพูดที่แสดงความเกลียดชัง แต่พวกเขาแชร์คำนั้นเพื่อสร้างความตระหนักรู้เกี่ยวกับปัญหา หรือใช้พูดถึงตัวเองเพื่อทวงสิทธิ์ในการใช้คำนั้น
ที่กล่าวมานี้คือความท้าทายที่พบในการตรวจจับคำพูดที่แสดงความเกลียดชังในข้อความเท่านั้น มีคำพูดที่แสดงความเกลียดชังมากมายที่เราพบบน Facebook และ Instagram ที่อยู่ในรูปภาพหรือวิดีโอ เช่น มีมอาจใช้ข้อความและรูปภาพร่วมกันเพื่อโจมตีคนบางกลุ่มโดยเฉพาะ ซึ่งเป็นความท้าทายสำหรับเทคโนโลยียิ่งขึ้นไปอีก
เนื้อหาลักษณะนี้มีความซับซ้อนยิ่งขึ้นเมื่อคนพยายามหลีกเลี่ยงการตรวจจับด้วยการเปลี่ยนแปลงเนื้อหาของตน ตัวอย่างเช่น อาจสะกดคำผิด หลีกเลี่ยงการใช้วลีบางอย่าง หรือปรับเปลี่ยนรูปภาพและวิดีโอ
ความคืบหน้าในการใช้ปัญญาประดิษฐ์ตรวจจับคำพูดที่แสดงความเกลียดชัง
เราพัฒนาเครื่องมือของเราที่ใช้ตรวจจับคำพูดที่แสดงความเกลียดชังตลอดหลายปีที่ผ่านมา ตอนนี้เราจึงสามารถลบเนื้อหาเหล่านี้ออกไปได้เป็นจำนวนมากก่อนที่จะมีคนรายงาน และบางครั้งก็ลบได้ก่อนที่จะมีคนเห็นเสียอีก
เราใช้ AI ระบุรูปภาพและข้อความที่เหมือนกับเนื้อหาที่เราได้ลบออกไปแล้วเนื่องจากเป็นคำพูดที่แสดงความเกลียดชัง นอกจากนี้ เทคโนโลยีของเรายังดูการแสดงความรู้สึกและความคิดเห็นเพื่อประเมินความคล้ายกันของเนื้อหาด้วย
เทคนิคเหล่านี้ช่วยให้เทคโนโลยีของเราตรวจจับคำพูดที่แสดงความเกลียดชังได้แม่นยำขึ้นแม้ว่าความหมายของคำจะไม่ชัดเจนหรือมีการปรับเปลี่ยนเนื้อหาเพื่อหลีกเลี่ยงการตรวจจับ
อ่านบทวิเคราะห์แบบละเอียดได้บนบล็อก Facebook AI