เทคโนโลยีการบังคับใช้ทำงานอย่างไร
อัพเดตแล้ว 12 พ.ย. 2024
สร้างโมเดลและการคาดการณ์
กระบวนการนี้เริ่มต้นจากทีมปัญญาประดิษฐ์ของเรา ทีมจะสร้างโมเดลแมชชีนเลิร์นนิ่งที่สามารถทำงานต่างๆ เช่น ระบุสิ่งที่อยู่ในรูปภาพหรือเข้าใจข้อความ จากนั้นทีมความสมบูรณ์ของเราที่มีหน้าที่ขยายขอบเขตการตรวจจับและบังคับใช้นโยบายก็จะพัฒนาต่อยอดจากโมเดลเหล่านี้เพื่อสร้างโมเดลที่เจาะจงมากขึ้นในการคาดการณ์เกี่ยวกับผู้คนและเนื้อหา การคาดการณ์เหล่านี้ช่วยให้เราบังคับใช้นโยบายได้
ตัวอย่างเช่น โมเดล AI คาดการณ์ว่าเนื้อหาชิ้นหนึ่งเป็นคำพูดที่แสดงความเกลียดชังหรือมีเนื้อหาที่รุนแรงและโจ่งแจ้งหรือไม่ และอีกระบบ ซึ่งก็คือเทคโนโลยีการบังคับใช้ของเรา ก็จะตัดสินว่าจะดำเนินการ เช่น ลบ ลดระดับ หรือส่งเนื้อหาไปให้ทีมเจ้าหน้าที่ตรวจสอบทำการตรวจสอบเพิ่มเติมหรือไม่
เรียนรู้โดยการทำซ้ำ ตรวจสอบยืนยันโดยมนุษย์
ตอนที่เราสร้างเทคโนโลยีใหม่สำหรับบังคับใช้นโยบายกับเนื้อหาขึ้นเป็นครั้งแรก เราฝึกฝนให้เทคโนโลยีมองหาสัญญาณบางอย่าง ตัวอย่างเช่น เทคโนโลยีบางอย่างอาจมองหาภาพโป๊เปลือยในรูปภาพ ในขณะที่อีกเทคโนโลยีหนึ่งจะเรียนรู้เพื่อทำความเข้าใจข้อความ ในช่วงแรกๆ เทคโนโลยีประเภทใหม่อาจมีความมั่นใจต่ำว่าเนื้อหาชิ้นหนึ่งๆ ละเมิดนโยบายของเราหรือไม่
จากนั้น ทีมตรวจสอบก็สามารถทำการตัดสินขั้นสุดท้ายได้ และเทคโนโลยีของเราก็สามารถเรียนรู้จากการตัดสินแต่ละครั้งของมนุษย์ได้ เมื่อเวลาผ่านไป หลังจากได้เรียนรู้จากการตัดสินของมนุษย์เป็นพันๆ ครั้ง เทคโนโลยีก็มีความแม่นยำมากขึ้น
นโยบายของเราก็มีการพัฒนาอยู่เรื่อยๆ เพื่อให้ทันกับการเปลี่ยนแปลงในผลิตภัณฑ์ของเรา มาตรฐานสังคม และภาษา ด้วยเหตุนี้ ทั้งการฝึกฝนเทคโนโลยีและการฝึกอบรมทีมตรวจสอบจึงเป็นกระบวนการที่ค่อยเป็นค่อยไปและอาศัยการทำซ้ำ
ตรวจจับการละเมิดที่เกิดขึ้นซ้ำๆเทคโนโลยีสามารถตรวจจับเนื้อหาเดิมซ้ำๆ ได้ดีมาก และสามารถทำได้เป็นล้านๆ ครั้งหากจำเป็น เทคโนโลยีของเราจะดำเนินการกับเนื้อหาใหม่หากเนื้อหาตรงกับหรือใกล้เคียงมากกับอีกเนื้อหาหนึ่งที่ละเมิดนโยบาย ซึ่งมีประโยชน์เป็นอย่างยิ่งสำหรับการตรวจจับการรณรงค์เผยแพร่ข้อมูลผิด มีม และเนื้อหาอื่นๆ ที่เป็นไวรัลที่สามารถแพร่กระจายได้รวดเร็วมาก
ระบุความแตกต่างเล็กๆ น้อยๆ
เทคโนโลยีสามารถค้นหาและลบเนื้อหาเดียวกันได้ครั้งแล้วครั้งเล่า แต่สิ่งที่ท้าทายมากก็คือการทำให้เทคโนโลยีเข้าใจความแตกต่างเล็กๆ น้อยๆ ในการเลือกใช้คำหรือเข้าใจว่าความแตกต่างเล็กๆ น้อยๆ อาจเปลี่ยนบริบทไปได้อย่างไร
รูปภาพแรกคือเนื้อหาที่ชวนให้เข้าใจผิดต้นฉบับซึ่งมีการให้ข้อมูลผิดเกี่ยวกับความปลอดภัยด้านสาธารณสุข
รูปที่สองคือภาพหน้าจอของรูปแรก แต่มีแถบเมนูของคอมพิวเตอร์อยู่ที่ด้านบน
สุดท้าย รูปที่สามดูเหมือนรูปแรกและรูปที่สองมาก แต่มีการเปลี่ยนแปลงคำเล็กๆ น้อยๆ 2 คำ ซึ่งทำให้พาดหัวข่าวถูกต้องและไม่เป็นเท็จอีกต่อไป
สิ่งเหล่านี้เป็นเรื่องที่เข้าใจได้ค่อนข้างง่ายสำหรับมนุษย์ แต่ยากสำหรับเทคโนโลยี เทคโนโลยีอาจเข้มงวดเกินไปหรือเข้มงวดไม่พอ หากเข้มงวดเกินไป เทคโนโลยีก็จะลบโพสต์ที่ไม่ได้ละเมิดนโยบายเป็นล้านๆ รายการออก แต่หากเข้มงวดไม่พอ เทคโนโลยีก็จะคิดว่าภาพหน้าจอที่มีแถบเมนูต่างจากรูปต้นฉบับ และไม่ดำเนินการกับเนื้อหานั้นตามที่ควร
เราทุ่มเทเวลาไปมากกับเรื่องนี้ ในช่วงสองสามปีที่ผ่านมานี้ เราได้ลงทุนไปมากมายเพื่อช่วยให้เทคโนโลยีของเราตรวจจับความแตกต่างเล็กๆ น้อยๆ ในเนื้อหาได้ดียิ่งขึ้น และยิ่งเรียน เทคโนโลยีก็ยิ่งตรวจจับได้แม่นยำขึ้นทุกวัน
