Pornhub ใช้ Chatbot และระบบแจ้งเตือนสกัดกั้นการค้นหาสื่อล่วงละเมิดเด็กในสหราชอาณาจักร
ในช่วงสองปีที่ผ่านมา ผู้ใช้งานเว็บไซต์ Pornhub ในสหราชอาณาจักรที่พยายามค้นหาวิดีโอเกี่ยวกับการล่วงละเมิดเด็ก ถูกขัดจังหวะด้วยระบบแจ้งเตือนความปลอดภัย ซึ่งมีการทำงานรวมทั้งสิ้น 4.4 ล้านครั้ง โดยระบบจะแสดงข้อความเตือนว่าเนื้อหาดังกล่าวเป็นสิ่งผิดกฎหมาย และในครึ่งหนึ่งของกรณีเหล่านี้ จะมี Chatbot (โปรแกรมสนทนาอัตโนมัติ) ปรากฏขึ้นเพื่อแนะนำช่องทางการขอความช่วยเหลือ
โครงการทดลองนี้เป็นความร่วมมือระหว่าง Pornhub และองค์กรคุ้มครองเด็กสองแห่งในสหราชอาณาจักร เพื่อทดสอบว่าการใช้ Behavioral Nudges หรือการสะกิดพฤติกรรมด้วยการแทรกแซงเล็กน้อย จะสามารถเปลี่ยนใจผู้ใช้งานไม่ให้เข้าถึงเนื้อหาผิดกฎหมายได้หรือไม่ ซึ่งผลลัพธ์ที่ได้พบว่าจำนวนการค้นหา CSAM (Child Sexual Abuse Material) หรือสื่อล่วงละเมิดทางเพศต่อเด็ก มีจำนวนลดลงอย่างมีนัยสำคัญ และมีผู้ใช้งานจำนวนหนึ่งตัดสินใจขอความช่วยเหลือเพื่อปรับเปลี่ยนพฤติกรรมของตนเอง
กลไกการทำงานและการป้องกันเนื้อหาผิดกฎหมาย
Pornhub ซึ่งบริหารงานโดยบริษัท Aylo (ชื่อเดิม MindGeek) ได้นำรายการคำต้องห้ามกว่า 34,000 คำในหลายภาษาและรูปแบบการผสมคำนับล้านรายการมาใช้ในการบล็อกการค้นหา เพื่อยกระดับความปลอดภัยของผู้ใช้หลังจากถูกวิพากษ์วิจารณ์เรื่องการปล่อยให้มีเนื้อหาล่วงละเมิดเด็กและวิดีโอที่ไม่ได้รับความยินยอมบนแพลตฟอร์ม โดยในปี 2020 บริษัทเคยลบวิดีโอออกไปประมาณ 10 ล้านรายการเพื่อกำจัดเนื้อหาที่เป็นปัญหา
สำหรับระบบ Chatbot นั้นถูกพัฒนาโดย Internet Watch Foundation (IWF) องค์กรไม่แสวงหาผลกำไรที่มุ่งกำจัด CSAM ออกจากโลกออนไลน์ และ Lucy Faithfull Foundation มูลนิธิที่ทำงานด้านการป้องกันการล่วงละเมิดทางเพศในเด็ก โดย Chatbot จะทำงานผ่านการถาม-ตอบแบบง่ายๆ เพื่อชี้ให้ผู้ใช้เห็นว่าสิ่งที่กำลังค้นหานั้นผิดกฎหมาย พร้อมแนะนำบริการช่วยเหลือจากมูลนิธิ Lucy Faithfull
ผลลัพธ์จากการทดลองและสถิติที่น่าสนใจ
จากการวิเคราะห์ของ Joel Scanlan อาจารย์อาวุโสจาก University of Tasmania พบว่าแม้จำนวนการค้นหาในตอนแรกจะอยู่ในระดับที่น่าตกใจ แต่ข้อความเตือนสามารถลดจำนวนการค้นหาลงได้จริง โดยมีสถิติที่สำคัญดังนี้:
- มีการแสดงข้อความแจ้งเตือนทั้งหมด 4,400,960 ครั้ง
- Chatbot ปรากฏขึ้นให้ผู้ใช้เห็นรวม 2.8 ล้านครั้ง
- มีผู้ขอข้อมูลเพิ่มเติมผ่าน Chatbot 1,656 ราย
- มีผู้คลิกไปยังเว็บไซต์ Stop It Now ของมูลนิธิฯ 490 ราย
- มีผู้ติดต่อสายด่วนให้คำปรึกษาแบบลับ 68 ราย
| หัวข้อการวัดผล | จำนวน/ผลลัพธ์ |
|---|---|
| จำนวนการแจ้งเตือนทั้งหมด | 4.4 ล้านครั้ง |
| จำนวนครั้งที่ Chatbot ปรากฏ | 2.8 ล้านครั้ง |
| ผู้ที่คลิกไปยังเว็บไซต์ช่วยเหลือ (Stop It Now) | 490 คน |
| ผู้ที่ติดต่อสายด่วนขอความช่วยเหลือ | 68 คน |
| กลุ่มผู้ใช้งานที่ดื้อรั้น (ค้นหาซ้ำเกิน 10 ครั้ง) | ประมาณ 400 คน |
ข้อเท็จจริงสำคัญ
- การป้องปรามได้ผล: ข้อความเตือนช่วยลดจำนวนการค้นหาสื่อล่วงละเมิดเด็กได้อย่างมีนัยสำคัญ
- การเปลี่ยนพฤติกรรม: ผู้ใช้ส่วนใหญ่ (ประมาณ 1.7 ล้านคน) หยุดค้นหาเนื้อหาผิดกฎหมายหลังจากเห็นคำเตือน และเปลี่ยนไปค้นหาเนื้อหาที่ถูกกฎหมายแทน
- หลักจิตวิทยา: การป้องปรามอาชญากรรมออนไลน์ต้องประกอบด้วย 3 ส่วน คือ การรู้ว่าผิดกฎหมาย, การตระหนักว่าพฤติกรรมตนเองเข้าข่ายผิดกฎหมาย และการเชื่อว่าผลเสียมีมากกว่าผลประโยชน์
- การพัฒนาในอนาคต: มีแผนนำ Generative AI มาปรับปรุง Chatbot ให้โต้ตอบได้เป็นธรรมชาติและครอบคลุมคำถามได้มากขึ้น
คำถามที่พบบ่อย
ระบบนี้ทำงานอย่างไรเมื่อผู้ใช้ค้นหาคำต้องห้าม?
เมื่อมีการพิมพ์คำที่อยู่ในรายการคำต้องห้าม 34,000 คำ ระบบจะบล็อกหน้าผลลัพธ์และแสดงข้อความเตือนว่าเนื้อหานั้นผิดกฎหมาย พร้อมกับเปิด Chatbot เพื่อให้คำแนะนำและชี้ช่องทางขอความช่วยเหลือ
Chatbot ช่วยลดการเข้าถึงสื่อล่วงละเมิดเด็กได้อย่างไร?
Chatbot ทำหน้าที่เป็นเครื่องมือสะกิดพฤติกรรม (Nudge) โดยการให้ข้อมูลด้านกฎหมายและเสนอทางออกในการบำบัดหรือขอความช่วยเหลือ ซึ่งช่วยให้ผู้ที่ค้นหาด้วยความอยากรู้อยากเห็นหรือผู้ที่ต้องการเลิกพฤติกรรมดังกล่าวมีทางออกที่ถูกต้อง
ผลการทดลองนี้ถือว่าประสบความสำเร็จหรือไม่?
ถือว่าประสบความสำเร็จในระดับหนึ่ง โดยเฉพาะการลดจำนวนการค้นหาโดยรวม และการที่ผู้ใช้บางส่วนกล้าตัดสินใจคลิกขอความช่วยเหลือ ซึ่งเป็นขั้นตอนที่ยากสำหรับผู้ที่กระทำความผิด
ปัจจุบันระบบนี้ยังใช้งานอยู่หรือไม่?
ใช่ ระบบแจ้งเตือนและ Chatbot ยังคงใช้งานอยู่บนเว็บไซต์ Pornhub ในสหราชอาณาจักร และไม่มีแผนที่จะปิดการใช้งาน เนื่องจากเห็นผลลัพธ์ที่เป็นรูปธรรม
บริษัทเทคโนโลยีอื่นสามารถนำวิธีนี้ไปใช้ได้หรือไม่?
ผู้เชี่ยวชาญและ Pornhub เสนอว่าแพลตฟอร์มโซเชียลมีเดียและเว็บไซต์ฝากไฟล์ต่างๆ ควรนำระบบการป้องปรามในลักษณะนี้มาใช้ เพื่อสร้างอินเทอร์เน็ตที่ปลอดภัยขึ้นสำหรับทุกคน
