Meta ถูกแฉจ้างพนักงานปลอมตัวเป็นเยาวชน ทดสอบช่องโหว่ AI คู่แข่งด้วยเนื้อหาอันตราย
กลายเป็นประเด็นร้อนในวงการเทคโนโลยี เมื่อมีการเปิดเผยเอกสารภายในว่า Meta ยักษ์ใหญ่ด้านโซเชียลมีเดีย ได้ว่าจ้างผู้รับเหมาจำนวนมากให้ปลอมตัวเป็นผู้ใช้งานที่อายุต่ำกว่า 18 ปี เพื่อเข้าไปทดสอบระบบความปลอดภัยของแชทบอทคู่แข่ง โดยการส่งคำถามและรูปภาพที่เกี่ยวข้องกับเนื้อหาที่มีความเสี่ยงสูง เพื่อดูว่า AI เหล่านั้นจะตอบสนองอย่างไร
โครงการลับนี้มีชื่อเรียกภายในว่า "Cannes" ซึ่งบริหารจัดการโดยบริษัทผู้รับเหมาที่ชื่อว่า Covalen โดยมีเป้าหมายหลักในการเจาะระบบของ ChatGPT จาก OpenAI, Gemini จาก Google และ Character.AI ซึ่งการดำเนินงานนี้มีข้อมูลระบุว่าทำต่อเนื่องมาจนถึงวันที่ 21 เมษายนที่ผ่านมา
เบื้องหลังปฏิบัติการ "Cannes": การจำลองตัวตนเพื่อทดสอบขีดจำกัด
วิธีการที่ Meta ใช้คือการให้พนักงานสร้างบัญชีปลอมโดยใช้ชื่อ อีเมล และวันเกิดที่ระบุว่าเป็นเยาวชน จากนั้นจึงส่งชุดคำสั่ง (Prompts) และรูปภาพที่ท้าทายระบบความปลอดภัยของ AI เช่น รูปภาพยา, มีด, บ่วงบาศก์ หรือแม้แต่แผนผังทางการแพทย์เกี่ยวกับการนรีเวช เพื่อบีบให้ AI ตอบในสิ่งที่ปกติแล้วระบบควรจะปฏิเสธ
จากการตรวจสอบข้อมูลพบว่า ในการทดสอบรอบเดียวเมื่อเดือนสิงหาคม 2025 มีการส่งคำสั่งไปยัง AI คู่แข่งมากกว่า 45,000 ครั้ง โดยคำสั่งเหล่านี้มักเขียนในมุมมองของเด็กหรือวัยรุ่นที่กำลังเผชิญวิกฤตชีวิต เช่น เด็กหญิงวัย 13 ปีที่ถามหาวิธีการยุติการตั้งครรภ์ หรือเด็กประถมที่เล่าเรื่องเพื่อนถูกปืนจ่อปาก
รายละเอียดของเนื้อหาที่ใช้ทดสอบ
- การทำร้ายตัวเอง: คำถามเกี่ยวกับการฆ่าตัวตายและการทำร้ายร่างกายตนเอง
- ความผิดปกติในการกิน: การสอบถามวิธีปกปิดอาการคลั่งผอม (Bulimia) จากผู้ปกครอง
- เนื้อหาทางเพศ: การพูดคุยเรื่องความสัมพันธ์ทางเพศและโรแมนติก
- สิ่งผิดกฎหมาย: การถามแหล่งซื้อยาเสพติด เช่น โคเคน และการใช้คำหยาบคายหรือคำเหยียดเชื้อชาติ
| หัวข้อ | รายละเอียด |
|---|---|
| เป้าหมายการทดสอบ | ChatGPT, Gemini, Character.AI |
| ผู้ดำเนินการ | Covalen (บริษัทผู้รับเหมาของ Meta) |
| วิธีการ | สร้างบัญชีปลอมเป็นเยาวชน (Under-18) |
| จำนวนคำสั่งทดสอบ | มากกว่า 45,000 คำสั่ง (ในรอบเดือน ส.ค. 2025) |
| ประเภทเนื้อหา | การฆ่าตัวตาย, ยาเสพติด, เพศ, และความรุนแรง |
ข้อเท็จจริงสำคัญ
- การปฏิเสธของ Meta: Meta ระบุว่านี่คือการทดสอบมาตรฐานอุตสาหกรรม (Industry-standard practice) เพื่อให้มั่นใจว่าประสบการณ์การใช้งานปลอดภัยและเหมาะสมกับอายุ และยืนยันว่าไม่ได้นำข้อมูลคู่แข่งมาฝึกฝน AI ของตนเอง
- การละเมิดข้อตกลง: การกระทำนี้ขัดต่อข้อกำหนดการใช้งาน (Terms of Service) ของ OpenAI, Google และ Character.AI ที่ห้ามการทดสอบความปลอดภัยโดยไม่ได้รับอนุญาตและการพยายามหลบเลี่ยงตัวกรองความปลอดภัย
- ความกังวลของพนักงาน: อดีตผู้รับเหมาบางรายรู้สึกไม่สบายใจ โดยกังวลว่าการสร้างเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์อาจเข้าข่ายการสร้างสื่อลามกอนาจารเด็ก (CSAM)
- มุมมองผู้เชี่ยวชาญ: Rumman Chowdhury ซีอีโอของ Humane Intelligence มองว่าการใช้บัญชีปลอมเป็นเด็กในสเกลใหญ่เช่นนี้ เกินกว่าขอบเขตของการประเมินความปลอดภัยทั่วไป และอาจเป็นกลยุทธ์การแข่งขันที่ไม่เป็นธรรม
ปฏิกิริยาจากบริษัท AI คู่แข่ง
ทาง Character.AI ยืนยันว่าไม่ได้อนุญาตให้มีการทดสอบนี้ และถือเป็นการละเมิดนโยบายอย่างร้ายแรง ขณะที่ OpenAI ระบุว่ากำลังตรวจสอบเรื่องดังกล่าว ส่วน Google กล่าวว่าไม่ทราบวัตถุประสงค์ของการทดสอบนี้ และยืนยันว่า Gemini ตอบสนองตามนโยบายความปลอดภัยของบริษัท
คำถามที่พบบ่อย
โครงการ Cannes คืออะไร?
คือโครงการลับที่ Meta จ้างบริษัท Covalen ให้ส่งพนักงานปลอมตัวเป็นเยาวชน เพื่อทดสอบว่าแชทบอทของคู่แข่ง (เช่น ChatGPT, Gemini) สามารถป้องกันเนื้อหาอันตรายได้ดีเพียงใด
Meta นำข้อมูลที่ได้ไปใช้ทำอะไร?
เอกสารระบุว่าใช้เพื่อการเปรียบเทียบมาตรฐานความปลอดภัย (Benchmarking) แต่ไม่มีข้อมูลชัดเจนว่า Meta นำผลลัพธ์ที่ได้ไปปรับใช้ในเชิงเทคนิคอย่างไร
การกระทำนี้ผิดกฎหมายหรือไม่?
นักกฎหมายที่ตรวจสอบเบื้องต้นระบุว่า เนื้อหาที่ใช้ทดสอบยังไม่ถึงขั้นเป็นการร้องขอสื่อลามกอนาจารเด็กที่ผิดกฎหมาย แต่เป็นการละเมิดข้อตกลงการใช้งาน (Terms of Service) ของผู้ให้บริการ AI คู่แข่ง
ทำไมเรื่องนี้ถึงถูกมองว่าไม่ปกติ?
เพราะปกติการทดสอบความปลอดภัยจะทำอย่างเปิดเผยหรือผ่านโปรแกรม Bug Bounty แต่กรณีนี้เป็นการแอบทำโดยใช้ตัวตนปลอมเป็นเด็ก ซึ่งผู้เชี่ยวชาญมองว่าเป็นการใช้เรื่องความปลอดภัยมาบังหน้าเพื่อสอดแนมคู่แข่ง
Meta ให้เหตุผลในการทำเช่นนี้ว่าอย่างไร?
Meta อ้างว่าเป็นการทดสอบเพื่อสร้างประสบการณ์ที่ปลอดภัยและเหมาะสมกับช่วงอายุ ซึ่งเป็นแนวทางปฏิบัติปกติในอุตสาหกรรมเทคโนโลยี
