GenNomis ทำข้อมูลหลุด เผยด้านมืด AI สร้างภาพอนาจารเด็กและ Deepfake ดารา
โลกไซเบอร์ต้องเผชิญกับความน่าสะพรึงกลัวอีกครั้ง เมื่อมีการค้นพบฐานข้อมูลที่เปิดทิ้งไว้โดยไม่มีการป้องกันของบริษัทผู้ให้บริการสร้างภาพด้วย AI ซึ่งเผยให้เห็นการนำเทคโนโลยีล้ำสมัยมาใช้ในทางที่ผิดอย่างร้ายแรง โดยเฉพาะการสร้างเนื้อหาทางเพศที่ผิดกฎหมายและไม่ได้รับความยินยอม
Jeremiah Fowler นักวิจัยด้านความปลอดภัยทางไซเบอร์ ได้ตรวจพบฐานข้อมูลของ GenNomis (เว็บไซต์ที่เชื่อมโยงกับบริษัทแม่ชื่อ AI-Nomis จากประเทศเกาหลีใต้) ซึ่งถูกปล่อยทิ้งไว้โดยไม่มีการเข้ารหัสหรือตั้งรหัสผ่าน ทำให้ใครก็ตามบนอินเทอร์เน็ตสามารถเข้าถึงข้อมูลจำนวนมหาศาลกว่า 45 GB ได้อย่างง่ายดาย
รายละเอียดการรั่วไหลและเนื้อหาที่น่าตกใจ
ข้อมูลที่หลุดออกมาประกอบด้วยบันทึกมากกว่า 95,000 รายการ ซึ่งส่วนใหญ่เป็นภาพที่สร้างจาก AI และชุดคำสั่ง (Prompts) ที่ใช้ในการสร้างภาพเหล่านั้น สิ่งที่น่ากังวลที่สุดคือการพบ CSAM (Child Sexual Abuse Material) หรือสื่อลามกอนาจารเด็กที่สร้างโดย AI รวมถึงการนำภาพของคนดังระดับโลก เช่น Ariana Grande, Beyoncé และครอบครัว Kardashian มาดัดแปลงให้ดูเหมือนเด็กในลักษณะทางเพศ
นอกจากนี้ Fowler ยังพบว่ามีการใช้เทคนิค Face-swap หรือการสลับใบหน้า โดยนำภาพถ่ายจริงของบุคคลทั่วไปมาตัดต่อใส่ในภาพนู้ดหรือภาพทางเพศที่สร้างจาก AI ซึ่งเป็นการละเมิดความเป็นส่วนตัวและสร้างความเสียหายต่อเหยื่ออย่างรุนแรง
| หัวข้อ | รายละเอียด |
|---|---|
| บริษัทที่เกี่ยวข้อง | GenNomis และ AI-Nomis (เกาหลีใต้) |
| ปริมาณข้อมูลที่หลุด | มากกว่า 45 GB (95,000+ รายการ) |
| ประเภทเนื้อหาที่พบ | CSAM, ภาพนู้ดดารา, ภาพสลับใบหน้าบุคคลจริง, ชุดคำสั่ง AI |
| สถานะปัจจุบัน | เว็บไซต์ถูกปิดตัวลง (ขึ้น Error 404) |
เครื่องมือ AI ที่ถูกใช้เป็นอาวุธทางเพศ
ก่อนที่จะถูกปิดตัวลง GenNomis ได้นำเสนอเครื่องมือหลากหลายรูปแบบ เช่น ระบบสร้างภาพจากคำสั่ง, การอัปโหลดภาพเพื่อดัดแปลง, เครื่องมือสลับใบหน้า และการเปลี่ยนวิดีโอให้เป็นภาพ โดยชูจุดเด่นว่าสามารถสร้างภาพได้แบบ "unrestricted" (ไม่มีข้อจำกัด) และ "uncensored" (ไม่มีการเซ็นเซอร์)
แม้ว่าในนโยบายผู้ใช้งานจะระบุว่าห้ามสร้างเนื้อหาที่รุนแรงหรือสื่อลามกเด็กอย่างเด็ดขาด แต่ในความเป็นจริงกลับมีแกลเลอรี NSFW (Not Safe For Work) หรือเนื้อหาที่ไม่เหมาะสมสำหรับที่ทำงาน และตลาดซื้อขายอัลบั้มภาพ AI ซึ่งขัดแย้งกับกฎระเบียบที่บริษัทตั้งไว้
วิกฤตการณ์ Deepfake และความท้าทายทางกฎหมาย
Clare McGlynn ศาสตราจารย์ด้านกฎหมายจากมหาวิทยาลัย Durham ชี้ให้เห็นว่ากรณีนี้สะท้อนถึงตลาดมืดของ AI ที่เอื้อให้เกิดการสร้างภาพล่วงละเมิดทางเพศ ขณะที่ Derek Ray-Hill จาก Internet Watch Foundation (IWF) ระบุว่าจำนวนเว็บไซต์ที่มีเนื้อหา CSAM จาก AI เพิ่มขึ้นกว่า 4 เท่าตั้งแต่ปี 2023 และมีความสมจริง (Photorealism) มากขึ้นจนน่ากลัว
Henry Ajder ผู้เชี่ยวชาญด้าน Deepfake ตั้งข้อสังเกตว่า แม้บริษัทจะอ้างว่าไม่ได้อนุญาตให้สร้างเนื้อหาผิดกฎหมาย แต่การตลาดที่เน้นความ "ไร้ขีดจำกัด" คือการส่งสัญญาณที่ดึงดูดผู้ไม่หวังดี และเรียกร้องให้ผู้ให้บริการโฮสติ้งและระบบชำระเงินต้องร่วมรับผิดชอบในการสกัดกั้นวงจรนี้
ข้อเท็จจริงสำคัญ
- การเข้าถึงที่ง่ายเกินไป: ฐานข้อมูลหลุดเพราะไม่มีการตั้งรหัสผ่านหรือเข้ารหัสข้อมูล
- การละเมิดสิทธิ: มีการใช้ภาพคนจริงมาสลับใบหน้าเพื่อสร้างสื่อลามกโดยไม่ยินยอม
- ความล้มเหลวของการควบคุม: คำสั่ง (Prompts) ที่หลุดออกมามีคำที่สื่อถึงการล่วงละเมิดเด็กและสมาชิกในครอบครัว
- แนวโน้มที่น่ากลัว: สื่อลามกเด็กจาก AI เพิ่มขึ้นอย่างรวดเร็วและมีความสมจริงสูงขึ้นมาก
คำถามที่พบบ่อย
CSAM คืออะไรและแตกต่างจากสื่อลามกทั่วไปอย่างไร?
CSAM ย่อมาจาก Child Sexual Abuse Material หมายถึงสื่อที่แสดงการล่วงละเมิดทางเพศต่อเด็ก ซึ่งเป็นสิ่งผิดกฎหมายร้ายแรงทั่วโลก โดยปัจจุบันมีการใช้ AI สร้างภาพจำลองที่ดูเหมือนเด็กจริงขึ้นมา ซึ่งถือเป็นภัยคุกคามรูปแบบใหม่
Deepfake และ Face-swap ในกรณีนี้ทำงานอย่างไร?
Deepfake คือการใช้ AI สร้างสื่อสังเคราะห์ที่ดูสมจริง ส่วน Face-swap คือการนำใบหน้าของบุคคลหนึ่งไปวางทับบนร่างของอีกคนในภาพหรือวิดีโอ ในกรณีของ GenNomis มีการนำใบหน้าคนจริงไปใส่ในภาพนู้ดที่ AI สร้างขึ้น
ทำไมการที่ฐานข้อมูลไม่มีรหัสผ่านถึงเป็นเรื่องร้ายแรง?
เพราะทำให้ผู้ไม่หวังดีสามารถดาวน์โหลดข้อมูลทั้งหมด รวมถึงภาพลามกและชุดคำสั่งในการสร้างภาพเหล่านั้นไปเผยแพร่ต่อหรือใช้เป็นต้นแบบในการสร้างเนื้อหาที่ผิดกฎหมายได้ในวงกว้าง
เราจะป้องกันการตกเป็นเหยื่อของ AI สร้างภาพลามกได้อย่างไร?
แม้จะป้องกันได้ยาก แต่การระมัดระวังการโพสต์รูปภาพใบหน้าที่ชัดเจนในที่สาธารณะ และการแจ้งรายงาน (Report) ต่อแพลตฟอร์มหรือหน่วยงานบังคับใช้กฎหมายทันทีที่พบเห็นสื่อปลอมแปลง เป็นขั้นตอนสำคัญในการระงับความเสียหาย
