Deepfake Porn และช่องโหว่ของ GitHub: เมื่อซอฟต์แวร์ Open Source กลายเป็นเครื่องมือคุกคามทางเพศ
เหตุการณ์สะเทือนขวัญเกิดขึ้นเมื่ออินฟลูเอนเซอร์ชื่อดังอย่าง Charli D’Amelio ถูกนำใบหน้าไปตัดต่อใส่ในวิดีโอทางเพศโดยที่เธอไม่มีส่วนเกี่ยวข้อง ซึ่งวิดีโอดังกล่าวถูกเผยแพร่บนเว็บไซต์ Deepfake Porn รายใหญ่และมียอดเข้าชมมากกว่า 8,200 ครั้ง สิ่งที่น่ากังวลยิ่งกว่าคือการที่ผู้ใช้งานในชุมชนออนไลน์ต่างสอบถามถึงโปรแกรมที่ใช้สร้างผลงานชิ้นนี้ ซึ่งนำไปสู่การเปิดโปงเครือข่ายซอฟต์แวร์อันตรายที่แฝงตัวอยู่ในแพลตฟอร์มพัฒนาซอฟต์แวร์ระดับโลก
จากการตรวจสอบพบว่า เครื่องมือที่ใช้สร้างวิดีโอดังกล่าวคือ Deepfake Model (โมเดลปัญญาประดิษฐ์สำหรับสร้างภาพเลียนแบบ) ที่ถูกโฮสต์ไว้บน GitHub ซึ่งเป็นแพลตฟอร์มสำหรับเก็บและแบ่งปันซอร์สโค้ด (Source Code) ของนักพัฒนาทั่วโลก แม้ว่า GitHub จะมีความพยายามในการกวาดล้าง แต่เครื่องมือเหล่านี้ยังคงแพร่กระจายและกลับมาปรากฏซ้ำในรูปแบบต่างๆ
การต่อสู้ระหว่างนโยบายความปลอดภัยและการหลบเลี่ยงของนักพัฒนา
GitHub ได้ประกาศใช้นโยบายตั้งแต่เดือนมิถุนายน 2024 เพื่อสั่งห้ามโครงการที่ออกแบบมาเพื่อส่งเสริมหรือสนับสนุนการสร้าง Nonconsensual Intimate Imagery หรือภาพลามกอนาจารที่สร้างขึ้นโดยที่เจ้าตัวไม่ยินยอม รวมถึงเนื้อหาที่บิดเบือนข้อเท็จจริง อย่างไรก็ตาม การบังคับใช้กฎนี้ยังคงมีช่องโหว่ขนาดใหญ่
การสืบสวนของ WIRED พบว่ามีโครงการมากกว่าสิบแห่งที่เกี่ยวข้องกับการสร้างวิดีโอ Deepfake ทางเพศที่ยังคงหลบเลี่ยงการตรวจจับได้ โดยมักจะใช้กลยุทธ์ดังนี้:
- การใช้ชื่อแบรนด์เลียนแบบ: สร้างโครงการที่มีชื่อหรือลักษณะคล้ายกับซอฟต์แวร์ชื่อดังที่ถูกแบนไปแล้ว
- การใช้คำระบุเฉพาะ: ใช้คำว่า "NSFW" (Not Safe For Work), "Unlocked" หรือ "Bypasses" เพื่อดึงดูดผู้ที่ต้องการเครื่องมือที่ไม่มีการจำกัดการใช้งาน
- การทำ Fork: การคัดลอกซอร์สโค้ดจากโครงการหนึ่งไปยังอีกโครงการหนึ่ง (Forking) ทำให้โค้ดต้นฉบับยังคงอยู่แม้โครงการหลักจะถูกลบไป
ทางด้าน Jesse Geraci ที่ปรึกษาด้านความปลอดภัยออนไลน์ของ GitHub ยืนยันว่าบริษัทประณามการใช้แพลตฟอร์มเพื่อเผยแพร่เนื้อหาลามกและมีการตรวจสอบเชิงรุก รวมถึงดำเนินการลบเนื้อหาที่ละเมิดข้อตกลงการใช้งานอย่างรวดเร็ว
วงจรของ Open Source: จากนวัตกรรมสู่เครื่องมืออาชญากรรม
Henry Ajder ที่ปรึกษาด้าน AI ระบุว่า ปัญหาหลักเกิดจากธรรมชาติของ Open Source (ซอฟต์แวร์ที่เปิดเผยรหัสต้นฉบับให้ใครก็ได้นำไปพัฒนาต่อ) ซึ่งมักเริ่มต้นจากนักพัฒนาที่ต้องการสร้างสิ่งใหม่ที่น่าสนใจ แต่กลับถูกผู้ไม่หวังดีนำไปดัดแปลงเป็นอาวุธทางดิจิทัล
เมื่อโมเดล AI ถูกปล่อยสู่สาธารณะ การจะเรียกคืนหรือลบข้อมูลทั้งหมดออกจากอินเทอร์เน็ตเป็นเรื่องที่เป็นไปไม่ได้ เนื่องจากมีการสำรองข้อมูลไว้ในรูปแบบของ Torrent หรือถูกนำไปโฮสต์ในพื้นที่ลับ เช่น ฟอรัมใน Discord หรือกระทู้ใน Reddit ซึ่งกลายเป็นแหล่งรวมตัวของผู้ที่ต้องการจ้างวานหรือแลกเปลี่ยนเครื่องมือสร้าง Deepfake
| ประเด็นสำคัญ | รายละเอียด |
|---|---|
| นโยบาย GitHub | แบนเนื้อหาที่สร้างภาพลามกโดยไม่ยินยอมตั้งแต่ มิ.ย. 2024 |
| วิธีการหลบเลี่ยง | การทำ Fork โค้ด, ใช้ชื่อเลียนแบบ, และการเก็บในรูปแบบ Archive |
| กลุ่มเป้าหมายหลัก | ผู้หญิง, คนดัง (เช่น Taylor Swift, Emma Watson), และนักการเมืองหญิง |
| ผลกระทบ | การคุกคามทางเพศ, การข่มขู่, และการทำลายชื่อเสียง |
ข้อเท็จจริงสำคัญ
- การแพร่กระจาย: โค้ดสร้าง Deepfake บางตัวมียอด "Star" (การกดถูกใจ/ติดตาม) สูงถึง 46,300 ครั้งก่อนถูกระงับ
- ความยากในการควบคุม: เมื่อซอฟต์แวร์เป็น Open Source จะไม่มีทางทำ "Public Rollback" หรือการดึงข้อมูลกลับคืนได้ทั้งหมด
- ผลกระทบทางสังคม: Deepfake ไม่ได้สร้างเพียงความเสียหายทางจิตใจ แต่ถูกใช้เป็นเครื่องมือทางการเมืองเพื่อโจมตีผู้หญิงทั่วโลก
- ความเคลื่อนไหวทางกฎหมาย: สหรัฐฯ มีอย่างน้อย 30 รัฐที่มีกฎหมายจัดการเรื่องนี้ และสหราชอาณาจักรเพิ่งประกาศให้การสร้างและแชร์ Deepfake ลามกเป็นความผิดทางอาญาเมื่อ 7 มกราคมที่ผ่านมา
คำถามที่พบบ่อย
Deepfake คืออะไรและทำไมถึงอันตราย?
Deepfake คือการใช้ AI ในการสร้างสื่อสังเคราะห์ที่เลียนแบบใบหน้าหรือเสียงของบุคคลจริงได้อย่างแนบเนียน ความอันตรายอยู่ที่การนำไปใช้สร้างเนื้อหาลามกโดยไม่ยินยอม หรือสร้างข่าวปลอมเพื่อทำลายชื่อเสียงและบิดเบือนความจริง
ทำไม GitHub ถึงไม่สามารถลบโค้ดเหล่านี้ให้หมดไปได้?
เนื่องจาก GitHub เป็นแพลตฟอร์ม Open Source ที่อนุญาตให้ผู้ใช้ "Fork" หรือคัดลอกโค้ดไปสร้างเป็นโครงการใหม่ได้ เมื่อโครงการหนึ่งถูกลบ ผู้ใช้อื่นอาจคัดลอกโค้ดนั้นไว้ก่อนแล้วและนำมาเปิดใหม่ในชื่ออื่น ทำให้การกวาดล้างทำได้ยากและไม่สิ้นสุด
ใครคือกลุ่มเป้าหมายหลักของการโจมตีด้วย Deepfake Porn?
ส่วนใหญ่เป็นผู้หญิง โดยเริ่มจากบุคคลสาธารณะ เช่น ดาราและอินฟลูเอนเซอร์ แต่ปัจจุบันเริ่มขยายวงกว้างไปยังผู้หญิงทั่วไป รวมถึงนักการเมืองหญิงเพื่อใช้ในการข่มขู่และลดทอนความน่าเชื่อถือ
เราจะป้องกันหรือรับมือกับปัญหานี้ได้อย่างไร?
การแก้ไขต้องอาศัยความร่วมมือจากหลายฝ่าย ทั้งแพลตฟอร์มที่ต้องเข้มงวดในการคัดกรองตั้งแต่ขั้นตอนการอัปโหลด, นักพัฒนาที่ต้องมีจริยธรรม, และการบังคับใช้กฎหมายที่เด็ดขาดเพื่อลงโทษผู้สร้างและผู้เผยแพร่เนื้อหาที่ละเมิดสิทธิผู้อื่น
