Apple และ Google ถูกจี้ถอดแอป AI 'ถอดเสื้อผ้า' หลังพบสร้างภาพนู้ดปลอมละเมิดสิทธิ
กลายเป็นประเด็นร้อนแรงในวงการเทคโนโลยี เมื่อยักษ์ใหญ่ระดับโลกอย่าง Apple และ Google ถูกกดดันอย่างหนักให้กำจัดแอปพลิเคชันที่ใช้เทคโนโลยี AI ในการ "ถอดเสื้อผ้า" หรือสร้างภาพนู้ดปลอม (Nudify Apps) ออกจากสโตร์ โดยทางอัยการเมืองซานฟรานซิสโกชี้ว่า บริษัทเหล่านี้ไม่ควรได้รับผลประโยชน์ทางการเงินจากเทคโนโลยีที่สร้างความเสียหายต่อผู้คน
เดวิด ชิว (David Chiu) อัยการเมืองซานฟรานซิสโก ได้ส่งหนังสือแจ้งเตือนทางกฎหมายเพื่อสั่งให้ทั้งสองบริษัทลบแอปพลิเคชันประเภท Face-swapping (การสลับใบหน้า) จำนวน 13 แอป ซึ่งถูกนำมาใช้สร้างภาพนู้ดโดยที่เจ้าตัวไม่ยินยอม โดยระบุว่าการปล่อยให้แอปเหล่านี้วางขายถือเป็นการ "สนับสนุนและส่งเสริม" การแพร่กระจายของภาพ Deepfake (สื่อสังเคราะห์ที่ใช้ AI สร้างภาพหรือเสียงให้ดูเหมือนจริง) ที่ลามกอนาจาร
ผลกระทบที่รุนแรงกว่าแค่เรื่องภาพถ่าย
การสร้างภาพนู้ดปลอมโดยไม่ได้รับความยินยอมไม่ใช่เพียงเรื่องของเทคโนโลยี แต่เป็นอาชญากรรมที่สร้างบาดแผลทางจิตใจอย่างรุนแรง โดยเฉพาะกับผู้หญิงและเด็ก ซึ่งมักตกเป็นเป้าหมายหลักของแอปเหล่านี้ ภาพเหล่านี้ถูกนำไปใช้ในการกลั่นแกล้ง ข่มขู่ และทำลายชื่อเสียง จนนำไปสู่ภาวะซึมเศร้าหรือการพยายามฆ่าตัวตายในบางกรณี
ข้อมูลที่น่าตกใจระบุว่า มีเหตุการณ์ละเมิดทางเพศผ่านภาพ Deepfake เกิดขึ้นในโรงเรียนอย่างน้อย 90 แห่ง ซึ่งเหยื่อเป็นผู้เยาว์ สะท้อนให้เห็นว่าเทคโนโลยีนี้ได้แทรกซึมเข้าสู่ชีวิตประจำวันและสร้างความอันตรายในวงกว้าง
กลยุทธ์การหลบเลี่ยงและการทำกำไร
แอปพลิเคชันเหล่านี้มักไม่โฆษณาตัวเองว่าเป็นแอปถอดเสื้อผ้า แต่จะใช้คำว่า "เครื่องมือสลับใบหน้า" เพื่อหลบเลี่ยงการตรวจสอบของระบบ Content Moderation (การกลั่นกรองเนื้อหา) ของ App Store และ Play Store แต่เมื่อผู้ใช้ติดตั้งแล้ว จะพบฟีเจอร์ลับที่สามารถสร้างภาพลามกได้ เช่น สไตล์ "Bikini Queen" หรือ "Cinematic Intimacy"
นอกจากนี้ แอปเหล่านี้ยังสร้างรายได้มหาศาลผ่านระบบการชำระเงินในแอป (In-app payments) ซึ่ง Apple และ Google จะได้รับส่วนแบ่งค่าธรรมเนียมด้วย โดยกลุ่ม Tech Transparency Project (TTP) ประเมินว่าแอปประเภทนี้อาจสร้างรายได้รวมกันสูงถึง 120 ล้านดอลลาร์ และมียอดดาวน์โหลดรวมกว่า 480 ล้านครั้ง
| หัวข้อ | รายละเอียด |
|---|---|
| จำนวนแอปที่ถูกแจ้งเตือน | 13 แอป (App Store 8 แอป / Play Store 5 แอป) |
| รูปแบบการหลอกลวง | แอบอ้างเป็นแอปสลับใบหน้า (Face-swapping) |
| ผลกระทบทางสังคม | การกลั่นแกล้ง, ทำลายชื่อเสียง, กระทบสุขภาพจิตผู้หญิงและเด็ก |
| รายได้โดยประมาณ (TTP) | ประมาณ 120 ล้านดอลลาร์สหรัฐ |
| ยอดดาวน์โหลดโดยประมาณ | ประมาณ 480 ล้านครั้ง |
ข้อเท็จจริงสำคัญ
- การละเมิดกฎหมาย: กฎหมายรัฐแคลิฟอร์เนียสั่งห้ามสนับสนุนบริการที่สร้างสื่อลามก Deepfake
- ช่องโหว่ของระบบ: งานวิจัยจาก Cornell และ Georgetown พบว่า 70% ของแอปสลับใบหน้าที่ทดสอบ สามารถนำมาสร้างภาพนู้ดได้โดยไม่มีระบบป้องกัน
- การตอบสนองของ Google: ระบุว่าได้ลบแอปที่มีฟีเจอร์ถอดเสื้อผ้าไปแล้วหลายร้อยแอป และจำกัดคำค้นหา เช่น "nudify" ในสโตร์
- การตอบสนองของ Apple: ยืนยันว่าได้ลบ 3 แอปที่ถูกแจ้งเตือนและกำลังยกเลิกบัญชีนักพัฒนา ส่วนแอปที่เหลือต้องแก้ไขให้ถูกต้องตามนโยบาย
คำถามที่พบบ่อย
แอป Nudify คืออะไร?
คือแอปพลิเคชันที่ใช้ปัญญาประดิษฐ์ (AI) ในการดัดแปลงรูปภาพเพื่อลบเสื้อผ้าออกจากตัวบุคคลในภาพ หรือสร้างภาพนู้ดปลอมขึ้นมา ซึ่งเป็นการละเมิดความเป็นส่วนตัวอย่างร้ายแรง
ทำไมแอปเหล่านี้ถึงหลุดรอดการตรวจสอบของ Apple และ Google ได้?
เนื่องจากแอปเหล่านี้มักใช้กลยุทธ์ "Dual-use" หรือการนำเสนอตัวเองว่าเป็นเครื่องมือแก้ไขภาพทั่วไป เช่น การสลับใบหน้า ซึ่งดูไม่มีอันตราย ทำให้ผ่านการตรวจสอบเบื้องต้นได้ ก่อนจะเปิดฟีเจอร์อันตรายให้ใช้ภายหลัง
Deepfake มีอันตรายอย่างไรในเชิงสังคม?
Deepfake ถูกนำมาใช้เป็นเครื่องมือในการคุกคามทางเพศ การแบล็กเมล์ และการทำลายชื่อเสียง โดยเฉพาะกับผู้หญิงและเด็ก ซึ่งส่งผลกระทบต่อสุขภาพจิตอย่างรุนแรงและอาจนำไปสู่โศกนาฏกรรมได้
ทางออกที่ยั่งยืนในการจัดการปัญหานี้คืออะไร?
อัยการเมืองซานฟรานซิสโกเสนอให้บริษัทเทคโนโลยีปรับปรุงระบบการคัดกรองแอปให้เข้มงวดขึ้น และหยุดรับผลประโยชน์ทางการเงินจากแอปที่ละเมิดสิทธิมนุษยชน รวมถึงการบังคับใช้กฎหมายอย่างจริงจังกับผู้พัฒนาแอป
