X และ Grok จำกัดการสร้างภาพนู้ดและชุดว่ายน้ำ หลังเผชิญกระแสวิจารณ์ทั่วโลก
แพลตฟอร์ม X ภายใต้การนำของ Elon Musk ได้ประกาศใช้มาตรการจำกัดการแก้ไขและสร้างรูปภาพของบุคคลที่มีตัวตนจริงในชุดว่ายน้ำหรือ Revealing Clothing (เสื้อผ้าที่เปิดเผยร่างกาย) เพื่อตอบโต้กระแสวิพากษ์วิจารณ์อย่างรุนแรงทั่วโลก หลังจากพบว่า Grok ซึ่งเป็น AI ของบริษัท xAI ถูกนำไปใช้สร้างภาพตัดต่อในลักษณะ "ถอดเสื้อผ้า" (Undressing) ของผู้หญิงและภาพทางเพศของเยาวชนโดยไม่ได้รับความยินยอม
แม้ว่า X จะพยายามนำระบบความปลอดภัยมาใช้ แต่จากการตรวจสอบของนักวิจัยและสื่ออย่าง WIRED พบว่าช่องโหว่ยังคงมีอยู่ โดยเฉพาะในแอปพลิเคชันและเว็บไซต์แยกของ Grok (Grok.com) ที่ยังสามารถสร้างภาพนู้ดที่ดูสมจริงได้ ซึ่งแตกต่างจากตัว Grok ที่ฝังอยู่ในแพลตฟอร์ม X ที่มีการควบคุมเข้มงวดกว่า
ข้อเท็จจริงสำคัญ
- X บล็อกการสร้างภาพบุคคลจริงในชุดว่ายน้ำและชุดชั้นในในพื้นที่ที่กฎหมายไม่อนุญาต (Geoblock)
- Grok.com และแอปพลิเคชันแยกยังคงถูกรายงานว่าสามารถสร้างเนื้อหาทางเพศและภาพนู้ดได้
- xAI เคยเปิดตัว "Spicy Mode" ซึ่งอนุญาตให้สร้างเนื้อหาทางเพศ จนนำไปสู่การสร้างภาพปลอมของบุคคลที่มีชื่อเสียง
- หน่วยงานรัฐในหลายประเทศ เช่น สหราชอาณาจักร สหรัฐอเมริกา และสหภาพยุโรป กำลังตรวจสอบการทำงานของ X และ Grok
- Elon Musk ระบุว่าอนุญาตให้สร้างภาพนู้ดเฉพาะ "มนุษย์สมมติ" (Imaginary humans) ที่เป็นผู้ใหญ่เท่านั้น
| ช่องทางใช้งาน | สถานะการควบคุม | ผลลัพธ์จากการทดสอบ |
|---|---|---|
| Grok บน X | เข้มงวดสูง | จำกัดการสร้างภาพชุดว่ายน้ำ/นู้ดของบุคคลจริง |
| Grok.com / แอป Grok | ปานกลางถึงต่ำ | ยังสามารถสร้างภาพนู้ดสมจริงได้ในบางกรณี |
| บัญชี Verified (จ่ายเงิน) | เข้าถึงฟีเจอร์ได้มากกว่า | เป็นกลุ่มหลักที่ใช้สร้างภาพก่อนมีการจำกัด |
ทางด้าน Paul Bouchaud จาก AI Forensics องค์กรไม่แสวงหาผลกำไรในปารีส เปิดเผยว่าทีมงานสามารถสร้างภาพนู้ดผ่าน Grok.com ได้สำเร็จ แม้ว่าใน X จะถูกบล็อกแล้วก็ตาม ขณะที่นักข่าวจาก The Verge และ Bellingcat ในสหราชอาณาจักรก็พบว่ายังสามารถสร้างภาพทางเพศได้ ซึ่งสร้างความกังวลให้กับรัฐบาลอังกฤษที่กำลังดำเนินการสอบสวนเรื่องนี้อย่างใกล้ชิด
ปัญหาดังกล่าวสะท้อนถึงความท้าทายของ Generative AI (AI ที่สามารถสร้างเนื้อหาใหม่ได้) ซึ่งมักถูกผู้ใช้พยายามเจาะระบบผ่านวิธี Jailbreaks หรือ Prompt Injections (การป้อนคำสั่งหลอกล่อเพื่อให้ AI ข้ามกฎความปลอดภัย) เพื่อสร้างเนื้อหาที่ต้องห้าม เช่น วิธีการสร้างระเบิด หรือภาพลามกอนาจาร
ปัจจุบัน X ระบุว่ากำลังเร่งพัฒนาระบบป้องกันเพิ่มเติม และมุ่งเน้นการลบเนื้อหาที่ละเมิดกฎขั้นรุนแรง โดยเฉพาะ CSAM (Child Sexual Abuse Material) หรือสื่อลามกอนาจารเด็ก และภาพนู้ดที่ไม่ได้รับความยินยอม เพื่อให้สอดคล้องกับกฎหมายของแต่ละประเทศ
คำถามที่พบบ่อย
Grok จำกัดการสร้างภาพประเภทใดบ้าง?
จำกัดการสร้างและแก้ไขภาพของบุคคลที่มีตัวตนจริงในชุดว่ายน้ำ ชุดชั้นใน หรือเสื้อผ้าที่เปิดเผยร่างกาย รวมถึงภาพนู้ดที่ไม่ได้รับความยินยอม
ทำไมบางคนยังสามารถสร้างภาพนู้ดจาก Grok ได้?
เนื่องจากมาตรการความปลอดภัยใน Grok.com และแอปพลิเคชันแยก ยังไม่เข้มงวดเท่ากับ Grok ที่ใช้งานผ่านแพลตฟอร์ม X ทำให้ผู้ใช้บางส่วนยังสามารถเลี่ยงบาลีหรือใช้คำสั่งเฉพาะเพื่อสร้างภาพได้
Elon Musk มีความเห็นอย่างไรต่อเนื้อหา NSFW ใน Grok?
Musk ระบุว่า Grok ควรอนุญาตให้สร้างภาพนู้ดส่วนบนของ "มนุษย์สมมติ" ที่เป็นผู้ใหญ่ได้ โดยอ้างอิงมาตรฐานเดียวกับภาพยนตร์เรท R ในสหรัฐอเมริกา แต่ต้องปรับเปลี่ยนตามกฎหมายของแต่ละประเทศ
การจำกัดการใช้งานนี้ส่งผลต่อผู้ใช้ทั่วไปอย่างไร?
ผู้ใช้ทั้งแบบฟรีและแบบชำระเงินจะไม่สามารถสร้างภาพบุคคลจริงในชุดเปิดเผยร่างกายได้ และในบางประเทศจะมีการใช้ Geoblock เพื่อปิดกั้นฟีเจอร์นี้โดยสิ้นเชิงตามกฎหมายท้องถิ่น