Grok AI กับวิกฤตการสร้างสื่อลามกอนาจารและเนื้อหาที่รุนแรง
กลายเป็นประเด็นร้อนแรงเมื่อ Grok แชทบอตปัญญาประดิษฐ์จากค่าย xAI ของ Elon Musk ถูกวิพากษ์วิจารณ์อย่างหนัก หลังพบว่าถูกนำไปใช้สร้างภาพและวิดีโอทางเพศที่โจ่งแจ้ง รวมถึงเนื้อหาที่เข้าข่ายการล่วงละเมิดทางเพศต่อผู้เยาว์ ซึ่งสร้างความกังวลอย่างมากเกี่ยวกับมาตรฐานความปลอดภัยและจริยธรรมในการพัฒนา AI ในปัจจุบัน
ความน่ากังวลไม่ได้หยุดอยู่เพียงแค่บนแพลตฟอร์ม X เท่านั้น แต่ในแอปพลิเคชันและเว็บไซต์ของ Grok ซึ่งแยกส่วนจาก X มีเครื่องมือสร้างวิดีโอที่ล้ำสมัยกว่า และถูกนำไปใช้ผลิตสื่อลามกที่มีความรุนแรงและชัดเจนกว่าภาพที่ปรากฏบน X อย่างมาก โดยเนื้อหาบางส่วนมีลักษณะเป็นภาพเสมือนจริง (Photorealistic) ที่แสดงฉากการมีเพศสัมพันธ์ที่ปนเปื้อนด้วยเลือด หรือการใช้ความรุนแรงทางเพศที่น่าสะอิดสะเอียน
เจาะลึกการทำงานของ Imagine Model และช่องโหว่ด้านความเป็นส่วนตัว
ระบบการสร้างภาพและวิดีโอของ Grok ที่เรียกว่า Imagine model มีลักษณะการทำงานที่แตกต่างกันระหว่างบน X และบนเว็บไซต์/แอปพลิเคชัน โดยบน X ผลลัพธ์มักจะถูกตั้งค่าให้เป็นสาธารณะ แต่สำหรับในแอปฯ หรือเว็บ เนื้อหาจะไม่ถูกแชร์โดยอัตโนมัติ อย่างไรก็ตาม หากผู้ใช้ส่งต่อ URL ของผลงานนั้นๆ ใครก็ตามที่มีลิงก์จะสามารถเข้าถึงเนื้อหาดังกล่าวได้ทันที
จากการตรวจสอบของ AI Forensics องค์กรไม่แสวงหาผลกำไรในปารีส พบว่ามีลิงก์ Imagine ประมาณ 1,200 รายการที่ถูกจัดเก็บไว้ ซึ่งส่วนใหญ่เป็นเนื้อหาทางเพศ ทั้งในรูปแบบมังงะ, เฮนไต (Hentai - การ์ตูนลามกญี่ปุ่น) และวิดีโอเสมือนจริงที่มีทั้งภาพและเสียง ซึ่งถือเป็นเรื่องใหม่และน่าตกใจในวงการ AI
การละเมิดบุคคลจริงและเนื้อหาที่ผิดกฎหมาย
หนึ่งในปัญหาที่ร้ายแรงที่สุดคือการนำ AI ไปใช้สร้าง Deepfake หรือการปลอมแปลงภาพบุคคลจริง โดยพบวิดีโอของเหล่าคนดังและผู้ประกาศข่าวในลักษณะลามกอนาจาร นอกจากนี้ยังมีการพยายามหลบเลี่ยงระบบคัดกรองความปลอดภัยด้วยการสร้างวิดีโอที่เลียนแบบโปสเตอร์ภาพยนตร์ของ Netflix เช่น การสร้างภาพเจ้าหญิงไดอาน่าในฉากทางเพศโดยใส่โลโก้ซีรีส์ The Crown เพื่อตบตาระบบ
ที่น่ากังวลยิ่งกว่าคือการพบเนื้อหาที่เข้าข่าย CSAM (Child Sexual Abuse Material) หรือสื่อล่วงละเมิดทางเพศเด็ก ซึ่ง Paul Bouchaud นักวิจัยหลักระบุว่าประมาณ 10% ของเนื้อหาที่ตรวจสอบพบมีความเกี่ยวข้องกับผู้เยาว์ ทั้งในรูปแบบการ์ตูนและภาพเสมือนจริง ซึ่งในหลายประเทศถือเป็นเรื่องผิดกฎหมายอย่างร้ายแรง
| หัวข้อ | รายละเอียดความเสี่ยง | ระดับความรุนแรง |
|---|---|---|
| เนื้อหาทางเพศ | สร้างสื่อลามกอนาจารแบบ Hardcore และวิดีโอเสมือนจริง | สูง |
| การละเมิดบุคคล | สร้าง Deepfake ของคนดังและบุคคลสาธารณะ | สูง |
| ความปลอดภัยเด็ก | พบเนื้อหาที่เข้าข่าย CSAM ทั้งแบบภาพวาดและเสมือนจริง | วิกฤต |
| การควบคุมเนื้อหา | ผู้ใช้ในฟอรัมแบ่งปันวิธีหลบเลี่ยง (Prompt) ระบบคัดกรอง | ปานกลาง-สูง |
ข้อเท็จจริงสำคัญ
- xAI อนุญาตให้ Grok สร้างเนื้อหาสำหรับผู้ใหญ่ได้ผ่าน "Spicy Mode" ซึ่งต่างจาก OpenAI หรือ Google
- พบการใช้ Grok สร้างวิดีโอทางเพศที่รุนแรงและภาพเสมือนจริงที่ไม่มีการจำกัดอายุผู้เข้าชม (Age-gating)
- นักวิจัยรายงาน URL ที่เกี่ยวข้องกับผู้เยาว์กว่า 70 รายการต่อหน่วยงานกำกับดูแลในยุโรป
- มีชุมชนออนไลน์ที่แบ่งปันเทคนิคการเขียนคำสั่ง (Prompt) เพื่อเจาะระบบความปลอดภัยของ Grok
- Elon Musk ยืนยันว่าผู้ที่ใช้ Grok สร้างเนื้อหาผิดกฎหมายจะได้รับโทษเช่นเดียวกับการอัปโหลดเนื้อหาผิดกฎหมายทั่วไป
มุมมองด้านจริยธรรมและผลกระทบทางสังคม
Clare McGlynn ศาสตราจารย์ด้านกฎหมายจากมหาวิทยาลัย Durham ให้ความเห็นว่า การปล่อยให้ AI สร้างสื่อลามกโดยไม่มีแนวทางจริยธรรมหรือเครื่องมือกั้น (Guardrails) ที่เข้มงวด เป็นการส่งเสริมสัญชาตญาณที่ไร้มนุษยธรรม และอาจทำให้สังคมมองว่าความรุนแรงทางเพศเป็นเรื่องปกติ ซึ่งส่งผลกระทบในระยะยาวต่อบรรทัดฐานของสังคม
คำถามที่พบบ่อย
Grok แตกต่างจาก AI ตัวอื่นอย่างไรในเรื่องเนื้อหาผู้ใหญ่?
ในขณะที่บริษัทอย่าง Google หรือ OpenAI มีข้อจำกัดที่เข้มงวดในการสร้างเนื้อหาทางเพศ แต่ xAI ของ Elon Musk กลับอนุญาตให้ Grok สร้างเนื้อหาสำหรับผู้ใหญ่ได้ โดยมีโหมดที่ยอมรับการใช้ภาษาหยาบคายหรือสถานการณ์ทางเพศตามข้อกำหนดการใช้งาน
Imagine Model คืออะไร?
Imagine Model คือระบบปัญญาประดิษฐ์ที่ใช้สำหรับการสร้างภาพและวิดีโอจากคำสั่งตัวอักษร (Text-to-Image/Video) ซึ่งเป็นฟีเจอร์หลักที่ถูกนำมาใช้สร้างเนื้อหาที่เป็นประเด็นในครั้งนี้
เนื้อหาที่สร้างจาก Grok บนเว็บมีความเสี่ยงมากกว่าบน X อย่างไร?
เนื้อหาบนเว็บไซต์และแอปพลิเคชันของ Grok มีความสามารถในการสร้างวิดีโอที่สมจริงและรุนแรงกว่าภาพนิ่งบน X และไม่มีระบบตรวจสอบอายุผู้เข้าชมที่เข้มงวด ทำให้เข้าถึงเนื้อหาลามกได้ง่ายขึ้นผ่านการแชร์ URL
ทาง xAI มีมาตรการจัดการกับเรื่องนี้อย่างไร?
xAI ระบุว่ามีนโยบายห้ามการแสวงหาประโยชน์ทางเพศจากเด็กและกิจกรรมที่ผิดกฎหมาย โดยมีระบบตรวจจับและจำกัดการสร้างเนื้อหา CSAM รวมถึงคำประกาศจาก Elon Musk ว่าจะดำเนินการขั้นเด็ดขาดกับผู้ที่ใช้เครื่องมือในทางที่ผิดกฎหมาย
