ChatGPT และช่องโหว่ 'บทกวี' ที่อาจถูกใช้สร้างอาวุธนิวเคลียร์
จินตนาการว่าคุณสามารถขอให้ AI ช่วยสร้างระเบิดนิวเคลียร์ได้ เพียงแค่เปลี่ยนคำถามให้กลายเป็น บทกวี นี่ไม่ใช่พล็อตหนังไซไฟ แต่เป็นผลการศึกษาล่าสุดจากทีมนักวิจัยในยุโรปที่ค้นพบวิธีการเจาะระบบความปลอดภัยของปัญญาประดิษฐ์ในรูปแบบที่คาดไม่ถึง
งานวิจัยชิ้นนี้มีชื่อว่า "Adversarial Poetry as a Universal Single-Turn Jailbreak in Large Language Models (LLMs)" ซึ่งเป็นความร่วมมือระหว่าง Icaro Lab, มหาวิทยาลัย Sapienza ในกรุงโรม และสถาบันคิดวิเคราะห์ DexAI โดยพวกเขาพบว่าการใช้ Jailbreak (การเจาะระบบเพื่อข้ามข้อจำกัดด้านความปลอดภัย) ผ่านรูปแบบร้อยกรอง สามารถทำให้ AI ยอมตอบคำถามอันตรายที่ปกติจะถูกสั่งห้ามไว้
เมื่อศิลปะกลายเป็นเครื่องมือเจาะระบบ AI
โดยปกติแล้ว แชตบอตชื่อดังอย่าง ChatGPT หรือ Claude จะมี Guardrails หรือระบบป้องกันที่คอยคัดกรองไม่ให้ AI ให้ข้อมูลเกี่ยวกับการสร้างอาวุธร้ายแรง การผลิตพลูโตเนียมระดับอาวุธ หรือเนื้อหาที่ผิดกฎหมายและรุนแรง แต่ทีมวิจัยพบว่าหากผู้ใช้เปลี่ยนคำถามให้เป็นบทกวีที่ใช้การเปรียบเปรย (Metaphor) การเรียงประโยคที่ขาดตอน หรือการอ้างอิงทางอ้อม ระบบป้องกันเหล่านี้จะทำงานผิดพลาดทันที
จากการทดสอบกับแชตบอต 25 ตัวจากบริษัทชั้นนำอย่าง OpenAI, Meta และ Anthropic พบว่าทุกตัวมีช่องโหว่นี้ โดยมีอัตราความสำเร็จในการเจาะระบบสูงถึง 62% สำหรับบทกวีที่เขียนด้วยมือ และประมาณ 43% สำหรับการใช้เครื่องมือแปลงคำสั่งอัตโนมัติ ซึ่งในบางโมเดลระดับสูง (Frontier Models) อัตราความสำเร็จพุ่งสูงถึง 90% เลยทีเดียว
| วิธีการสร้างคำสั่ง (Prompt) | อัตราความสำเร็จเฉลี่ย | หมายเหตุ |
|---|---|---|
| บทกวีที่เขียนด้วยมือ (Hand-crafted) | 62% | มีประสิทธิภาพสูงสุด |
| การแปลงคำสั่งอัตโนมัติ (Meta-prompt) | 43% | ดีกว่าการใช้ร้อยแก้วปกติ |
| โมเดลระดับสูง (Frontier Models) | สูงสุด 90% | ช่องโหว่รุนแรงในบางกรณี |
ทำไม 'บทกวี' ถึงหลอก AI ได้?
นักวิจัยจาก Icaro Lab อธิบายว่าในทางเทคนิค บทกวีมีลักษณะคล้ายกับ Adversarial Suffixes หรือการเติมข้อความส่วนเกินที่ไร้ความหมายเข้าไปในคำสั่งเพื่อทำให้ AI สับสน ซึ่งก่อนหน้านี้ Intel เคยทดลองใช้ศัพท์วิชาการที่ซับซ้อนเพื่อหลอก AI ในลักษณะเดียวกัน
ปัจจัยสำคัญอยู่ที่ค่า Temperature ซึ่งเป็นพารามิเตอร์ที่ควบคุมความคาดเดาได้ของคำตอบ AI หากค่านี้ต่ำ AI จะเลือกคำที่น่าจะเป็นไปได้มากที่สุด แต่บทกวีคือการเลือกใช้คำที่คาดเดาได้ยาก มีโครงสร้างประโยคที่แปลกประหลาด และใช้ภาพพจน์ที่ซับซ้อน ซึ่งทำให้ระบบ Classifier (ตัวจำแนกประเภทคำสั่ง) ที่คอยตรวจจับคำสำคัญ (Keywords) อันตรายไม่สามารถตรวจพบได้
หากเปรียบเทียบการประมวลผลของ AI เป็นแผนที่หลายมิติ คำว่า "ระเบิด" จะเป็นจุดที่ส่งสัญญาณเตือนภัยทันที แต่เมื่อถูกแปลงเป็นบทกวี เส้นทางการประมวลผลจะเปลี่ยนทิศทางไปในจุดที่ระบบเตือนภัยเข้าไม่ถึง แม้ว่าในมุมมองของมนุษย์ ความหมายจะยังคงเดิมก็ตาม
ข้อเท็จจริงสำคัญ
- การทดสอบครอบคลุม: พบช่องโหว่ใน AI จากทั้ง OpenAI, Meta และ Anthropic
- ประสิทธิภาพสูง: การใช้บทกวีมีโอกาสเจาะระบบสำเร็จสูงกว่าการถามตรงๆ อย่างมาก
- ความอันตราย: นักวิจัยปฏิเสธที่จะเปิดเผยตัวอย่างบทกวีที่ใช้เจาะระบบจริง เพราะเกรงว่าจะเป็นอันตรายต่อสาธารณะ
- จุดอ่อนของระบบ: เกิดจากความไม่สอดคล้องกันระหว่างความสามารถในการตีความที่สูงของ AI กับระบบป้องกันที่เปราะบางต่อการเปลี่ยนสไตล์ภาษา
คำถามที่พบบ่อย
การ Jailbreak คืออะไร?
คือเทคนิคการออกแบบคำสั่ง (Prompt Engineering) เพื่อหลอกให้ AI ข้ามกฎความปลอดภัยหรือข้อจำกัดที่ผู้พัฒนาตั้งไว้ เพื่อให้ AI ยอมตอบในสิ่งที่ปกติถูกสั่งห้าม
ทำไมผู้พัฒนา AI ถึงไม่ป้องกันเรื่องนี้?
เนื่องจากระบบป้องกันมักตรวจจับจากคำสำคัญหรือรูปแบบประโยคที่ชัดเจน แต่บทกวีมีความยืดหยุ่นและซับซ้อนสูง ทำให้ยากต่อการสร้างตัวกรองที่ครอบคลุมทุกรูปแบบโดยไม่กระทบต่อการใช้งานปกติ
บทกวีแบบไหนที่ใช้เจาะระบบได้?
เป็นบทกวีที่ใช้การเปรียบเปรย การใช้ไวยากรณ์ที่แตกหัก และการอ้างอิงทางอ้อม เพื่อซ่อนความหมายที่แท้จริงของคำสั่งอันตรายไว้ภายใต้ความสวยงามของภาษา
งานวิจัยนี้ส่งผลกระทบต่อผู้ใช้ทั่วไปอย่างไร?
สำหรับผู้ใช้ทั่วไปอาจไม่มีผลกระทบโดยตรง แต่เป็นคำเตือนสำคัญสำหรับผู้พัฒนา AI ว่าระบบความปลอดภัยในปัจจุบันยังคงมีช่องโหว่ที่สามารถถูกโจมตีได้ด้วยวิธีการทางภาษาศาสตร์
