Generative AI Worms ภัยคุกคามรูปแบบใหม่ที่สามารถแพร่กระจายและขโมยข้อมูลผ่าน AI Agent

ในขณะที่ระบบ Generative AI อย่าง ChatGPT ของ OpenAI และ Gemini ของ Google พัฒนาไปอย่างก้าวกระโดด จนสามารถสร้าง AI Agent ที่ช่วยจัดการงานน่าเบื่อแทนมนุษย์ได้ เช่น การนัดหมายปฏิทินหรือการสั่งซื้อสินค้า แต่ความสะดวกสบายนี้มาพร้อมกับความเสี่ยงที่เพิ่มขึ้น เมื่อ AI ได้รับอิสระในการทำงานมากขึ้น ช่องโหว่ที่ผู้ไม่หวังดีจะใช้โจมตีก็กว้างขึ้นตามไปด้วย

ล่าสุด ทีมนักวิจัยได้สร้างสิ่งที่เรียกว่า Generative AI Worm หรือ "เวิร์ม AI" ซึ่งเป็นมัลแวร์ประเภทหนึ่งที่สามารถแพร่กระจายจากระบบหนึ่งไปยังอีกระบบหนึ่งได้ด้วยตัวเอง โดยมีเป้าหมายเพื่อขโมยข้อมูลสำคัญหรือติดตั้งซอฟต์แวร์อันตราย ซึ่ง Ben Nassi นักวิจัยจาก Cornell Tech ระบุว่านี่คือรูปแบบการโจมตีทางไซเบอร์ชนิดใหม่ที่โลกไม่เคยเห็นมาก่อน

ทำความรู้จักกับ Morris II: เวิร์ม AI ตัวแรกของโลก

นักวิจัยนำโดย Ben Nassi, Stav Cohen และ Ron Bitton ได้พัฒนาเวิร์มตัวนี้ขึ้นในชื่อ Morris II เพื่อเป็นการรำลึกถึง Morris Worm ที่เคยสร้างความปั่นป่วนให้โลกอินเทอร์เน็ตในปี 1988 โดย Morris II ถูกออกแบบมาเพื่อโจมตีผู้ช่วย AI ที่จัดการอีเมล เพื่อขโมยข้อมูลและส่งข้อความสแปม ซึ่งในการทดสอบพบว่าสามารถเจาะทะลุระบบป้องกันบางส่วนของทั้ง ChatGPT และ Gemini ได้

การโจมตีนี้อาศัยช่องโหว่ของ Large Language Models (LLMs) หรือโมเดลภาษาขนาดใหญ่ ซึ่งปัจจุบันมีความสามารถแบบ Multimodal (สามารถประมวลผลได้ทั้งข้อความ ภาพ และวิดีโอ) ทำให้การส่งต่อคำสั่งอันตรายทำได้หลากหลายรูปแบบมากขึ้น

Illustration of two computers with a red wormlike line wrapped around them

กลไกการทำงาน: จาก Prompt Injection สู่การแพร่พันธุ์

โดยปกติ AI จะทำงานตาม Prompt (คำสั่งข้อความ) แต่คำสั่งเหล่านี้สามารถถูกเปลี่ยนเป็นอาวุธได้ผ่านวิธีการที่เรียกว่า Prompt Injection หรือการแอบใส่คำสั่งลับเพื่อให้ AI ทำงานนอกเหนือจากที่กำหนด เช่น การสั่งให้ AI หลอกถามข้อมูลธนาคารจากผู้ใช้

สำหรับ Morris II นักวิจัยใช้เทคนิค Adversarial Self-Replicating Prompt ซึ่งเป็นคำสั่งที่กระตุ้นให้ AI สร้างคำสั่งชุดใหม่ขึ้นมาในคำตอบของตัวเอง ทำให้ AI กลายเป็นตัวแพร่กระจายคำสั่งอันตรายต่อไปยังระบบอื่น คล้ายกับการโจมตีแบบ SQL Injection หรือ Buffer Overflow ในระบบคอมพิวเตอร์ดั้งเดิม

วิธีการโจมตี 2 รูปแบบหลัก

  • การโจมตีผ่านข้อความ (Text-based): ใช้การ "วางยา" ในฐานข้อมูลของระบบ RAG (Retrieval-Augmented Generation) ซึ่งเป็นเทคนิคที่ AI ใช้ดึงข้อมูลภายนอกมาตอบคำถาม เมื่อ AI ดึงข้อมูลที่ถูกวางยามาใช้ จะทำให้ระบบถูก Jailbreak (การปลดล็อกข้อจำกัดด้านความปลอดภัย) และขโมยข้อมูลส่วนตัวส่งต่อไปยังเหยื่อรายใหม่
  • การโจมตีผ่านรูปภาพ (Image-based): ฝังคำสั่งอันตรายไว้ในไฟล์รูปภาพ เมื่อผู้ช่วย AI ประมวลผลภาพดังกล่าว จะถูกสั่งให้ส่งต่ออีเมลนั้นไปยังผู้อื่นโดยอัตโนมัติ ซึ่งสามารถใช้แพร่กระจายสแปมหรือโฆษณาชวนเชื่อได้

ข้อเท็จจริงสำคัญ

  • ความสามารถในการขโมยข้อมูล: สามารถดึงข้อมูลลับ เช่น ชื่อ, เบอร์โทรศัพท์, หมายเลขบัตรเครดิต และเลขบัตรประชาชน (SSN)
  • เป้าหมายการโจมตี: มุ่งเน้นไปที่ AI Agent ที่มีสิทธิ์เข้าถึงข้อมูลส่วนตัวและสามารถดำเนินการแทนมนุษย์ได้
  • การคาดการณ์: นักวิจัยเชื่อว่าเราอาจเห็น Generative AI Worm ในโลกจริงภายใน 2-3 ปีข้างหน้า
  • จุดอ่อนหลัก: เกิดจากการออกแบบสถาปัตยกรรมระบบที่ขาดการตรวจสอบหรือกรองข้อมูลนำเข้า (User Input) อย่างเข้มงวด
สรุปเปรียบเทียบการโจมตีแบบดั้งเดิม vs Generative AI Worm
หัวข้อเปรียบเทียบ การโจมตีแบบดั้งเดิม (Traditional Worm) Generative AI Worm (Morris II)
วิธีการแพร่กระจาย ใช้ช่องโหว่ของซอฟต์แวร์/เครือข่าย ใช้ Prompt Injection และการสร้างคำสั่งซ้ำ (Self-Replicating)
สื่อกลางที่ใช้ ไฟล์โปรแกรม (.exe, .dll) ข้อความ (Text) และรูปภาพ (Images)
เป้าหมายหลัก ระบบปฏิบัติการและเซิร์ฟเวอร์ LLMs และ AI Agents ที่เชื่อมต่อกับข้อมูลผู้ใช้
ผลกระทบ ระบบล่ม, ข้อมูลถูกทำลาย ขโมยข้อมูลส่วนตัว, ส่งสแปม, ควบคุม AI Agent

แนวทางการป้องกันและลดความเสี่ยง

ผู้เชี่ยวชาญด้านความปลอดภัยแนะนำว่า วิธีการป้องกันที่ดีที่สุดคือการไม่เชื่อถือผลลัพธ์ (Output) จาก LLM โดยตรงในทุกส่วนของแอปพลิเคชัน และควรใช้หลักการ Human-in-the-Loop หรือการให้มนุษย์เป็นผู้ตรวจสอบและอนุมัติก่อนที่ AI Agent จะดำเนินการสำคัญ เช่น การส่งอีเมลหรือการโอนเงิน

นอกจากนี้ การออกแบบระบบให้มีขอบเขต (Boundary) ที่ชัดเจน และการเฝ้าระวังรูปแบบคำสั่งที่ถูกส่งซ้ำๆ จำนวนมากในระบบ จะช่วยให้ผู้พัฒนาสามารถตรวจพบการโจมตีได้รวดเร็วยิ่งขึ้น

คำถามที่พบบ่อย

Generative AI Worm คืออะไร?

คือมัลแวร์รูปแบบใหม่ที่ใช้คำสั่ง (Prompt) ในการสั่งให้ AI สร้างคำสั่งอันตรายซ้ำๆ เพื่อแพร่กระจายตัวเองจากระบบ AI หนึ่งไปยังอีกระบบหนึ่ง โดยสามารถขโมยข้อมูลหรือสั่งการ AI ให้ทำงานที่เป็นอันตรายได้

Morris II สามารถโจมตี ChatGPT และ Gemini ได้จริงหรือไม่?

จากการทดลองในสภาพแวดล้อมจำลอง นักวิจัยพบว่าสามารถเจาะระบบป้องกันบางส่วนของทั้งสองระบบได้ โดยอาศัยช่องโหว่จากการรับข้อมูลนำเข้าที่ไม่ได้ผ่านการกรองอย่างละเอียด

เราจะโดนโจมตีด้วย AI Worm ได้อย่างไร?

การโจมตีมักเกิดขึ้นผ่านข้อมูลที่ AI เข้าถึง เช่น การได้รับอีเมลที่มีข้อความหรือรูปภาพที่ฝังคำสั่งอันตรายไว้ เมื่อ AI Agent ของเราอ่านข้อมูลนั้นและประมวลผล มันอาจถูกสั่งให้ขโมยข้อมูลในเครื่องหรือส่งต่อคำสั่งนั้นไปยังผู้อื่น

วิธีป้องกันตัวเองจากภัยคุกคามนี้ทำได้อย่างไร?

สำหรับผู้ใช้ทั่วไป ควรระมัดระวังการให้สิทธิ์ AI Agent เข้าถึงข้อมูลสำคัญหรือสั่งการแทนเราโดยไม่มีการตรวจสอบ ส่วนผู้พัฒนาควรออกแบบระบบให้มีการกรอง Input อย่างเข้มงวด และกำหนดให้มนุษย์ต้องเป็นผู้กดยืนยันการกระทำสำคัญเสมอ

ภัยคุกคามนี้จะเกิดขึ้นในชีวิตจริงเมื่อไหร่?

นักวิจัยคาดการณ์ว่าอาจจะเริ่มเห็นการโจมตีในลักษณะนี้ในโลกจริงภายใน 2 ถึง 3 ปีข้างหน้า เนื่องจากบริษัทเทคโนโลยีต่างๆ กำลังนำ AI ไปรวมเข้ากับสมาร์ทโฟน รถยนต์ และระบบปฏิบัติการมากขึ้น