Microsoft Copilot กับช่องโหว่ความปลอดภัยที่แฮกเกอร์ใช้เปลี่ยน AI ให้เป็นเครื่องมือโจมตี
ในยุคที่ Generative AI หรือปัญญาประดิษฐ์ที่สามารถสร้างเนื้อหาใหม่ได้ กลายเป็นหัวใจสำคัญของระบบการทำงาน Microsoft ได้ผลักดัน Copilot เข้ามาช่วยเพิ่มประสิทธิภาพในการทำงาน ไม่ว่าจะเป็นการสรุปอีเมล การค้นหาข้อมูลใน Teams หรือการจัดการไฟล์ใน Word อย่างไรก็ตาม ความสะดวกสบายนี้กลับกลายเป็นดาบสองคมที่เปิดช่องว่างให้ผู้ไม่หวังดีนำไปใช้ประโยชน์ในทางที่ผิด
ในการประชุมด้านความปลอดภัยระดับโลกอย่าง Black Hat ที่ลาสเวกัส Michael Bargury นักวิจัยด้านความปลอดภัยและ CTO ของบริษัท Zenity ได้นำเสนอหลักฐานการโจมตี 5 รูปแบบที่สามารถควบคุม Copilot ในแอปพลิเคชัน Microsoft 365 ให้ทำงานตามความต้องการของแฮกเกอร์ ซึ่งรวมถึงการดึงข้อมูลส่วนตัวและการหลบเลี่ยงระบบป้องกันของ Microsoft
เปลี่ยน AI ให้เป็นเครื่องมือส่งอีเมลหลอกลวงอัตโนมัติ
หนึ่งในสิ่งที่น่ากังวลที่สุดคือการสร้างสิ่งที่เรียกว่า LOLCopilot ซึ่งเป็นโค้ดที่เปลี่ยน AI ให้กลายเป็นเครื่องจักรทำ Spear-phishing (การหลอกลวงแบบระบุเป้าหมาย) โดยหากแฮกเกอร์สามารถเข้าถึงอีเมลทำงานของใครบางคนได้ Copilot จะถูกใช้เพื่อวิเคราะห์ว่าผู้ใช้ติดต่อกับใครบ่อยที่สุด จากนั้น AI จะร่างข้อความที่เลียนแบบสไตล์การเขียน รวมถึงการใช้ emoji ของเจ้าของบัญชี เพื่อส่งลิงก์อันตรายหรือมัลแวร์ไปยังผู้ติดต่อจำนวนมากในเวลาเพียงไม่กี่นาที ซึ่งรวดเร็วกว่าการที่แฮกเกอร์ต้องมานั่งเขียนอีเมลทีละฉบับด้วยตัวเองอย่างมหาศาล
กลไกการโจมตีและการเจาะระบบข้อมูลองค์กร
การโจมตีเหล่านี้ทำงานผ่าน Large Language Model (LLM) หรือโมเดลภาษาขนาดใหญ่ ซึ่งเป็นเทคโนโลยีเบื้องหลังของ AI โดยแฮกเกอร์จะใช้การป้อนคำสั่ง (Prompt) ที่ออกแบบมาเป็นพิเศษเพื่อหลอกให้ AI เข้าถึงข้อมูลที่ควรจะถูกปิดกั้น
Bargury สาธิตให้เห็นว่าเขาสามารถเข้าถึงข้อมูลอ่อนไหว เช่น เงินเดือนของพนักงาน โดยการใช้คำสั่งที่บังคับไม่ให้ AI ระบุแหล่งที่มาของไฟล์ ซึ่งเป็นการหลบเลี่ยงระบบตรวจจับไฟล์สำคัญของ Microsoft นอกจากนี้ ยังมีการแสดงวิธีการ Poisoning หรือการวางยาฐานข้อมูล AI โดยการส่งอีเมลที่มีเนื้อหาบิดเบือนเข้าไป เพื่อให้ AI ให้ข้อมูลบัญชีธนาคารที่ผิดพลาดแก่ผู้ใช้งาน
รูปแบบการโจมตีอื่นๆ ที่ถูกค้นพบ
- การจารกรรมข้อมูลภายใน: การหลอกถามข้อมูลแนวโน้มผลประกอบการของบริษัทที่กำลังจะเกิดขึ้น
- การสร้าง Insider อันตราย: การทำให้ Copilot แนะนำลิงก์ไปยังเว็บไซต์ Phishing ให้กับผู้ใช้งาน
- การดึง System Prompt: การแกะรอยคำสั่งภายในระบบเพื่อหาช่องทางเข้าถึงทรัพยากรขององค์กร
ข้อเท็จจริงสำคัญ
- LOLCopilot: เครื่องมือที่ใช้ AI เลียนแบบสไตล์การเขียนเพื่อส่งอีเมลหลอกลวงแบบระบุเป้าหมาย
- Indirect Prompt Injection: ความเสี่ยงจากการที่ AI รับข้อมูลจากภายนอก (เช่น อีเมล) แล้วนำมาประมวลผลเป็นคำสั่งโจมตี
- ปัญหาการกำหนดสิทธิ์: การที่พนักงานเข้าถึงไฟล์ได้มากเกินความจำเป็น ทำให้ AI สามารถค้นหาข้อมูลลับ เช่น รหัสผ่านพื้นฐาน ได้ง่ายขึ้น
- การตอบสนองจาก Microsoft: ยอมรับการค้นพบและระบุว่าการป้องกันต้องเน้นที่การตรวจสอบอัตลักษณ์และการเฝ้าระวังสภาพแวดล้อมดิจิทัล
| รูปแบบการโจมตี | วิธีการทำงาน | ผลกระทบที่เกิดขึ้น |
|---|---|---|
| Spear-phishing | เลียนแบบสไตล์การเขียนและส่งอีเมลอัตโนมัติ | ผู้ติดต่อถูกหลอกให้คลิกลิงก์อันตราย |
| Data Exfiltration | ใช้ Prompt บังคับให้ AI ดึงข้อมูลลับโดยไม่ระบุแหล่งที่มา | ข้อมูลเงินเดือนหรือความลับบริษัทรั่วไหล |
| AI Poisoning | ส่งข้อมูลเท็จเข้าไปในฐานข้อมูลที่ AI เข้าถึงได้ | AI ให้คำตอบที่ผิดพลาดหรือนำทางไปยังเว็บปลอม |
คำถามที่พบบ่อย
Copilot ปลอดภัยสำหรับการใช้งานในบริษัทหรือไม่?
โดยพื้นฐานแล้วมีความปลอดภัย แต่ความเสี่ยงจะเพิ่มขึ้นหากองค์กรไม่มีการจัดการสิทธิ์การเข้าถึงไฟล์ (Access Permissions) ที่เข้มงวด เพราะ AI จะเข้าถึงทุกอย่างที่ผู้ใช้คนนั้นเข้าถึงได้
Prompt Injection คืออะไร?
คือเทคนิคการป้อนคำสั่งเพื่อหลอกให้ AI ข้ามพ้นข้อจำกัดด้านความปลอดภัย หรือสั่งให้ AI ทำงานในสิ่งที่ผู้พัฒนาไม่ได้อนุญาต
แฮกเกอร์ต้องมีรหัสผ่านอีเมลก่อนถึงจะโจมตีได้ใช่ไหม?
ในหลายกรณีใช่ เช่น การทำ LOLCopilot แต่บางกรณีแฮกเกอร์สามารถโจมตีจากภายนอกได้ผ่านการส่งอีเมลที่มีคำสั่งแฝง (Poisoning) เพื่อหลอก AI ของเป้าหมาย
เราจะป้องกันความเสี่ยงเหล่านี้ได้อย่างไร?
ผู้เชี่ยวชาญแนะนำให้เน้นการตรวจสอบสิ่งที่ AI ผลิตและส่งออก (Output Monitoring) รวมถึงการจำกัดสิทธิ์การเข้าถึงข้อมูลภายในองค์กรให้เหลือน้อยที่สุดเท่าที่จำเป็น
