ChatGPT Plug-ins กับความเสี่ยงด้านความปลอดภัยที่ผู้ใช้ต้องระวัง

ในช่วงไม่กี่เดือนที่ผ่านมา ChatGPT จาก OpenAI ได้สร้างความตื่นตาตื่นใจให้กับผู้คนทั่วโลกด้วยความสามารถในการสร้างข้อความที่ดูเป็นธรรมชาติ ไม่ว่าจะเป็นการเขียนนิยายหรือการเขียนโค้ดโปรแกรม อย่างไรก็ตาม ตัวแบบภาษาขนาดใหญ่ หรือ Large Language Model (LLM) นี้ยังมีข้อจำกัดบางประการ โดยเฉพาะการที่ข้อมูลที่ใช้ประมวลผลส่วนใหญ่ถูกรวบรวมถึงเพียงเดือนกันยายน 2021 และไม่สามารถดึงข้อมูลสดใหม่จากอินเทอร์เน็ตได้โดยตรง

เพื่อทลายข้อจำกัดนี้ OpenAI จึงได้เปิดตัว Plug-ins (ส่วนเสริม) สำหรับผู้ใช้งาน GPT-4 ซึ่งช่วยให้แชทบอทสามารถเชื่อมต่อกับโลกภายนอกได้ เช่น การค้นหาเที่ยวบิน วางแผนการเดินทาง หรือแม้แต่การวิเคราะห์ข้อมูลจากเว็บไซต์และวิดีโอ ปัจจุบันมีปลั๊กอินให้เลือกใช้มากมายนับร้อยหน้าในสโตร์ ซึ่งช่วยขยายขีดความสามารถของ AI ให้ทำงานเฉพาะทางได้มากขึ้น

ช่องโหว่และภัยคุกคามที่แฝงมากับส่วนเสริม

แม้ว่าปลั๊กอินจะเพิ่มความสะดวกสบาย แต่ผู้เชี่ยวชาญด้านความปลอดภัยเตือนว่าระบบนี้อาจกลายเป็นช่องทางให้แฮกเกอร์โจมตีได้ Johann Rehberger นักวิจัยด้านความปลอดภัยระบุว่า ChatGPT ไม่สามารถ "เชื่อใจ" ข้อมูลที่ส่งกลับมาจากปลั๊กอินได้ทั้งหมด ซึ่งอาจนำไปสู่การโจมตีรูปแบบ Prompt Injection หรือการส่งคำสั่งแปลกปลอมเข้าไปควบคุมการทำงานของ LLM เพื่อให้ AI ทำในสิ่งที่ไม่ได้ตั้งใจ

ความเสี่ยงที่น่ากังวลประกอบด้วยการขโมยประวัติการสนทนา การเข้าถึงข้อมูลส่วนบุคคล หรือแม้แต่การรันโค้ดอันตรายบนเครื่องของผู้ใช้ โดยเฉพาะปลั๊กอินที่ใช้มาตรฐาน OAuth (ระบบมาตรฐานที่ใช้ในการแชร์ข้อมูลระหว่างบัญชีออนไลน์) นอกจากนี้ยังมีเทคนิคที่เรียกว่า Chaining หรือการที่ปลั๊กอินหนึ่งเรียกใช้งานอีกปลั๊กอินหนึ่ง ซึ่งอาจทำให้เกิดการปลอมแปลงคำขอข้ามปลั๊กอิน (Cross plug-in request forgery) และทำให้ข้อมูลรั่วไหลได้เนื่องจากขาดขอบเขตความปลอดภัยที่ชัดเจน

A series of open doors with a bright light at the end

การตอบสนองจากยักษ์ใหญ่ด้านเทคโนโลยี

OpenAI ยอมรับว่าข้อมูลที่ไม่น่าเชื่อถือจากเครื่องมือภายนอกอาจสั่งให้โมเดลทำงานผิดพลาดได้ โดยปัจจุบันบริษัทได้ดำเนินการตรวจสอบปลั๊กอินก่อนนำขึ้นสโตร์ และแนะนำให้ผู้พัฒนาเพิ่มปุ่มยืนยัน (Confirmation buttons) ก่อนที่ AI จะดำเนินการที่มีผลกระทบในโลกจริง เช่น การส่งอีเมล นอกจากนี้ยังมีการลบปลั๊กอินที่ละเมิดนโยบายออกไป เช่น ปลั๊กอินที่สร้างข้อมูลบน GitHub โดยไม่ได้รับอนุญาตจากผู้ใช้

ในขณะเดียวกัน Microsoft ซึ่งลงทุนใน OpenAI อย่างหนัก และกำลังพัฒนา AI Copilot ก็ใช้แนวทางแบบค่อยเป็นค่อยไป โดยเน้นการสร้างกระบวนการตรวจสอบ การรับรอง และการจัดการสิทธิ์การเข้าถึงข้อมูลอย่างเข้มงวด เพื่อให้ผู้ใช้สามารถควบคุมได้ว่าปลั๊กอินใดสามารถเข้าถึงข้อมูลส่วนใดได้บ้าง

ข้อเท็จจริงสำคัญ

  • ความเสี่ยงหลัก: การโจมตีแบบ Prompt Injection และการขโมยข้อมูลผ่านปลั๊กอินที่ขาดการตรวจสอบ
  • ข้อจำกัดของ LLM: ข้อมูลพื้นฐานของ ChatGPT มีจุดตัดอยู่ที่เดือนกันยายน 2021 จึงต้องพึ่งพาปลั๊กอินเพื่อเข้าถึงข้อมูลปัจจุบัน
  • มาตรฐานความปลอดภัย: กลุ่ม OWASP ได้ระบุ 10 ภัยคุกคามสูงสุดของ LLM โดยมีปลั๊กอินเป็นหนึ่งในความเสี่ยงสำคัญ
  • คำแนะนำผู้ใช้: ควรระมัดระวังการใส่ข้อมูลส่วนตัวหรือข้อมูลบริษัทลงใน AI สาธารณะ เนื่องจากไม่สามารถรับประกันการจัดเก็บหรือการนำไปใช้ต่อได้
สรุปเปรียบเทียบความสามารถและความเสี่ยงของ ChatGPT Plug-ins
หัวข้อ ประโยชน์ที่ได้รับ ความเสี่ยงที่อาจเกิดขึ้น
การเข้าถึงข้อมูล ดึงข้อมูลปัจจุบันจากเว็บและเอกสารได้ ข้อมูลรั่วไหลผ่านการเชื่อมต่อภายนอก
การทำงาน จองตั๋วเครื่องบิน, วิเคราะห์วิดีโอ, วางแผนเที่ยว การรันโค้ดอันตราย (Remote Code Execution)
การควบคุม ขยายความสามารถของ AI ให้เฉพาะทาง การโจมตีแบบ Prompt Injection เพื่อควบคุม AI

คำถามที่พบบ่อย

Plug-ins ของ ChatGPT คืออะไร?

คือส่วนเสริมที่ช่วยให้ ChatGPT สามารถเชื่อมต่อกับแอปพลิเคชันหรือบริการภายนอกได้ ทำให้ AI สามารถเข้าถึงข้อมูลที่เป็นปัจจุบันหรือทำงานที่ซับซ้อนขึ้น เช่น การค้นหาข้อมูลเรียลไทม์จากอินเทอร์เน็ต

Prompt Injection คืออะไรและอันตรายอย่างไร?

คือการที่ผู้ไม่หวังดีส่งคำสั่งหรือข้อมูลที่ออกแบบมาเป็นพิเศษ เพื่อหลอกให้ AI ละทิ้งคำสั่งเดิมและทำตามคำสั่งใหม่ที่อันตราย เช่น การสั่งให้ AI ขโมยข้อมูลผู้ใช้หรือส่งข้อมูลออกไปยังเซิร์ฟเวอร์ภายนอก

การใช้ปลั๊กอินมีความเสี่ยงต่อข้อมูลส่วนบุคคลหรือไม่?

มีความเสี่ยง เนื่องจากเมื่อใช้งานปลั๊กอิน ChatGPT อาจต้องส่งประวัติการสนทนาและข้อมูลบางส่วนไปยังผู้พัฒนาปลั๊กอินนั้นๆ ซึ่งหากผู้พัฒนาไม่มีระบบรักษาความปลอดภัยที่ดี ข้อมูลอาจถูกดักจับหรือนำไปใช้ในทางที่ผิดได้

เราจะใช้งาน AI และปลั๊กอินให้ปลอดภัยได้อย่างไร?

ควรหลีกเลี่ยงการกรอกข้อมูลที่เป็นความลับ ข้อมูลทางการเงิน หรือข้อมูลภายในบริษัทลงในแชทบอท และควรตรวจสอบความน่าเชื่อถือของปลั๊กอินก่อนใช้งาน รวมถึงสังเกตการขออนุญาตเข้าถึงข้อมูลที่ผิดปกติ

OWASP มีบทบาทอย่างไรในเรื่องนี้?

OWASP เป็นกลุ่มผู้เชี่ยวชาญด้านความปลอดภัยที่ร่วมกันจัดทำรายการภัยคุกคาม 10 อันดับแรกสำหรับ LLM เพื่อให้เหล่านักพัฒนาใช้เป็นแนวทางในการสร้างระบบ AI ที่ปลอดภัยและลดช่องโหว่จากการโจมตี