OpenAI เปิดตัวเครื่องมือตรวจจับข้อความ AI เพื่อคัดกรองเนื้อหาจาก ChatGPT
ในยุคที่ Generative AI หรือปัญญาประดิษฐ์ที่สามารถสร้างเนื้อหาขึ้นมาใหม่ (โดยเฉพาะข้อความ) กำลังได้รับความนิยมอย่างสูง ความกังวลเรื่องการนำไปใช้ในทางที่ผิดก็เพิ่มขึ้นตามไปด้วย ล่าสุด OpenAI ได้เปิดตัวเครื่องมือที่ชื่อว่า OpenAI AI Text Classifier ซึ่งถูกออกแบบมาเพื่อแยกแยะว่าข้อความใดเขียนโดยมนุษย์ และข้อความใดถูกสร้างขึ้นโดย AI เช่น ChatGPT หรือ GPT-3
การพัฒนาเครื่องมือนี้เกิดขึ้นท่ามกลางกระแสวิพากษ์วิจารณ์ถึงผลกระทบเชิงลบของ AI เช่น สถานศึกษาหลายแห่งในสหรัฐฯ ที่สั่งแบน ChatGPT เพราะกังวลเรื่องคุณภาพการเรียนรู้ของนักเรียน หรือแพลตฟอร์มอย่าง Stack Overflow ที่ห้ามแชร์เนื้อหาจาก AI เพื่อป้องกันไม่ให้กระทู้เต็มไปด้วยคำตอบที่ขาดความน่าเชื่อถือ
กลไกการทำงานของ OpenAI AI Text Classifier
เครื่องมือตัวนี้มีโครงสร้างพื้นฐานเป็นโมเดลภาษา AI เช่นเดียวกับ ChatGPT โดยผ่านการฝึกฝนด้วยชุดข้อมูลมหาศาลจากเว็บสาธารณะ แต่จุดที่แตกต่างคือมันถูก Fine-tuned (การปรับจูนโมเดลให้มีความเชี่ยวชาญเฉพาะด้าน) เพื่อให้สามารถทำนายความน่าจะเป็นว่าข้อความนั้นๆ มาจาก AI หรือไม่
OpenAI ได้นำข้อมูลจากระบบสร้างข้อความถึง 34 ระบบ จาก 5 องค์กร (รวมถึงของ OpenAI เอง) มาเปรียบเทียบกับข้อความที่เขียนโดยมนุษย์ ซึ่งนำมาจาก Wikipedia, ลิงก์ใน Reddit และชุดข้อมูลสาธิตจากมนุษย์ อย่างไรก็ตาม ทางผู้พัฒนายอมรับว่าอาจมีความผิดพลาดในการจำแนก เนื่องจากปัจจุบันมีเนื้อหาที่สร้างโดย AI แพร่กระจายอยู่ทั่วไปในอินเทอร์เน็ตจนอาจปนเข้าไปในชุดข้อมูลที่เชื่อว่าเป็นของมนุษย์
ข้อจำกัดและประสิทธิภาพในการใช้งาน
แม้จะเป็นเครื่องมือที่น่าสนใจ แต่ OpenAI AI Text Classifier ยังมีข้อจำกัดสำคัญหลายประการ ดังนี้:
- ความยาวขั้นต่ำ: ต้องใช้ข้อความอย่างน้อย 1,000 ตัวอักษร (ประมาณ 150-250 คำ) จึงจะทำงานได้ ทำให้ไม่สามารถใช้ตรวจข้อความสั้นๆ เช่น อีเมลได้
- ไม่ใช่เครื่องมือตรวจการคัดลอก: เครื่องมือนี้ไม่สามารถตรวจจับการ Plagiarism (การคัดลอกผลงาน) ได้
- ข้อจำกัดด้านภาษาและกลุ่มผู้เขียน: มีโอกาสเกิดความผิดพลาดสูงขึ้นหากข้อความนั้นเขียนโดยเด็ก หรือเป็นภาษาอื่นที่ไม่ใช่ภาษาอังกฤษ เนื่องจากชุดข้อมูลหลักเน้นไปที่ภาษาอังกฤษ
- การหลบเลี่ยง: ผู้ใช้งานสามารถหลอกเครื่องมือนี้ได้ง่ายๆ เพียงแค่ปรับเปลี่ยนคำหรือวลคบางส่วนในข้อความที่ AI สร้างขึ้น
| ระดับความมั่นใจ | โอกาสที่เป็น AI | ความหมาย |
|---|---|---|
| Very Unlikely | น้อยกว่า 10% | ไม่น่าจะเป็น AI อย่างยิ่ง |
| Unlikely | 10% - 45% | ไม่น่าจะเป็น AI |
| Unclear | 45% - 90% | ไม่ชัดเจน |
| Possibly | 90% - 98% | อาจจะเป็น AI |
| Likely | มากกว่า 98% | น่าจะเป็น AI อย่างมาก |
ข้อเท็จจริงสำคัญ
- อัตราความสำเร็จในการตรวจจับของเครื่องมือนี้อยู่ที่ประมาณ 26%
- มีโอกาสที่เครื่องมือจะระบุว่าข้อความของมนุษย์เป็น AI (False Positive) อยู่ที่ 9%
- ไม่สามารถใช้เป็นหลักฐานชิ้นเดียวในการตัดสินว่าข้อความนั้นสร้างโดย AI หรือไม่
- มีเครื่องมือทางเลือกอื่นๆ ในตลาด เช่น ChatZero (ใช้เกณฑ์ Perplexity และ Burstiness) และเครื่องมือจาก Turnitin
คำถามที่พบบ่อย
OpenAI AI Text Classifier สามารถตรวจจับการคัดลอกผลงานได้หรือไม่?
ไม่ได้ เครื่องมือนี้ถูกออกแบบมาเพื่อแยกแยะระหว่างข้อความที่เขียนโดยมนุษย์และ AI เท่านั้น ไม่ได้มีหน้าที่ตรวจจับการคัดลอกเนื้อหา (Plagiarism)
ทำไมเครื่องมือนี้ถึงตรวจจับข้อความสั้นๆ ไม่ได้?
เนื่องจากระบบต้องการข้อมูลเพียงพอในการวิเคราะห์รูปแบบภาษา โดยกำหนดขั้นต่ำไว้ที่ 1,000 ตัวอักษร เพื่อให้ได้ผลลัพธ์ที่มีความแม่นยำตามเกณฑ์ของโมเดล
เราสามารถหลอกเครื่องมือตรวจจับนี้ได้อย่างไร?
จากการทดสอบพบว่า การแก้ไขคำบางคำหรือปรับเปลี่ยนโครงสร้างประโยคในข้อความที่ AI สร้างขึ้น สามารถทำให้เครื่องมือนี้ตรวจจับไม่พบหรือระบุผลผิดพลาดได้
เครื่องมือนี้มีความแม่นยำเพียงใด?
OpenAI ระบุว่ามีอัตราความสำเร็จในการตรวจจับอยู่ที่ประมาณ 26% ซึ่งถือว่าไม่สูงนัก จึงแนะนำให้ใช้ร่วมกับวิธีการตรวจสอบอื่นๆ แทนการพึ่งพาเครื่องมือนี้เพียงอย่างเดียว
มีเครื่องมืออื่นที่ทำงานคล้ายกันหรือไม่?
มีหลายเครื่องมือ เช่น ChatZero ที่วิเคราะห์ความซับซ้อนของข้อความ (Perplexity) และความหลากหลายของประโยค (Burstiness) รวมถึงระบบที่กำลังพัฒนาโดย Turnitin