ระบบขับเคลื่อนอัตโนมัติกับจุดบอดอันตรายจากไฟฉุกเฉินของรถกู้ภัย
ในยุคที่ผู้ผลิตรถยนต์พยายามผลักดัน ระบบขับเคลื่อนอัตโนมัติ (Automated Driving Systems) ให้มีความซับซ้อนมากขึ้น โดยชูจุดเด่นเรื่องการลดความเครียดของผู้ขับขี่และเพิ่มความปลอดภัยด้วยการใช้เครื่องจักรคำนวณเพื่อหลีกเลี่ยงอุบัติเหตุ แต่ผลการวิจัยล่าสุดกลับพบความจริงที่น่ากังวลว่า ในสถานการณ์วิกฤต ระบบเหล่านี้อาจทำงานผิดพลาดในลักษณะที่ตรงกันข้ามกับสิ่งที่ควรจะเป็น
ทีมนักวิจัยจากมหาวิทยาลัย Ben-Gurion แห่งเนเกฟ ร่วมกับบริษัทเทคโนโลยี Fujitsu Limited ได้ค้นพบปรากฏการณ์ที่เรียกว่า “Digital Epileptic Seizure” หรืออาการชักทางดิจิทัล ซึ่งเกิดขึ้นเมื่อระบบตรวจจับวัตถุที่ใช้กล้องเป็นหลักถูกรบกวนด้วยแสงไฟกะพริบจากรถฉุกเฉิน ส่งผลให้ปัญญาประดิษฐ์ (AI) ที่ถูกฝึกมาเพื่อแยกแยะวัตถุบนท้องถนนเกิดความสับสนและไม่สามารถระบุตัวตนของวัตถุตรงหน้าได้อย่างแม่นยำ โดยเฉพาะอย่างยิ่งเมื่อเกิดเหตุการณ์ในเวลากลางคืน
ความเสี่ยงเมื่อ AI "ตาบอด" ชั่วขณะ
เมื่อระบบเกิดอาการ "ชักทางดิจิทัล" รถยนต์ที่เปิดระบบขับเคลื่อนอัตโนมัติอาจไม่แน่ใจว่าวัตถุรูปทรงรถที่อยู่ด้านหน้าคือรถยนต์จริงๆ หรือไม่ ซึ่งความบกพร่องนี้สร้างความเสี่ยงอย่างมีนัยสำคัญ เพราะอาจนำไปสู่การพุ่งชนรถกู้ภัยที่กำลังปฏิบัติหน้าที่ หรืออาจถูกผู้ไม่หวังดีนำจุดอ่อนนี้ไปใช้สร้างสถานการณ์เพื่อให้เกิดอุบัติเหตุได้
ที่มาและแรงบันดาลใจของการวิจัย
งานวิจัยชิ้นนี้ได้รับแรงบันดาลใจจากรายงานอุบัติเหตุของรถ Tesla ที่ใช้ระบบ Autopilot (ระบบช่วยเหลือผู้ขับขี่ขั้นสูงที่ช่วยควบคุมพวงมาลัย เร่งความเร็ว และเบรก) ซึ่งพุ่งชนรถฉุกเฉินที่จอดนิ่งอยู่ถึง 16 คัน ระหว่างปี 2018 ถึง 2021 โดย Ben Nassi นักวิจัยด้านความปลอดภัยทางไซเบอร์ตั้งข้อสังเกตว่า สาเหตุไม่น่าจะมาจากรูปร่างของรถกู้ภัยที่แตกต่างกัน แต่มีความเป็นไปได้สูงว่าเกิดจากแสงไฟกะพริบของรถเหล่านั้น
การทดสอบและข้อจำกัดของงานวิจัย
แม้ผลลัพธ์จะดูน่าตกใจ แต่มีข้อควรระวังคือ นักวิจัยไม่ได้ทดสอบกับระบบของค่ายรถยนต์โดยตรง เช่น Tesla แต่ใช้ระบบขับเคลื่อนอัตโนมัติพื้นฐานจากกล้องติดรถยนต์ 5 ยี่ห้อ (HP, Pelsee, Azdome, Imagebon และ Rexing) ที่ซื้อจาก Amazon และนำภาพที่ได้มาประมวลผลผ่านตัวตรวจจับวัตถุแบบ Open Source 4 รูปแบบ ดังนั้นจึงยังไม่สามารถสรุปได้ว่าระบบของค่ายรถยนต์ยักษ์ใหญ่ทุกรายจะมีช่องโหว่นี้หรือไม่ เนื่องจากบางบริษัทอาจมีการป้องกันไว้แล้ว
| ปัจจัย | การตั้งค่าแบบระมัดระวังสูง (Conservative) | การตั้งค่าแบบมั่นใจสูง (Confident) |
|---|---|---|
| เกณฑ์การตัดสินใจ | ตอบสนองต่อวัตถุแม้ไม่มั่นใจ 100% | ตอบสนองเมื่อมั่นใจว่าเป็นวัตถุจริงเท่านั้น |
| ข้อดี | ลดโอกาสการชนวัตถุที่มองเห็นไม่ชัด | ลดการเบรกกะทันหันโดยไม่จำเป็น |
| ข้อเสีย/ความเสี่ยง | เกิด False Positive (เช่น เบรกเพราะกล่องกระดาษ) | อาจไม่เบรกเพราะระบุวัตถุผิดพลาด (เช่น กรณีไฟกะพริบ) |
แนวทางการแก้ไขและมุมมองจากผู้เชี่ยวชาญ
เพื่อแก้ปัญหานี้ ทีมนักวิจัยได้พัฒนาซอฟต์แวร์ชื่อ “Caracetamol” (การผสมคำว่า Car และ Paracetamol) ซึ่งเป็นระบบที่ถูกฝึกฝนมาเป็นพิเศษให้จดจำรถที่มีไฟกะพริบฉุกเฉินได้แม่นยำขึ้น ช่วยลดอาการ "ชัก" ของ AI และเพิ่มความถูกต้องในการตรวจจับ
ทางด้าน Earlence Fernandes จาก University of California, San Diego เปรียบเทียบว่าเหตุการณ์นี้เหมือนกับมนุษย์ที่ถูกแสงไฟจ้าทำให้ตาพร่ามัวชั่วขณะ ขณะที่ Bryan Reimer จาก MIT AgeLab เตือนว่าผู้ผลิตรถยนต์อาจกำลังเร่งนำเทคโนโลยีมาใช้เร็วกว่าความสามารถในการทดสอบความปลอดภัย ซึ่งจำเป็นต้องมีการตรวจสอบที่เข้มงวดเพื่อปิดจุดบอดเหล่านี้
ข้อเท็จจริงสำคัญ
- Digital Epileptic Seizure: คือสภาวะที่ AI สับสนในการระบุวัตถุเมื่อเจอแสงไฟกะพริบจากรถฉุกเฉิน
- ความเสี่ยงหลัก: ระบบอาจไม่สั่งเบรกหรือหลบหลีกรถกู้ภัยเนื่องจากระบุประเภทวัตถุผิดพลาด
- ปัจจัยกระตุ้น: แสงไฟกะพริบในเวลากลางคืนส่งผลกระทบต่อระบบตรวจจับด้วยภาพ (Image-based) มากที่สุด
- ทางออกทางเทคนิค: ซอฟต์แวร์ "Caracetamol" ถูกออกแบบมาเพื่อช่วยให้ AI รู้จักรถฉุกเฉินได้ดีขึ้น
- ความแตกต่างของเซนเซอร์: รถบางค่ายใช้ Radar หรือ Lidar ร่วมด้วย ซึ่งอาจช่วยลดปัญหานี้ได้มากกว่าการใช้กล้องเพียงอย่างเดียว
คำถามที่พบบ่อย
ปรากฏการณ์ Digital Epileptic Seizure คืออะไร?
คืออาการที่ระบบ AI ของรถยนต์ขับเคลื่อนอัตโนมัติเกิดความไม่เสถียรในการระบุวัตถุบนถนน เมื่อได้รับสัญญาณภาพที่เป็นแสงไฟกะพริบจากรถฉุกเฉิน ทำให้ประสิทธิภาพในการตรวจจับวัตถุลดลงตามจังหวะการกะพริบของไฟ
ระบบ Autopilot ของ Tesla มีปัญหานี้จริงหรือไม่?
งานวิจัยนี้ไม่ได้ทดสอบกับระบบของ Tesla โดยตรง แต่ใช้ข้อมูลจากอุบัติเหตุในอดีตที่ Tesla พุ่งชนรถฉุกเฉินเป็นแรงบันดาลใจ อย่างไรก็ตาม นักวิจัยระบุว่าไม่สามารถยืนยันได้ว่านี่คือสาเหตุเดียวหรือเป็นช่องโหว่ที่ยังมีอยู่ในปัจจุบันของ Tesla
ทำไมแสงไฟกะพริบถึงทำให้ AI สับสน?
เนื่องจากระบบตรวจจับวัตถุที่ใช้กล้องจะวิเคราะห์พิกเซลและรูปแบบของภาพ เมื่อมีแสงกะพริบที่รุนแรงและเปลี่ยนแปลงรวดเร็ว จะทำให้การประมวลผลภาพเกิดความผันผวน จน AI ไม่สามารถยืนยันได้ว่าสิ่งที่เห็นคือรถยนต์หรือวัตถุอื่น
รถยนต์ทุกคันที่ใช้ระบบช่วยขับขี่จะมีความเสี่ยงนี้หรือไม่?
ไม่จำเป็นเสมอไป ความเสี่ยงขึ้นอยู่กับการออกแบบของแต่ละบริษัท บางค่ายใช้เซนเซอร์หลายประเภท (เช่น Lidar และ Radar) ซึ่งไม่ใช้ภาพถ่ายเป็นหลักในการตรวจจับวัตถุ จึงอาจไม่ได้รับผลกระทบจากแสงไฟกะพริบเหมือนระบบที่ใช้กล้องเพียงอย่างเดียว
ซอฟต์แวร์ Caracetamol ช่วยแก้ปัญหาได้อย่างไร?
Caracetamol คือการนำ AI มาฝึกฝน (Training) ด้วยชุดข้อมูลภาพรถฉุกเฉินที่มีไฟกะพริบโดยเฉพาะ เพื่อให้ระบบจดจำรูปแบบนี้ได้และไม่เกิดอาการสับสนเมื่อเจอสถานการณ์จริงบนท้องถนน
