AI ในงานตำรวจสหรัฐฯ ถูกวิจารณ์หนัก หลังพบความเสี่ยงด้านการเลือกปฏิบัติและขาดความแม่นยำ
กลายเป็นประเด็นร้อนในสหรัฐอเมริกา เมื่อกลุ่มสมาชิกสภาคองเกรสออกมาแสดงความกังวลอย่างรุนแรงต่อ กระทรวงยุติธรรมสหรัฐฯ (Department of Justice หรือ DOJ) เกี่ยวกับการจัดสรรเงินทุนสนับสนุนให้หน่วยงานตำรวจท้องถิ่นนำไปซื้อเครื่องมือ Predictive Policing หรือระบบ AI พยากรณ์อาชญากรรม ซึ่งถูกมองว่าขาดความแม่นยำและอาจตอกย้ำปัญหาการเลือกปฏิบัติทางเชื้อชาติที่มีมาอย่างยาวนาน
ประเด็นหลักอยู่ที่การที่ DOJ ไม่สามารถพิสูจน์ได้ว่าเงินทุนจากโครงการ Edward Byrne Memorial Justice Assistance Grant Program ไม่ได้ถูกนำไปใช้ซื้อซอฟต์แวร์ที่สร้างความเหลื่อมล้ำ ซึ่งตามกฎหมายแล้ว DOJ มีหน้าที่ต้องตรวจสอบว่าผู้รับทุนปฏิบัติตาม Title VI ของ Civil Rights Act หรือกฎหมายว่าด้วยสิทธิพลเมือง ซึ่งสั่งห้ามสนับสนุนโครงการที่มีการเลือกปฏิบัติทางเชื้อชาติ ชาติพันธุ์ หรือแหล่งกำเนิด ไม่ว่าการเลือกปฏิบัตินั้นจะเกิดขึ้นโดยเจตนาหรือไม่ก็ตาม
ความล้มเหลวของระบบพยากรณ์อาชญากรรม
ระบบ Predictive Policing คือเทคโนโลยีที่ใช้ข้อมูลอาชญากรรมในอดีตมาวิเคราะห์เพื่อคาดการณ์ว่าเหตุร้ายจะเกิดขึ้นที่ไหนหรือใครจะเป็นผู้ก่อเหตุ อย่างไรก็ตาม ผลการตรวจสอบจากสื่ออิสระอย่าง The Markup พบว่าระบบเหล่านี้แทบจะใช้งานจริงไม่ได้ โดยจากการวิเคราะห์ข้อมูลการพยากรณ์อาชญากรรมกว่า 23,631 รายการ พบว่ามีความแม่นยำเพียงประมาณ 1% เท่านั้น
ปัญหาสำคัญคือ AI เหล่านี้ถูกฝึกฝนด้วยข้อมูลในอดีตที่บิดเบือน ซึ่งเกิดจากการรายงานเหตุการณ์ที่ผิดพลาดและการจับกุมกลุ่มคนผิวสีในสัดส่วนที่สูงเกินจริง ส่งผลให้เกิด Feedback Loop หรือวงจรป้อนกลับที่อันตราย กล่าวคือ เมื่อ AI ทำนายว่าย่านคนผิวสีหรือลาตินมีความเสี่ยงสูง ตำรวจจะเข้าไปตรวจตราและจับกุมในพื้นที่นั้นมากขึ้น ทำให้สถิติอาชญากรรมในย่านนั้นสูงขึ้นไปอีก และ AI ก็จะยิ่งตอกย้ำว่าพื้นที่นั้นอันตราย เป็นวงจรที่ไม่สิ้นสุด
ข้อเรียกร้องและการผลักดันเพื่อความโปร่งใส
นำโดยวุฒิสมาชิก Ron Wyden พร้อมด้วยเพื่อนสมาชิกสภาคองเกรสอีก 6 ท่าน ได้ส่งจดหมายเรียกร้องให้ DOJ ระงับการให้ทุนสำหรับระบบพยากรณ์อาชญากรรมทั้งหมด จนกว่าจะมีการรับประกันได้ว่าเครื่องมือเหล่านี้จะไม่สร้างผลกระทบด้านการเลือกปฏิบัติ
นอกจากนี้ กลุ่มนักการเมืองยังเสนอให้มีการบรรจุเรื่องนี้ลงในรายงานของประธานาธิบดีเกี่ยวกับ AI และงานตำรวจ โดยเน้นย้ำให้ตรวจสอบในประเด็นดังนี้:
- ความแม่นยำและประสิทธิภาพของโมเดล AI เมื่อใช้กับกลุ่มประชากรที่แตกต่างกัน
- ความสามารถในการอธิบายที่มาของการตัดสินใจของ AI (Interpretability)
- ข้อจำกัดในการประเมินความเสี่ยงที่เกิดจากการขาดความโปร่งใสของบริษัทผู้พัฒนาซอฟต์แวร์
หาก DOJ ยังต้องการสนับสนุนเทคโนโลยีนี้ต่อไป กลุ่มผู้เรียกร้องเสนอว่าต้องมีการกำหนด Evidence Standards หรือมาตรฐานหลักฐานที่ชัดเจน เพื่อคัดกรองและปฏิเสธการให้ทุนแก่โมเดล AI ที่มีแนวโน้มในการเลือกปฏิบัติ
ข้อเท็จจริงสำคัญ
- ความแม่นยำต่ำ: ผลการศึกษาพบว่า AI พยากรณ์อาชญากรรมมีความแม่นยำเพียง 1% จากข้อมูลกว่า 2 หมื่นรายการ
- วงจรความเหลื่อมล้ำ: ข้อมูลที่บิดเบือนในอดีตทำให้ AI มุ่งเป้าไปที่ย่านคนผิวสีและลาตินมากขึ้น
- ข้อกฎหมาย: การให้ทุนที่นำไปสู่การเลือกปฏิบัติทางเชื้อชาติถือเป็นการละเมิด Title VI ของ Civil Rights Act
- ข้อเรียกร้อง: สมาชิกสภาคองเกรสต้องการให้ระงับทุนจนกว่าจะมีมาตรฐานการตรวจสอบความโปร่งใส
| หัวข้อ | รายละเอียด |
|---|---|
| หน่วยงานที่เกี่ยวข้อง | กระทรวงยุติธรรมสหรัฐฯ (DOJ) และสมาชิกสภาคองเกรส |
| เครื่องมือที่เป็นปัญหา | Predictive Policing (AI พยากรณ์อาชญากรรม) |
| แหล่งเงินทุน | Edward Byrne Memorial Justice Assistance Grant Program |
| ผลกระทบหลัก | การเลือกปฏิบัติทางเชื้อชาติ และการตรวจตราที่เกินกว่าเหตุในย่านคนผิวสี |
| ข้อเสนอแนะ | สร้างมาตรฐานหลักฐาน (Evidence Standards) และเพิ่มความโปร่งใสจากผู้พัฒนา |
คำถามที่พบบ่อย
Predictive Policing คืออะไร?
คือระบบปัญญาประดิษฐ์ที่นำข้อมูลอาชญากรรมในอดีตมาวิเคราะห์เพื่อคาดการณ์จุดที่อาจเกิดเหตุร้ายหรือระบุตัวบุคคลที่มีความเสี่ยง เพื่อให้เจ้าหน้าที่ตำรวจวางแผนการลาดตระเวนหรือเฝ้าระวังได้ล่วงหน้า
ทำไม AI พยากรณ์อาชญากรรมถึงถูกมองว่าเลือกปฏิบัติ?
เพราะ AI เรียนรู้จากข้อมูลในอดีต ซึ่งหากข้อมูลนั้นมาจากการจับกุมที่มุ่งเน้นเฉพาะบางกลุ่มเชื้อชาติหรือบางพื้นที่อย่างไม่เป็นธรรม AI จะจดจำรูปแบบนั้นและแนะนำให้ตำรวจกลับไปที่เดิม ส่งผลให้เกิดการจับกุมคนกลุ่มเดิมซ้ำๆ แม้ในความเป็นจริงอาชญากรรมอาจเกิดขึ้นในพื้นที่อื่นด้วย
กฎหมาย Title VI ของ Civil Rights Act เกี่ยวข้องอย่างไร?
กฎหมายฉบับนี้ห้ามไม่ให้หน่วยงานที่ได้รับเงินสนับสนุนจากรัฐบาลกลางดำเนินโครงการที่มีการเลือกปฏิบัติทางเชื้อชาติ ชาติพันธุ์ หรือแหล่งกำเนิด ซึ่งหาก AI ของตำรวจทำงานโดยมีความลำเอียง จะถือว่าขัดต่อกฎหมายนี้
ข้อเสนอของสมาชิกสภาคองเกรสต่อกระทรวงยุติธรรมคืออะไร?
พวกเขาต้องการให้ระงับการให้ทุนสนับสนุนระบบ AI พยากรณ์อาชญากรรมทันที จนกว่าจะมีระบบตรวจสอบที่ชัดเจนว่าเครื่องมือเหล่านั้นไม่มีความลำเอียง และต้องการให้มีการประเมินความแม่นยำและความโปร่งใสของซอฟต์แวร์อย่างจริงจัง
