ระบบ AI ทำนายอาชญากรรมในบริสตอล: เมื่อข้อมูลส่วนบุคคลถูกเปลี่ยนเป็นคะแนนความเสี่ยง

ในเมืองบริสตอล ประเทศอังกฤษ มีฐานข้อมูลขนาดใหญ่ที่ชื่อว่า Think Family Database ซึ่งเก็บรวบรวมข้อมูลของประชากรเกือบ 5 แสนคน โดยที่เจ้าของข้อมูลส่วนใหญ่ไม่เคยทราบมาก่อนว่าข้อมูลของตนถูกจัดเก็บไว้ ระบบนี้ไม่ใช่เพียงแค่การเก็บข้อมูล แต่มีการนำ Machine Learning (การเรียนรู้ของเครื่อง) มาใช้เพื่อคำนวณ "คะแนนความเสี่ยง" ให้กับผู้ใหญ่และเด็กในพื้นที่ เพื่อสร้างภาพจำลองของภัยคุกคามและความเสี่ยงในสังคม

ข้อมูลที่ถูกนำมาใช้มีความละเอียดอ่อนสูง ตั้งแต่รายงานข่าวกรองของตำรวจ สถานะที่อยู่อาศัย ประวัติสุขภาพจิต การตั้งครรภ์ในวัยรุ่น ไปจนถึงการได้รับอาหารกลางวันฟรีในโรงเรียน ซึ่งนักวิทยาศาสตร์ข้อมูลของตำรวจรายหนึ่งเคยเปรียบเทียบกระบวนการนี้ว่า เหมือนกับการนำข้อมูลทั้งหมดเทลงในถังใบใหญ่แล้วกวนด้วย "ไม้พายด้านวิทยาศาสตร์ข้อมูล" เพื่อให้ได้คะแนนความเสี่ยงของแต่ละบุคคลออกมา

การขยายตัวของระบบวิเคราะห์เชิงพยากรณ์

ระบบการให้คะแนนความเสี่ยงนี้เป็นเพียงส่วนหนึ่งของโครงการ Predictive Analytics (การวิเคราะห์เชิงพยากรณ์) ขนาดใหญ่ของตำรวจ Avon และ Somerset ซึ่งมีการสร้างโมเดลแยกย่อยถึง 23 รูปแบบ เพื่อทำนายพฤติกรรมต่างๆ เช่น โอกาสในการก่อเหตุลักทรัพย์ การไม่มาปรากฏตัวในศาล การหายตัวไป หรือแม้แต่การตกเป็นเหยื่อของความรุนแรงในครอบครัว

นอกจากนี้ยังมี Offender Management App ซึ่งเป็นแอปพลิเคชันที่เก็บข้อมูลผู้คนราว 3 แสนคน เพื่อสร้าง "ตารางจัดอันดับ" อาชญากรที่อันตรายที่สุดในพื้นที่ ซึ่งสร้างความกังวลใจให้กับภาคประชาชนอย่างมาก เนื่องจากขาดความโปร่งใสในการดำเนินงาน

Image may contain Neighborhood City Urban Suburb Road Street Architecture Building Outdoors Car and Transportation

ผลกระทบต่อปัจเจกบุคคลและความไม่โปร่งใส

John Pegram ผู้นำกลุ่มตรวจสอบการทำงานของตำรวจในบริสตอล เป็นหนึ่งในผู้ที่ได้รับผลกระทบ เขาเพิ่งทราบว่าตนเองมีชื่ออยู่ในแอปพลิเคชันจัดการผู้กระทำผิดในปี 2023 หลังจากพยายามร้องขอข้อมูลจากตำรวจอยู่นาน ซึ่งในที่สุดตำรวจก็ยอมรับว่าเขามีชื่ออยู่ในระบบ แต่ปฏิเสธที่จะให้รายละเอียดว่าเขาถูกให้คะแนนความเสี่ยงเท่าใด หรือคะแนนนั้นส่งผลต่อการปฏิบัติหน้าที่ของเจ้าหน้าที่ต่อตัวเขาอย่างไร

Pegram มองว่าระบบนี้เต็มไปด้วยอคติ โดยเฉพาะกับกลุ่มคนผิวสีหรือผู้ที่มีประวัติในอดีต ซึ่งเขาเชื่อว่า AI ไม่ควรมีอำนาจในการตัดสินชีวิตผู้คนในลักษณะนี้

“I dont think an AI model should have that kind of power over peoples lives” Pegram says.

ความล้มเหลวของโมเดลและการขาดความแม่นยำ

จากการตรวจสอบพบว่า โมเดลการให้คะแนนความเสี่ยงอย่างน้อย 2 รูปแบบถูกยกเลิกอย่างเงียบๆ เนื่องจากเจ้าหน้าที่สภาเมืองบริสตอลไม่สามารถเชื่อมั่นในผลลัพธ์ได้ เอกสารภายในระบุว่าระบบขาดความโปร่งใสและอาจทำลายความเชื่อมั่นของสาธารณชน

บริษัทตรวจสอบ AI อิสระอย่าง Eticas ได้วิเคราะห์ข้อมูลประสิทธิภาพของโมเดลกว่า 36,000 รายการ และพบว่าหลายโมเดลมี Precision (ความแม่นยำ) ต่ำมาก ตัวอย่างเช่น โมเดลทำนายการลักทรัพย์มีอัตราความแม่นยำต่ำกว่า 10% หมายความว่าในบรรดาคนที่ถูกระบุว่ามีความเสี่ยงสูง จะมีไม่ถึง 1 ใน 10 คนที่ก่อเหตุจริง

Image 4

ทิศทางในอนาคตของตำรวจอังกฤษ

แม้จะมีข้อกังขาเรื่องประสิทธิภาพและจริยธรรม แต่สหราชอาณาจักรยังคงมุ่งหน้าสู่การใช้ AI ในระบบยุติธรรม โดย Andy Marsh CEO ของ College of Policing อดีตผู้บัญชาการตำรวจ Avon และ Somerset ได้ผลักดันให้มีการนำ AI มาใช้ในงานตำรวจอย่างรวดเร็วและกว้างขวาง

ล่าสุด รัฐบาลอังกฤษได้จัดตั้ง PoliceAI หน่วยงานที่ได้รับงบประมาณสนับสนุน 75 ล้านปอนด์ เพื่อนำเครื่องมือ AI ไปปรับใช้กับกองกำลังตำรวจ 43 แห่งทั่วอังกฤษและเวลส์ โดยระบุว่านี่คืออนาคตของการทำงานตำรวจ

ข้อเท็จจริงสำคัญ

  • Think Family Database: เก็บข้อมูลละเอียดอ่อนของชาวบริสตอลเกือบ 500,000 คน
  • ความไม่แม่นยำ: โมเดลทำนายการลักทรัพย์มีความแม่นยำต่ำกว่า 10%
  • การขาดความโปร่งใส: ประชาชนจำนวนมากไม่ทราบว่าตนเองถูกให้คะแนนความเสี่ยงโดย AI
  • งบประมาณสนับสนุน: รัฐบาลลงทุน 75 ล้านปอนด์ในโครงการ PoliceAI เพื่อขยายการใช้ AI ในงานตำรวจ
  • ปัญหาจริยธรรม: มีการเตือนว่าตัวแปรที่ใช้ใน AI อาจเป็นตัวแทนของ "ความยากจน" มากกว่า "ความเสี่ยงทางอาชญากรรม"
สรุปภาพรวมระบบวิเคราะห์ความเสี่ยงในบริสตอล
ชื่อระบบ/โครงการ วัตถุประสงค์หลัก สถานะ/ผลลัพธ์
Think Family Database ระบุเด็กและครอบครัวกลุ่มเสี่ยง บางโมเดลถูกยกเลิกเพราะไม่แม่นยำ
Offender Management App จัดอันดับอาชญากรที่อันตราย ยังคงใช้งานแต่ถูกวิจารณ์เรื่องความโปร่งใส
PoliceAI ขยายการใช้ AI ในระดับประเทศ กำลังดำเนินการ (งบ 75 ล้านปอนด์)

คำถามที่พบบ่อย

Think Family Database คืออะไร?

คือฐานข้อมูลที่รวบรวมข้อมูลส่วนบุคคลและข้อมูลทางสังคมของชาวเมืองบริสตอล เพื่อนำมาวิเคราะห์และให้คะแนนความเสี่ยงในการเกิดปัญหาทางสังคมหรืออาชญากรรม

ทำไมระบบ AI นี้ถึงถูกวิพากษ์วิจารณ์?

เนื่องจากขาดความโปร่งใส ประชาชนไม่ทราบว่าถูกเก็บข้อมูลหรือได้คะแนนเท่าใด อีกทั้งผลการตรวจสอบพบว่ามีความแม่นยำต่ำ และอาจมีอคติต่อกลุ่มคนยากจนหรือกลุ่มชาติพันธุ์

คะแนนความเสี่ยง (Risk Score) คำนวณมาจากอะไร?

คำนวณจากข้อมูลหลากหลายแหล่ง เช่น ประวัติการขาดเรียน, การได้รับสวัสดิการรัฐ, ประวัติสุขภาพจิต และรายงานจากเจ้าหน้าที่ตำรวจ

ปัจจุบันระบบนี้ยังใช้งานอยู่หรือไม่?

บางส่วนถูกยกเลิกไปแล้ว เช่น โมเดลทำนายการถูกล่วงละเมิดทางเพศในเด็ก (CSE) แต่ระบบอื่นๆ เช่น Offender Management App และโมเดลทำนายการหลุดออกจากระบบการศึกษาของเด็กยังคงมีการใช้งานอยู่

PoliceAI คืออะไรและมีบทบาทอย่างไร?

เป็นหน่วยงานใหม่ของรัฐบาลอังกฤษที่ได้รับงบประมาณ 75 ล้านปอนด์ เพื่อสนับสนุนและนำเครื่องมือ AI ไปใช้ในกองกำลังตำรวจทั่วอังกฤษและเวลส์ เพื่อเพิ่มประสิทธิภาพในการทำงาน