ต่อไปคำแนะนำต่อไป
การประเมินและการวางแผนความเสี่ยงการตรวจสอบ AI
การใช้งาน
คู่มืออุตสาหกรรม
เครื่องมือประเมินความเสี่ยงด้านตุลาการเป็นแบบจำลองทางสถิติที่ประเมินว่าจำเลยมีโอกาสพลาดศาลหรือถูกคุมขังใหม่เพียงใด
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
ผู้พิพากษาใช้คะแนนในการตัดสินประกันตัว การพิจารณาคดี และทัณฑ์บน เครื่องมือเหล่านี้ช่วยให้การตัดสินใจมีความสอดคล้องมากขึ้น และลดการควบคุมตัวโดยไม่จำเป็น แต่กลับทำให้เกิดคำถามยากๆ เกี่ยวกับความเป็นธรรม ความโปร่งใส และกระบวนการทางกฎหมาย ดังที่การอภิปรายเกี่ยวกับเครื่องมือ COMPAS แสดงให้เห็น
การประเมินความเสี่ยงในกระบวนการยุติธรรมทางอาญานั้นเก่ากว่าการเรียนรู้ของเครื่อง เครื่องมือหลายอย่างค่อนข้างง่าย: ระบบคะแนนหรือแบบจำลองการถดถอยที่สร้างจากข้อมูลในอดีต โดยจะให้คะแนนปัจจัยต่างๆ เช่น อายุ การพิพากษาลงโทษครั้งก่อน การไม่มาปรากฏตัวครั้งก่อน และการเรียกเก็บเงินที่รอดำเนินการ การประเมินความปลอดภัยสาธารณะ (PSA) ซึ่งพัฒนาขึ้นด้วยเงินทุนจาก Arnold Ventures ดึงข้อมูลอายุและประวัติอาชญากรรมโดยไม่ต้องสัมภาษณ์จำเลย โดยจะแยกคะแนนสำหรับกรณีไม่ปรากฏตัวและกิจกรรมทางอาญาครั้งใหม่ รวมทั้งธงสำหรับกิจกรรมทางอาญาที่รุนแรงครั้งใหม่ COMPAS ซึ่งจำหน่ายโดย Northpointe (ปัจจุบันเทียบเท่ากับ) เป็นเครื่องมือที่เป็นกรรมสิทธิ์ซึ่งใช้ในการตัดสินคดีก่อนการพิจารณาคดี การพิจารณาพิพากษา และการแก้ไขในบางสถานที่ นอกจากนี้ยังใช้คำตอบแบบสอบถาม ในปี 2016 ProPublica วิเคราะห์คะแนน COMPAS ใน Broward County รัฐฟลอริดา รายงานระบุว่าจำเลยผิวดำที่ไม่ได้กระทำความผิดซ้ำมีแนวโน้มเกือบสองเท่าของจำเลยที่เป็นคนผิวขาวที่ถูกระบุว่ามีความเสี่ยงสูงกว่า และจำเลยที่เป็นคนผิวขาวที่กระทำผิดซ้ำมักถูกระบุว่ามีความเสี่ยงต่ำกว่า Northpointe ตอบว่าคะแนนมีการทำนายเท่ากันสำหรับทั้งสองกลุ่ม: คะแนนที่กำหนดตรงกับอัตราการตำหนิที่คล้ายคลึงกันโดยไม่คำนึงถึงเชื้อชาติ การกล่าวอ้างทั้งสองสามารถเป็นจริงได้ในคราวเดียว นักวิจัยรวมทั้ง Jon Kleinberg และ Alexandra Chouldechova แสดงให้เห็นว่า เมื่ออัตราพื้นฐานระหว่างกลุ่มแตกต่างกัน โดยทั่วไปคะแนนจะไม่สามารถสอบเทียบได้ และยังมีอัตราผลบวกลวงและลบลวงเท่ากัน การเลือกคำจำกัดความของความเป็นธรรมถือเป็นการตัดสินใจเชิงนโยบาย ไม่ใช่การตัดสินใจทางเทคนิคล้วนๆ ยังมีข้อกังวลอื่น ๆ เบาะหลังยืนหยัดเพื่อกระทำความผิดอีกครั้ง และสะท้อนให้เห็นว่าตำรวจสายตรวจอยู่ที่ไหน โมเดลที่เป็นกรรมสิทธิ์ทำให้ยากต่อการท้าทายคะแนน ผู้ตัดสินอาจเลื่อนไปที่คะแนนหรือเลือกแทนที่คะแนนเหล่านั้น ผู้สนับสนุนตอบว่าสัญชาตญาณของตุลาการโดยไม่ได้รับความช่วยเหลือนั้นมีอคติและไม่สอดคล้องกันเช่นกัน ความเข้าใจผิดที่พบบ่อยคือเครื่องมือเหล่านี้เป็น AI ขั้นสูง ส่วนใหญ่เป็นแบบจำลองทางสถิติที่โปร่งใสโดยใช้ปัจจัยเพียงไม่กี่อย่าง AI อื่นๆ ส่วนใหญ่ในศาลเป็นฝ่ายบริหารจัดการ: การเรียงลำดับเอกสารอิเล็กทรอนิกส์ การถอดเสียง การแปล และการกำหนดเวลา
เจ้าหน้าที่บริการก่อนการพิจารณาคดีเป็นผู้ดำเนินการประเมินความปลอดภัยสาธารณะ ซึ่งให้คะแนนการไม่ปรากฏตัวและกิจกรรมทางอาญาใหม่จากปัจจัยต่างๆ ที่อิงตามอายุและประวัติอาชญากรรมของจำเลย เจ้าหน้าที่รายงานตัวต่อผู้พิพากษาก่อนการพิจารณาคดีประกันตัวครั้งแรก
ใน State v. Loomis (2016) ศาลฎีกาของรัฐวิสคอนซินอนุญาตให้ผู้พิพากษาตัดสินพิจารณาคะแนน COMPAS จำเป็นต้องมีคำเตือนเป็นลายลักษณ์อักษรเกี่ยวกับขีดจำกัดของเครื่องมือ และบอกว่าคะแนนไม่สามารถเป็นปัจจัยในการตัดสินใจได้
ศาลประจำเทศมณฑลใช้ซอฟต์แวร์เพื่อจัดเรียงการยื่นเอกสารอิเล็กทรอนิกส์ที่เข้ามาตามประเภทคดี และทำเครื่องหมายว่าเอกสารที่ไม่สมบูรณ์ นอกจากนี้ยังส่งข้อความแจ้งเตือนอัตโนมัติเกี่ยวกับวันนัดพิจารณาคดี ซึ่งการศึกษาวิจัยระบุว่าการพลาดนัดพิจารณาคดีน้อยลง
หน่วยงานพิจารณาคดีของรัฐตรวจสอบเครื่องมือความเสี่ยงของตนอีกครั้งโดยใช้ข้อมูลในท้องถิ่น และพบว่าการตัดสิทธิ์ที่ "มีความเสี่ยงสูง" บ่งชี้ว่ามีผู้คนมากกว่าที่ตั้งใจไว้ หน่วยงานจะปรับเกณฑ์ผ่านการทบทวนนโยบายสาธารณะ
ในขณะที่การอภิปรายเกี่ยวกับการปฏิรูปการประกันตัวยังคงดำเนินต่อไป เขตอำนาจศาลได้นำ แก้ไข หรือยกเลิกเครื่องมือในการพิจารณาคดี หลักฐานที่แสดงให้เห็นว่าเครื่องมือลดการคุมขังโดยไม่ก่อให้เกิดอาชญากรรมนั้นมีความหลากหลายหรือไม่ และขึ้นอยู่กับว่าผู้พิพากษาและนโยบายใช้คะแนนอย่างไร คำแนะนำที่เป็นไปได้รวมถึงการศึกษาการตรวจสอบสาธารณะเพิ่มเติม โมเดลที่โปร่งใสหรือโอเพ่นซอร์ส และข้อจำกัดในการใช้คะแนนอัลกอริทึมในการพิจารณาคดี ในด้าน Generative AI ศาลกำลังออกคำแนะนำสำหรับผู้พิพากษาและพนักงานที่ใช้แชทบอทในการร่างและสรุป โดยทั่วไปคำแนะนำดังกล่าวเน้นการรักษาความลับและทำให้มนุษย์รับผิดชอบต่อการตัดสินใจ
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
เครื่องมือประเมินความเสี่ยงด้านตุลาการเป็นแบบจำลองทางสถิติที่ประเมินว่าจำเลยมีโอกาสพลาดศาลหรือถูกคุมขังใหม่เพียงใด ผู้พิพากษาใช้คะแนนในการตัดสินประกันตัว การพิจารณาคดี และทัณฑ์บน เครื่องมือเหล่านี้ช่วยให้การตัดสินใจมีความสอดคล้องมากขึ้น และลดการควบคุมตัวโดยไม่จำเป็น แต่กลับทำให้เกิดคำถามยากๆ เกี่ยวกับความเป็นธรรม ความโปร่งใส และกระบวนการทางกฎหมาย ดังที่การอภิปรายเกี่ยวกับเครื่องมือ COMPAS แสดงให้เห็น
PSA ใช้ปัจจัยต่างๆ ตามอายุและประวัติอาชญากรรมโดยไม่มีการสัมภาษณ์ เพื่อจัดทำคะแนนก่อนการพิจารณาคดีแยกกัน โดยจะประมาณความเสี่ยงก่อนการพิจารณาคดี มันไม่ได้พูดถึงความรู้สึกผิดเลย
ProPublica มุ่งเน้นไปที่ผลบวกลวง: ผู้คนระบุว่ามีความเสี่ยงสูงกว่าและไม่ได้กระทำผิดซ้ำอีก อัตราความผิดพลาดนั้นสูงกว่ามากสำหรับจำเลยผิวดำ
Northpointe ปกป้องเครื่องมือตามการปรับเทียบแล้ว คะแนนเดียวกันหมายถึงความเสี่ยงที่เท่ากันในแต่ละกลุ่ม นี่เป็นคำจำกัดความของความเป็นธรรมที่แตกต่างจากอัตราข้อผิดพลาดที่เท่ากัน
การวิจัยโดย Kleinberg, Chouldechova และคนอื่นๆ แสดงให้เห็นว่าเมื่ออัตราพื้นฐานแตกต่างกัน เกณฑ์ความเป็นธรรมเหล่านี้จะขัดแย้งกัน ยกเว้นในกรณีที่ไม่สำคัญ ดังนั้นการเลือกว่าจะจัดลำดับความสำคัญเรื่องใดจึงเป็นการตัดสินใจเชิงนโยบาย
ศาลอนุญาตให้ใช้อย่างจำกัดด้วยความระมัดระวัง โดยรักษาสมดุลระหว่างเครื่องมือที่อาจมีประโยชน์กับข้อกังวลด้านกระบวนการทางกฎหมายเกี่ยวกับโมเดลที่เป็นกรรมสิทธิ์
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
การประเมินและการวางแผนความเสี่ยงการตรวจสอบ AI
การใช้งาน