PANDUAN Industri

AI di Mahkamah dan Penilaian Risiko Kehakiman

Alat penilaian risiko kehakiman ialah model statistik yang menganggarkan kemungkinan defendan terlepas mahkamah atau ditangkap semula.

Dengar panduan iniAI-diceritakan · ~3 min

Pada halaman ini4 minit membaca
  1. Gambaran keseluruhan
  2. Menyelam dalam
  3. Pelaksanaan Dunia Sebenar
  4. Masa Depan AI di Mahkamah dan Penilaian Risiko Kehakiman
  5. Mempraktikkannya
  6. Teruskan Meneroka
  7. Soalan lazim

Gambaran keseluruhan

Hakim menggunakan skor dalam ikat jamin, hukuman dan keputusan parol. Alat tersebut boleh membuat keputusan dengan lebih konsisten dan mengurangkan penahanan yang tidak perlu, tetapi ia menimbulkan persoalan sukar tentang keadilan, ketelusan dan proses yang wajar, seperti yang ditunjukkan oleh perdebatan mengenai alat COMPAS.

Menyelam dalam

Penilaian risiko dalam keadilan jenayah lebih lama daripada pembelajaran mesin. Banyak alat agak mudah: sistem mata atau model regresi yang dibina daripada data sejarah. Mereka menjaringkan faktor seperti umur, sabitan terdahulu, kegagalan sebelum ini untuk hadir dan pertuduhan yang belum selesai. Public Safety Assessment (PSA), yang dibangunkan dengan pembiayaan daripada Arnold Ventures, mengambil kira umur dan sejarah jenayah tanpa menemu bual defendan. Ia menghasilkan markah berasingan untuk kegagalan untuk muncul dan untuk aktiviti jenayah baharu, serta bendera untuk aktiviti jenayah ganas baharu. COMPAS, dijual oleh Northpointe (kini Equivant), ialah alat proprietari yang digunakan dalam keputusan praperbicaraan, hukuman dan pembetulan di beberapa tempat. Ia juga menggunakan jawapan soal selidik. Pada 2016 ProPublica menganalisis skor COMPAS di Broward County, Florida. Ia melaporkan bahawa defendan kulit hitam yang tidak melakukan kesalahan semula adalah hampir dua kali lebih mungkin berbanding defendan kulit putih telah dilabelkan berisiko lebih tinggi, dan defendan kulit putih yang melakukan kesalahan semula lebih kerap dilabelkan risiko yang lebih rendah. Northpointe menjawab bahawa markah adalah ramalan yang sama untuk kedua-dua kumpulan: skor yang diberikan sepadan dengan kadar pelanggaran semula yang serupa tanpa mengira kaum. Kedua-dua dakwaan boleh menjadi benar sekaligus. Penyelidik termasuk Jon Kleinberg dan Alexandra Chouldechova menunjukkan bahawa apabila kadar asas berbeza antara kumpulan, skor biasanya tidak boleh ditentukur dan juga mempunyai kadar positif palsu dan negatif palsu yang sama. Memilih definisi keadilan ialah keputusan dasar, bukan keputusan teknikal semata-mata. Terdapat kebimbangan lain. Rearrest mewakili kesalahan semula, dan ia mencerminkan tempat polis meronda. Model proprietari menjadikan markah lebih sukar untuk dicabar. Hakim boleh menangguhkan markah, atau mengatasinya secara selektif. Penyokong menjawab bahawa intuisi kehakiman tanpa bantuan juga berat sebelah dan kurang konsisten. Salah tanggapan yang biasa ialah alat ini adalah AI lanjutan. Kebanyakannya adalah model statistik telus menggunakan beberapa faktor. Kebanyakan AI lain di mahkamah adalah pentadbiran: menyusun e-filing, transkripsi, terjemahan dan penjadualan.

Pelaksanaan Dunia Sebenar

Pegawai perkhidmatan praperbicaraan menjalankan Penilaian Keselamatan Awam, yang menilai kegagalan untuk hadir dan aktiviti jenayah baharu daripada faktor berdasarkan umur defendan dan sejarah jenayah. Pegawai memberikan laporan kepada hakim sebelum perbicaraan jaminan pertama.

Dalam State lwn. Loomis (2016), Mahkamah Agung Wisconsin membenarkan hakim yang menjatuhkan hukuman mempertimbangkan skor COMPAS. Ia memerlukan amaran bertulis tentang had alat dan mengatakan skor tidak boleh menjadi faktor penentu.

Mahkamah daerah menggunakan perisian untuk mengisih e-filing masuk mengikut jenis kes dan menandakan yang tidak lengkap. Ia juga menghantar peringatan teks automatik tentang tarikh pendengaran, yang kajian telah dikaitkan dengan lebih sedikit penampilan terlepas.

Agensi prapercubaan sesebuah negeri mengesahkan semula alat risikonya pada data tempatan dan mendapati bahawa pemotongan 'berisiko tinggi' menunjukkan lebih ramai orang daripada yang dimaksudkan. Agensi melaraskan ambang melalui semakan dasar awam.

Masa Depan AI di Mahkamah dan Penilaian Risiko Kehakiman

Semasa perbahasan pembaharuan jaminan berterusan, bidang kuasa telah menerima pakai, menyemak atau menggugurkan alat praperbicaraan. Bukti sama ada alat mengurangkan penahanan tanpa menimbulkan jenayah adalah bercampur-campur, dan ia sangat bergantung pada cara hakim dan dasar menggunakan markah. Kemungkinan arahan termasuk lebih banyak kajian pengesahan awam, model telus atau sumber terbuka dan had penggunaan skor algoritma dalam hukuman. Mengenai AI generatif, mahkamah mengeluarkan panduan untuk hakim dan kerani yang menggunakan chatbots untuk merangka dan merumuskan. Panduan itu secara amnya menekankan kerahsiaan dan memastikan manusia bertanggungjawab terhadap keputusan.

Mempraktikkannya

Mengapa ia penting

  • Konteks dan peraturan. Konteks industri menentukan sama ada idea AI bertahan dalam hubungan dengan realiti.
  • Kawalan kualiti. Kekangan domain mempengaruhi kadar ralat dan model pengawasan yang boleh diterima.
  • Pilihan binaan. Penerapan yang berjaya menyelaraskan keupayaan teknikal dengan aliran kerja barisan hadapan.

Berhati-hati untuk

  • Keperluan kawal selia boleh membatalkan prototaip yang kukuh.
  • Data sejarah mungkin mengekod berat sebelah yang membahayakan komuniti tertentu.
  • Sistem warisan boleh mewujudkan kesesakan penyepaduan dan kos tersembunyi.

Langkah seterusnya

  1. Libatkan pakar domain daripada pembingkaian masalah hingga penilaian.
  2. Reka bentuk jejak audit dan dokumentasi sebelum pelancaran.
  3. Sahkan pematuhan dan kewajipan keselamatan lebih awal.
  4. Melancarkan secara berfasa dengan kriteria hentian dan undur yang jelas.

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Take the AI in Courts and Judicial Risk Assessment quiz

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Apakah AI di Mahkamah dan Penilaian Risiko Kehakiman?

Alat penilaian risiko kehakiman ialah model statistik yang menganggarkan kemungkinan defendan terlepas mahkamah atau ditangkap semula. Hakim menggunakan skor dalam ikat jamin, hukuman dan keputusan parol. Alat tersebut boleh membuat keputusan dengan lebih konsisten dan mengurangkan penahanan yang tidak perlu, tetapi ia menimbulkan persoalan sukar tentang keadilan, ketelusan dan proses yang wajar, seperti yang ditunjukkan oleh perdebatan mengenai alat COMPAS.

Apakah yang dihasilkan oleh Penilaian Keselamatan Awam (PSA)?

PSA menggunakan faktor berdasarkan umur dan sejarah jenayah, tanpa temu duga, untuk menghasilkan markah praperbicaraan yang berasingan. Ia menganggarkan risiko sebelum percubaan. Ia tidak mengatakan apa-apa tentang rasa bersalah.

Apakah yang dilaporkan oleh analisis ProPublica 2016 tentang COMPAS di Broward County?

ProPublica memfokuskan pada positif palsu: orang melabelkan risiko lebih tinggi yang tidak terus melakukan kesalahan semula. Kadar ralat itu jauh lebih tinggi untuk defendan Hitam.

Bagaimanakah Northpointe bertindak balas terhadap penemuan ProPublica?

Northpointe mempertahankan alat itu sebagai ditentukur. Skor yang sama bermakna risiko yang hampir sama untuk setiap kumpulan. Ini adalah definisi keadilan yang berbeza daripada kadar ralat yang sama.

Mengapakah skor risiko secara amnya tidak boleh ditentukur dan mempunyai kadar positif palsu dan negatif palsu yang sama merentas kumpulan pada masa yang sama?

Penyelidikan oleh Kleinberg, Chouldechova dan lain-lain menunjukkan bahawa apabila kadar asas berbeza, kriteria keadilan ini bercanggah kecuali dalam kes remeh. Jadi memilih yang mana satu untuk diutamakan adalah keputusan dasar.

Apakah keputusan Mahkamah Agung Wisconsin dalam State lwn. Loomis (2016)?

Mahkamah membenarkan penggunaan terhad dengan berhati-hati, mengimbangi alat yang berpotensi berguna terhadap kebimbangan proses wajar tentang model proprietari.