A continuaciónSiguiente guía
Evaluación y planificación de riesgos de auditoría de IA
Aplicaciones
GUÍA de industrias
IA en los tribunales y evaluación de riesgos judiciales
Las herramientas de evaluación de riesgos judiciales son modelos estadísticos que estiman la probabilidad de que un acusado falte al tribunal o sea arrestado nuevamente.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Los jueces utilizan los puntajes para tomar decisiones sobre libertad bajo fianza, sentencia y libertad condicional. Las herramientas pueden hacer que las decisiones sean más consistentes y reducir las detenciones innecesarias, pero plantean preguntas difíciles sobre la equidad, la transparencia y el debido proceso, como lo demostró el debate sobre la herramienta COMPAS.
Buceo profundo
La evaluación de riesgos en la justicia penal es más antigua que el aprendizaje automático. Muchas herramientas son bastante simples: un sistema de puntos o un modelo de regresión creado a partir de datos históricos. Califican factores como la edad, condenas previas, incomparecencias anteriores y cargos pendientes. La Evaluación de Seguridad Pública (PSA), desarrollada con financiación de Arnold Ventures, se basa en la edad y los antecedentes penales sin entrevistar al acusado. Produce puntuaciones separadas por falta de comparecencia y por nueva actividad delictiva, además de una señal para nueva actividad delictiva violenta. COMPAS, vendido por Northpointe (ahora Equivant), es una herramienta patentada que se utiliza en decisiones previas al juicio, sentencias y correccionales en algunos lugares. También utiliza respuestas a cuestionarios. En 2016, ProPublica analizó las puntuaciones de COMPAS en el condado de Broward, Florida. Informó que los acusados negros que no reincidieron tenían casi el doble de probabilidades que los acusados blancos de haber sido etiquetados como de mayor riesgo, y que los acusados blancos que sí reincidieron fueron etiquetados con mayor frecuencia como de menor riesgo. Northpointe respondió que las puntuaciones eran igualmente predictivas para ambos grupos: una puntuación determinada coincidía con tasas de reincidencia similares independientemente de la raza. Ambas afirmaciones pueden ser ciertas a la vez. Investigadores como Jon Kleinberg y Alexandra Chouldechova demostraron que cuando las tasas base difieren entre grupos, una puntuación generalmente no se puede calibrar y también tiene tasas iguales de falsos positivos y falsos negativos. Elegir una definición de justicia es una decisión política, no puramente técnica. Hay otras preocupaciones. La nueva detención equivale a reincidencia y refleja dónde patrulla la policía. Los modelos propietarios hacen que las puntuaciones sean más difíciles de cuestionar. Los jueces pueden ceder ante las puntuaciones o anularlas selectivamente. Los partidarios responden que la intuición judicial espontánea también es sesgada y menos consistente. Un error común es pensar que estas herramientas son IA avanzada. La mayoría son modelos estadísticos transparentes que utilizan un puñado de factores. La mayoría de las otras IA en los tribunales son administrativas: clasificación de presentaciones electrónicas, transcripción, traducción y programación.
Implementación en el mundo real
Un oficial de servicios previos al juicio realiza la Evaluación de Seguridad Pública, que califica la falta de comparecencia y la nueva actividad delictiva a partir de factores basados en la edad y los antecedentes penales del acusado. El oficial entrega el informe al juez antes de la primera audiencia de fianza.
En State v. Loomis (2016), la Corte Suprema de Wisconsin permitió que un juez de sentencia considerara una puntuación COMPAS. Exigió advertencias por escrito sobre los límites de la herramienta y dijo que la puntuación no podía ser el factor decisivo.
Un tribunal de condado utiliza un software para clasificar las presentaciones electrónicas entrantes por tipo de caso y marcar las incompletas. También envía recordatorios de texto automáticos sobre las fechas de las audiencias, que los estudios han relacionado con menos apariciones perdidas.
La agencia previa al juicio de un estado revalida su herramienta de riesgo con datos locales y descubre que su límite de "alto riesgo" señala a más personas de las previstas. La agencia ajusta el umbral mediante una revisión de la política pública.
El futuro de la IA en los tribunales y la evaluación de riesgos judiciales
Mientras continúan los debates sobre la reforma de la libertad bajo fianza, las jurisdicciones han adoptado, revisado o abandonado herramientas previas al juicio. La evidencia sobre si las herramientas reducen la detención sin aumentar el crimen es mixta y depende en gran medida de cómo los jueces y las políticas usan los puntajes. Las direcciones probables incluyen más estudios de validación públicos, modelos transparentes o de código abierto y límites al uso de puntuaciones algorítmicas en las sentencias. En cuanto a la IA generativa, los tribunales están emitiendo directrices para jueces y secretarios que utilizan chatbots para redactar y resumir. Esa guía generalmente enfatiza la confidencialidad y responsabiliza a los humanos de las decisiones.
Poniéndolo en práctica
Por qué es importante
- Contexto y normas. El contexto de la industria determina si las ideas de IA sobreviven al contacto con la realidad.
- control de calidad. Las restricciones de dominio influyen en las tasas de error aceptables y en los modelos de supervisión.
- Construir opciones. Las implementaciones exitosas alinean la capacidad técnica con los flujos de trabajo de primera línea.
cuidado con
- Los requisitos reglamentarios pueden invalidar prototipos que de otro modo serían sólidos.
- Los datos históricos pueden codificar sesgos que perjudican a comunidades específicas.
- Los sistemas heredados pueden crear cuellos de botella en la integración y costos ocultos.
Próximos pasos
- Involucrar a expertos en el campo desde la formulación del problema hasta la evaluación.
- Diseñar pistas de auditoría y documentación antes del lanzamiento.
- Valide anticipadamente las obligaciones de cumplimiento y seguridad.
- Implementación en fases con criterios claros de parada y reversión.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the AI in Courts and Judicial Risk Assessment quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué es la IA en los tribunales y la evaluación de riesgos judiciales?
Las herramientas de evaluación de riesgos judiciales son modelos estadísticos que estiman la probabilidad de que un acusado falte al tribunal o sea arrestado nuevamente. Los jueces utilizan los puntajes para tomar decisiones sobre libertad bajo fianza, sentencia y libertad condicional. Las herramientas pueden hacer que las decisiones sean más consistentes y reducir las detenciones innecesarias, pero plantean preguntas difíciles sobre la equidad, la transparencia y el debido proceso, como lo demostró el debate sobre la herramienta COMPAS.
¿Qué produce la Evaluación de Seguridad Pública (PSA)?
La PSA utiliza factores basados en la edad y los antecedentes penales, sin entrevista, para producir puntuaciones separadas antes del juicio. Estima el riesgo antes del juicio. No dice nada sobre la culpa.
¿Qué informó el análisis de COMPAS de 2016 de ProPublica en el condado de Broward?
ProPublica se centró en los falsos positivos: personas etiquetadas de mayor riesgo que no reincidieron. Esa tasa de error fue mucho mayor para los acusados negros.
¿Cómo respondió Northpointe a las conclusiones de ProPublica?
Northpointe defendió que la herramienta estaba calibrada. La misma puntuación significó aproximadamente el mismo riesgo para cada grupo. Esta es una definición de equidad diferente a la de tasas de error iguales.
¿Por qué una puntuación de riesgo generalmente no se puede calibrar y tener tasas iguales de falsos positivos y falsos negativos en todos los grupos al mismo tiempo?
La investigación de Kleinberg, Chouldechova y otros demostró que cuando las tasas base difieren, estos criterios de equidad entran en conflicto excepto en casos triviales. Por lo tanto, elegir cuál priorizar es una decisión política.
¿Qué decidió la Corte Suprema de Wisconsin en el caso State v. Loomis (2016)?
El tribunal permitió un uso limitado con precauciones, equilibrando una herramienta potencialmente útil con las preocupaciones sobre el debido proceso sobre un modelo propietario.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.