РУКОВОДСТВО ПО Отраслям

ИИ в судах и оценка судебных рисков

Инструменты оценки судебных рисков — это статистические модели, которые оценивают вероятность того, что подсудимый не явится в суд или будет повторно задержан.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее ИИ в судах и оценке судебных рисков
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Судьи используют оценки при принятии решений о залоге, приговоре и условно-досрочном освобождении. Инструменты могут сделать решения более последовательными и сократить необоснованное содержание под стражей, но они вызывают сложные вопросы о справедливости, прозрачности и законном процессе, как показала дискуссия вокруг инструмента COMPAS.

Глубокое погружение

Risk assessment in criminal justice is older than machine learning. Many tools are fairly simple: a points system or regression model built from historical data. They score factors such as age, prior convictions, prior failures to appear and pending charges. The Public Safety Assessment (PSA), developed with funding from Arnold Ventures, draws on age and criminal history without interviewing the defendant. It produces separate scores for failure to appear and for new criminal activity, plus a flag for new violent criminal activity. COMPAS, sold by Northpointe (now Equivant), is a proprietary tool used in pretrial, sentencing and corrections decisions in some places. It also uses questionnaire answers. In 2016 ProPublica analyzed COMPAS scores in Broward County, Florida. It reported that Black defendants who did not reoffend were nearly twice as likely as white defendants to have been labeled higher risk, and that white defendants who did reoffend were more often labeled lower risk. Northpointe replied that the scores were equally predictive for both groups: a given score matched similar reoffense rates regardless of race. Both claims can be true at once. Researchers including Jon Kleinberg and Alexandra Chouldechova showed that when base rates differ between groups, a score generally cannot be calibrated and also have equal false positive and false negative rates. Choosing a definition of fairness is a policy decision, not a purely technical one. There are other concerns. Rearrest stands in for reoffending, and it reflects where police patrol. Proprietary models make scores harder to challenge. Judges may defer to scores, or override them selectively. Supporters answer that unaided judicial intuition is also biased and less consistent. A common misconception is that these tools are advanced AI. Most are transparent statistical models using a handful of factors. Most other AI in courts is administrative: sorting e-filings, transcription, translation and scheduling.

Реальная реализация

Специалист по досудебному обслуживанию проводит оценку общественной безопасности, которая оценивает риск неявки и совершения новых преступных действий на основе факторов, связанных с возрастом и криминальным прошлым подсудимого. Специалист предоставляет отчет судье перед первым слушанием по залогу.

В деле State v. Loomis (2016) Верховный суд Висконсина разрешил судье при вынесении приговора учитывать оценку COMPAS. Было потребовано письменное предупреждение об ограничениях инструмента и указано, что оценка не может быть решающим фактором.

Окружной суд использует программное обеспечение для сортировки входящих электронных документов по типу дела и отметки неполных. Оно также отправляет автоматические текстовые напоминания о датах слушаний, что, согласно исследованиям, связано с меньшим количеством неявок.

Досудебное агентство штата повторно валидирует свой инструмент риска на локальных данных и обнаруживает, что его порог «высокий риск» помечает больше людей, чем предполагалось. Агентство корректирует порог через общественный политический обзор.

Будущее ИИ в судах и оценке судебных рисков

По мере продолжения дебатов о реформе залога юрисдикции внедряли, пересматривали или отменяли досудебные инструменты. Доказательства того, снижают ли инструменты содержание под стражей без увеличения преступности, противоречивы и сильно зависят от того, как судьи и политики используют оценки. Вероятные направления включают больше публичных исследований валидации, прозрачные или открытые модели, а также ограничения на использование алгоритмических оценок при вынесении приговоров. Что касается генеративного ИИ, суды выпускают рекомендации для судей и секретарей, использующих чат-боты для черновиков и резюме. Эти рекомендации, как правило, подчеркивают конфиденциальность и сохраняют за людьми ответственность за принятие решений.

Применение на практике

Почему это важно

  • Контекст и правила. Отраслевой контекст определяет, выживут ли идеи ИИ при контакте с реальностью.
  • Контроль качества. Ограничения предметной области влияют на приемлемый уровень ошибок и модели надзора.
  • Выбор сборки. Успешные развертывания позволяют согласовать технические возможности с рабочими процессами на переднем крае.

Следите за

  • Нормативные требования могут сделать недействительными сильные прототипы.
  • Исторические данные могут отражать предвзятость, которая наносит вред конкретным сообществам.
  • Устаревшие системы могут создавать узкие места в интеграции и скрытые затраты.

Следующие шаги

  1. Привлекайте экспертов в предметной области от постановки проблемы до оценки.
  2. Разработайте журналы аудита и документацию перед запуском.
  3. Заблаговременно проверяйте соответствие требованиям и обязательства по безопасности.
  4. Развертывание поэтапно с четкими критериями остановки и отката.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Пройти тест по теме «ИИ в судах и оценке судебных рисков»

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое ИИ в судах и оценка судебных рисков?

Инструменты оценки судебных рисков представляют собой статистические модели, позволяющие оценить вероятность того, что обвиняемый пропустит суд или будет повторно арестован. Судьи используют баллы при принятии решений об освобождении под залог, вынесении приговора и условно-досрочном освобождении. Эти инструменты могут сделать решения более последовательными и сократить количество ненужных задержаний, но они поднимают серьезные вопросы о справедливости, прозрачности и надлежащей правовой процедуре, как показали дебаты по поводу инструмента COMPAS.

Что дает Оценка общественной безопасности (PSA)?

PSA использует факторы, основанные на возрасте и криминальном прошлом, без собеседования, для получения отдельных оценок на предварительном этапе. Он оценивает риск до суда. О вине здесь ничего не говорится.

Что показал анализ COMPAS в округе Бровард, проведенный ProPublica в 2016 году?

ProPublica сосредоточилась на ложных срабатываниях: люди, отнесшиеся к более высокому риску, не совершали повторных правонарушений. Этот процент ошибок был намного выше у чернокожих обвиняемых.

Как Нортпойнт отреагировал на выводы ProPublica?

Нортпойнт защищал инструмент как откалиброванный. Один и тот же балл означал примерно одинаковый риск для каждой группы. Это определение справедливости, отличное от определения равной частоты ошибок.

Почему риск-оценка обычно не может быть откалибрована и одновременно иметь одинаковые уровни ложноположительных и ложноотрицательных ошибок для всех групп?

Исследования Кляйнберга, Чулдехвы и других показали, что при различии базовых уровней эти критерии справедливости конфликтуют, за исключением тривиальных случаев. Поэтому выбор того, какой из них приоритизировать, является политическим решением.

Что решило Верховный суд Висконсина в деле State v. Loomis (2016)?

Суд разрешил ограниченное использование с оговорками, взвешивая потенциально полезный инструмент против вопросов соблюдения правовой процедуры относительно проприетарной модели.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →