ДалееСледующее руководство
Оценка и планирование рисков аудита ИИ
Приложения
РУКОВОДСТВО ПО Отраслям
Инструменты оценки судебных рисков — это статистические модели, которые оценивают вероятность того, что подсудимый не явится в суд или будет повторно задержан.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Судьи используют оценки при принятии решений о залоге, приговоре и условно-досрочном освобождении. Инструменты могут сделать решения более последовательными и сократить необоснованное содержание под стражей, но они вызывают сложные вопросы о справедливости, прозрачности и законном процессе, как показала дискуссия вокруг инструмента COMPAS.
Risk assessment in criminal justice is older than machine learning. Many tools are fairly simple: a points system or regression model built from historical data. They score factors such as age, prior convictions, prior failures to appear and pending charges. The Public Safety Assessment (PSA), developed with funding from Arnold Ventures, draws on age and criminal history without interviewing the defendant. It produces separate scores for failure to appear and for new criminal activity, plus a flag for new violent criminal activity. COMPAS, sold by Northpointe (now Equivant), is a proprietary tool used in pretrial, sentencing and corrections decisions in some places. It also uses questionnaire answers. In 2016 ProPublica analyzed COMPAS scores in Broward County, Florida. It reported that Black defendants who did not reoffend were nearly twice as likely as white defendants to have been labeled higher risk, and that white defendants who did reoffend were more often labeled lower risk. Northpointe replied that the scores were equally predictive for both groups: a given score matched similar reoffense rates regardless of race. Both claims can be true at once. Researchers including Jon Kleinberg and Alexandra Chouldechova showed that when base rates differ between groups, a score generally cannot be calibrated and also have equal false positive and false negative rates. Choosing a definition of fairness is a policy decision, not a purely technical one. There are other concerns. Rearrest stands in for reoffending, and it reflects where police patrol. Proprietary models make scores harder to challenge. Judges may defer to scores, or override them selectively. Supporters answer that unaided judicial intuition is also biased and less consistent. A common misconception is that these tools are advanced AI. Most are transparent statistical models using a handful of factors. Most other AI in courts is administrative: sorting e-filings, transcription, translation and scheduling.
Специалист по досудебному обслуживанию проводит оценку общественной безопасности, которая оценивает риск неявки и совершения новых преступных действий на основе факторов, связанных с возрастом и криминальным прошлым подсудимого. Специалист предоставляет отчет судье перед первым слушанием по залогу.
В деле State v. Loomis (2016) Верховный суд Висконсина разрешил судье при вынесении приговора учитывать оценку COMPAS. Было потребовано письменное предупреждение об ограничениях инструмента и указано, что оценка не может быть решающим фактором.
Окружной суд использует программное обеспечение для сортировки входящих электронных документов по типу дела и отметки неполных. Оно также отправляет автоматические текстовые напоминания о датах слушаний, что, согласно исследованиям, связано с меньшим количеством неявок.
Досудебное агентство штата повторно валидирует свой инструмент риска на локальных данных и обнаруживает, что его порог «высокий риск» помечает больше людей, чем предполагалось. Агентство корректирует порог через общественный политический обзор.
По мере продолжения дебатов о реформе залога юрисдикции внедряли, пересматривали или отменяли досудебные инструменты. Доказательства того, снижают ли инструменты содержание под стражей без увеличения преступности, противоречивы и сильно зависят от того, как судьи и политики используют оценки. Вероятные направления включают больше публичных исследований валидации, прозрачные или открытые модели, а также ограничения на использование алгоритмических оценок при вынесении приговоров. Что касается генеративного ИИ, суды выпускают рекомендации для судей и секретарей, использующих чат-боты для черновиков и резюме. Эти рекомендации, как правило, подчеркивают конфиденциальность и сохраняют за людьми ответственность за принятие решений.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Инструменты оценки судебных рисков представляют собой статистические модели, позволяющие оценить вероятность того, что обвиняемый пропустит суд или будет повторно арестован. Судьи используют баллы при принятии решений об освобождении под залог, вынесении приговора и условно-досрочном освобождении. Эти инструменты могут сделать решения более последовательными и сократить количество ненужных задержаний, но они поднимают серьезные вопросы о справедливости, прозрачности и надлежащей правовой процедуре, как показали дебаты по поводу инструмента COMPAS.
PSA использует факторы, основанные на возрасте и криминальном прошлом, без собеседования, для получения отдельных оценок на предварительном этапе. Он оценивает риск до суда. О вине здесь ничего не говорится.
ProPublica сосредоточилась на ложных срабатываниях: люди, отнесшиеся к более высокому риску, не совершали повторных правонарушений. Этот процент ошибок был намного выше у чернокожих обвиняемых.
Нортпойнт защищал инструмент как откалиброванный. Один и тот же балл означал примерно одинаковый риск для каждой группы. Это определение справедливости, отличное от определения равной частоты ошибок.
Исследования Кляйнберга, Чулдехвы и других показали, что при различии базовых уровней эти критерии справедливости конфликтуют, за исключением тривиальных случаев. Поэтому выбор того, какой из них приоритизировать, является политическим решением.
Суд разрешил ограниченное использование с оговорками, взвешивая потенциально полезный инструмент против вопросов соблюдения правовой процедуры относительно проприетарной модели.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Оценка и планирование рисков аудита ИИ
Приложения