VolgendeVolgende gids
Risicobeoordeling en planning van AI-audits
Toepassingen
Gids voor industrieën
Instrumenten voor gerechtelijke risicobeoordeling zijn statistische modellen die inschatten hoe waarschijnlijk het is dat een verdachte de rechtszitting zal missen of opnieuw zal worden gearresteerd.
Luister naar deze gidsAI-verteld · ~3 min
Rechters gebruiken de scores bij beslissingen over borgtocht, veroordeling en voorwaardelijke vrijlating. De instrumenten kunnen beslissingen consistenter maken en onnodige detentie terugdringen, maar ze roepen lastige vragen op over eerlijkheid, transparantie en een eerlijk proces, zoals bleek uit het debat over het COMPAS-instrument.
Risicobeoordeling in het strafrecht is ouder dan machinaal leren. Veel tools zijn vrij eenvoudig: een puntensysteem of regressiemodel opgebouwd uit historische data. Ze beoordelen factoren zoals leeftijd, eerdere veroordelingen, eerder niet verschijnen en hangende aanklachten. De Public Safety Assessment (PSA), ontwikkeld met financiering van Arnold Ventures, is gebaseerd op leeftijd en criminele geschiedenis zonder de verdachte te interviewen. Het produceert afzonderlijke scores voor het niet verschijnen en voor nieuwe criminele activiteiten, plus een vlag voor nieuwe gewelddadige criminele activiteiten. COMPAS, verkocht door Northpointe (nu Equivant), is een eigen hulpmiddel dat op sommige plaatsen wordt gebruikt bij beslissingen in vooronderzoek, veroordeling en correcties. Er wordt ook gebruik gemaakt van antwoorden op vragenlijsten. In 2016 analyseerde ProPublica COMPAS-scores in Broward County, Florida. Het meldde dat zwarte verdachten die niet recidiveerden bijna twee keer zoveel kans hadden als blanke verdachten om als hoger risico te worden bestempeld, en dat blanke verdachten die wel recidiveerden vaker als lager risico werden bestempeld. Northpointe antwoordde dat de scores voor beide groepen even voorspellend waren: een bepaalde score kwam overeen met vergelijkbare recidivecijfers, ongeacht ras. Beide beweringen kunnen tegelijk waar zijn. Onderzoekers, waaronder Jon Kleinberg en Alexandra Chouldechova, hebben aangetoond dat wanneer de basispercentages tussen groepen verschillen, een score over het algemeen niet kan worden gekalibreerd en ook gelijke fout-positieve en fout-negatieve percentages hebben. Het kiezen van een definitie van eerlijkheid is een beleidsbeslissing en geen puur technische beslissing. Er zijn nog andere zorgen. Achteraanhouding komt in de plaats van recidive en geeft weer waar de politie patrouilleert. Eigen modellen maken het moeilijker om scores te betwisten. Juryleden kunnen de scores uitstellen of deze selectief terzijde schuiven. Voorstanders antwoorden dat de rechterlijke intuïtie zonder hulp ook bevooroordeeld en minder consistent is. Een veel voorkomende misvatting is dat deze tools geavanceerde AI zijn. De meeste zijn transparante statistische modellen die gebruik maken van een handvol factoren. De meeste andere AI in rechtbanken is administratief: het sorteren van e-deponeringen, transcriptie, vertaling en planning.
Een officier van justitie voert de Public Safety Assessment uit, waarbij het niet verschijnen en nieuwe criminele activiteiten worden beoordeeld op basis van factoren die zijn gebaseerd op de leeftijd en het criminele verleden van de verdachte. De officier overhandigt het rapport aan de rechter vóór de eerste borgtochthoorzitting.
In State v. Loomis (2016) stond het Hooggerechtshof van Wisconsin een rechter toe een COMPAS-score in overweging te nemen. Het vereiste schriftelijke waarschuwingen over de limieten van de tool en zei dat de score niet de doorslaggevende factor kon zijn.
Een districtsrechtbank gebruikt software om binnenkomende elektronische dossiers te sorteren op soort zaak en om onvolledige dossiers te markeren. Het stuurt ook geautomatiseerde sms-herinneringen over hoorzittingsdata, wat uit onderzoek is gebleken dat er minder gemiste optredens zijn.
Het vooronderzoek van een staat valideert zijn risico-instrument op basis van lokale gegevens en komt tot de conclusie dat de grens voor 'hoog risico' meer mensen signaleert dan de bedoeling was. Het agentschap past de drempel aan via een evaluatie van het overheidsbeleid.
Terwijl de debatten over de hervorming van de borgtocht voortduren, hebben jurisdicties instrumenten voor het vooronderzoek aangenomen, herzien of geschrapt. Het bewijsmateriaal over de vraag of de instrumenten detentie verminderen zonder de criminaliteit te verhogen is gemengd, en hangt sterk af van hoe rechters en beleid de scores gebruiken. Mogelijke richtingen zijn onder meer meer publieke validatiestudies, transparante of open-sourcemodellen en beperkingen op het gebruik van algoritmische scores bij het opleggen van straffen. Op het gebied van generatieve AI geven rechtbanken richtlijnen voor rechters en griffiers die chatbots gebruiken om teksten op te stellen en samen te vatten. Die begeleiding benadrukt over het algemeen vertrouwelijkheid en houdt mensen verantwoordelijk voor beslissingen.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Instrumenten voor gerechtelijke risicobeoordeling zijn statistische modellen die inschatten hoe waarschijnlijk het is dat een verdachte de rechtszitting zal missen of opnieuw zal worden gearresteerd. Rechters gebruiken de scores bij beslissingen over borgtocht, veroordeling en voorwaardelijke vrijlating. De instrumenten kunnen beslissingen consistenter maken en onnodige detentie terugdringen, maar ze roepen lastige vragen op over eerlijkheid, transparantie en een eerlijk proces, zoals bleek uit het debat over het COMPAS-instrument.
De PSA gebruikt factoren op basis van leeftijd en criminele geschiedenis, zonder interview, om afzonderlijke scores voor het proces te produceren. Het schat het risico in vóór het proces. Het zegt niets over schuldgevoelens.
ProPublica concentreerde zich op valse positieven: mensen die een hoger risico bestempelden en niet recidiveerden. Dat foutenpercentage was veel hoger voor zwarte beklaagden.
Northpointe verdedigde het gereedschap zoals gekalibreerd. Dezelfde score betekende voor elke groep ongeveer hetzelfde risico. Dit is een andere definitie van eerlijkheid dan gelijke foutenpercentages.
Onderzoek door Kleinberg, Chouldechova en anderen heeft aangetoond dat wanneer de basisrentes verschillen, deze eerlijkheidscriteria met elkaar in conflict komen, behalve in triviale gevallen. Het is dus een beleidsbeslissing om te kiezen welke prioriteit moet worden gegeven.
De rechtbank stond beperkt gebruik toe met voorzichtigheid, waarbij een potentieel nuttig instrument werd afgewogen tegen de zorgen over een eerlijk proces over een propriëtair model.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Risicobeoordeling en planning van AI-audits
Toepassingen