Hva skjedde
Forskere ved Stanfords HAI og RegLab publiserte en studie som viser at et AI-system kan hjelpe til med å identifisere diskriminerende lokale lover. Systemet hjalp menneskelige anmeldere med å flagge tusenvis av kommunale vedtekter som behandler mennesker forskjellig basert på beskyttede egenskaper. Studien validerte AIs nøyaktighet på 98 % mot historiske juridiske kompilasjoner og bemerket at selv om AI er effektiv til å identifisere eksplisitt uensartet behandling, kan den være altfor ivrig med å prioritere visse kjønnsbaserte klassifiseringer sammenlignet med menneskelige anmeldere.
Forskere ved Stanford Institute for Human-Centered AI (HAI) og universitetets RegLab publiserte en studie som viser nytten av store språkmodeller for å identifisere diskriminerende lokale lover. AI-systemet ble designet for å hjelpe menneskelige anmeldere med å søke gjennom store kommunale koder for å finne lover som behandler individer forskjellig basert på rase, kjønn eller statsborgerskap.
Studien fremhevet omfanget av problemet, og la merke til at San Franciscos kommunekode og tilhørende resolusjoner inneholder omtrent 16 millioner ord. Dette bindet gjør manuell gjennomgang av juridiske eksperter, som den historiske innsatsen til Pauli Murray og Ruth Bader Ginsburg, ekstremt vanskelig å replikere på lokalt nivå uten beregningshjelp.
For å validere systemet brukte forskerne et kuratert sett med historiske juridiske samlinger, inkludert Pauli Murray-samlingen av Jim Crow-lover og dokumenter relatert til rettssaker om homofile ekteskap. AI-systemet oppnådde en nøyaktighetsgrad på 98 % for å identifisere disse kjente diskriminerende bestemmelsene. Menneskelige anmeldere jobbet deretter sammen med AI for å prioritere styrken til rettskravene.
Studien bemerket begrensninger i AIs vurdering. Selv om systemet var effektivt til å identifisere eksplisitt uensartet behandling, var systemet noen ganger "overdrevent ivrig" med å flagge kjønnsbaserte klassifiseringer, for eksempel separate fasiliteter i fylkesfengsler, som ofte har legitime juridiske begrunnelser som domstolene krediterer. Forskerne presiserte at systemet for tiden fokuserer på uensartet behandling i stedet for uensartet påvirkning, da sistnevnte krever kompleks årsaksanalyse som er utenfor verktøyets nåværende evner.
Hvorfor det betyr noe
Denne utviklingen adresserer en betydelig skalerbarhetsutfordring i lovoverholdelse og håndheving av sivile rettigheter. Lokale kommunale koder er enorme, med noen byer som San Francisco som har koder som overstiger 16 millioner ord, noe som gjør manuell gjennomgang av menneskelige eksperter upraktisk for omfattende revisjoner. Ved å automatisere den innledende screeningen av vedtekter for eksplisitt diskriminerende språk, kan AI-verktøy betydelig redusere tiden og kostnadene som kreves for å identifisere potensielle lovbrudd. Dette lar juridiske team og sivile rettighetsorganisasjoner fokusere sine begrensede ressurser på å verifisere og utfordre de mest problematiske bestemmelsene, noe som potensielt kan føre til raskere utbedring av diskriminerende lover som påvirker millioner av innbyggere.
Den primære betydningen av denne forskningen er potensialet for å demokratisere juridisk revisjon. Historisk sett krevde identifisering av diskriminerende lover omfattende manuelt arbeid av spesialiserte juridiske forskere. Ved å utnytte AI til å håndtere den første screeningen av millioner av ord med kommunal kode, kan juridiske team oppnå omfattende dekning som tidligere var umulig.
Dette verktøyet har praktiske implikasjoner for håndheving av borgerrettigheter. Ved å identifisere tusenvis av potensielt diskriminerende lover på tvers av ulike jurisdiksjoner, gir studien et veikart for målrettede juridiske utfordringer. Dette kan føre til fjerning eller endring av lover som har blitt oversett på grunn av det store volumet av lokale forskrifter.
Nøyaktigheten på 98 % i valideringssett antyder at AI kan være et pålitelig førstepassfilter for lovlig overholdelse. Dette reduserer den kognitive belastningen på menneskelige anmeldere, og lar dem fokusere på nyanserte juridiske argumenter i stedet for grunnleggende tekstskanning. Denne effektivitetsgevinsten er avgjørende for organisasjoner med begrensede ressurser som har som mål å håndheve antidiskrimineringslover på lokalt nivå.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Overvåk om juridiske teknologifirmaer eller offentlige etater tar i bruk lignende AI-drevne revisjonsverktøy for kommunale koder. Se etter oppdateringer om studiens metodikk angående uensartet påvirkning, ettersom det nåværende systemet fokuserer på eksplisitt uensartet behandling. I tillegg må du observere om denne tilnærmingen utvides til andre områder av regeloverholdelse der store tekstvolumer må screenes for spesifikke juridiske kriterier.
Fremtidige gjentakelser av dette systemet kan forsøke å adressere ulike påvirkninger, som innebærer å analysere de virkelige effektene av ansiktsnøytrale lover. Dette er en mer kompleks oppgave som krever kausal slutning, og fremgang på dette området vil utvide verktøyets nytte betydelig.
Vedtakelse av kommunale myndigheter eller statlige etater kan føre til proaktiv overholdelsesinnsats. Hvis lokale myndigheter bruker slike verktøy for å revidere sine egne koder, kan det resultere i selvkorrigering før juridiske utfordringer inngis.
Det juridiske miljøet kan diskutere tillatelighet eller pålitelighet av AI-genererte juridiske revisjoner i retten. Å etablere standarder for hvordan AI-assistert juridisk forskning utføres og verifiseres vil være viktig for en bredere aksept av disse verktøyene i juridisk praksis.