Stanford-forskare använder AI för att identifiera diskriminerande lokala lagar

Vad hände

Forskare vid Stanfords HAI och RegLab publicerade en studie som visar att ett AI-system kan hjälpa till att identifiera diskriminerande lokala lagar. Systemet hjälpte mänskliga granskare att flagga tusentals kommunala stadgar som behandlar människor olika baserat på skyddade egenskaper. Studien validerade AI:s noggrannhet till 98 % mot historiska juridiska sammanställningar och noterade att även om AI:n är effektiv för att identifiera explicit olika behandling, kan den vara överdrivet ivriga att prioritera vissa könsbaserade klassificeringar jämfört med mänskliga granskare.

Forskare vid Stanford Institute for Human-Centered AI (HAI) och universitetets RegLab publicerade en studie som visar användbarheten av stora språkmodeller för att identifiera diskriminerande lokala lagar. AI-systemet utformades för att hjälpa mänskliga granskare att sålla igenom omfattande kommunala koder för att hitta stadgar som behandlar individer olika baserat på ras, kön eller medborgarskap.

Studien belyste problemets omfattning och noterade att San Franciscos kommunala kod och dess associerade resolutioner innehåller cirka 16 miljoner ord. Denna volym gör manuell granskning av juridiska experter, såsom Pauli Murrays och Ruth Bader Ginsburgs historiska insatser, extremt svåra att replikera på lokal nivå utan beräkningshjälp.

För att validera systemet använde forskarna en kurerad uppsättning historiska juridiska sammanställningar, inklusive Pauli Murray-sammanställningen av Jim Crow-lagar och dokument relaterade till tvister om homosexuella äktenskap. AI-systemet uppnådde en noggrannhetsgrad på 98 % för att identifiera dessa kända diskriminerande bestämmelser. Mänskliga granskare arbetade sedan tillsammans med AI för att prioritera styrkan i de rättsliga anspråken.

Studien noterade begränsningar i AI:s bedömning. Även om det var effektivt för att identifiera explicit olik behandling, var systemet ibland "överdrivet ivrigt" när det gällde att flagga könsbaserade klassificeringar, såsom separata anläggningar i länsfängelser, som ofta har legitima juridiska skäl som domstolarna tillskriver. Forskarna klargjorde att systemet för närvarande fokuserar på olika behandling snarare än olika effekter, eftersom det senare kräver komplex orsaksanalys som ligger utanför verktygets nuvarande kapacitet.

Källinformation: politico.com ↗

Varför det spelar roll

Denna utveckling tar itu med en betydande skalbarhetsutmaning när det gäller laglig efterlevnad och upprätthållande av medborgerliga rättigheter. Lokala kommunala koder är enorma, med vissa städer som San Francisco har koder som överstiger 16 miljoner ord, vilket gör manuell granskning av mänskliga experter opraktisk för omfattande revisioner. Genom att automatisera den inledande genomgången av stadgar för uttryckligt diskriminerande språk, kan AI-verktyg avsevärt minska den tid och kostnad som krävs för att identifiera potentiella lagöverträdelser. Detta gör det möjligt för juridiska team och medborgarrättsorganisationer att fokusera sina begränsade resurser på att verifiera och utmana de mest problematiska bestämmelserna, vilket kan leda till snabbare åtgärdande av diskriminerande lagar som påverkar miljontals invånare.

Den primära betydelsen av denna forskning är potentialen att demokratisera juridisk revision. Historiskt sett krävde att identifiera diskriminerande lagar omfattande manuellt arbete av specialiserade juridiska forskare. Genom att utnyttja AI för att hantera den första genomgången av miljontals ord i kommunal kod, kan juridiska team uppnå en omfattande täckning som tidigare var omöjlig.

Detta verktyg har praktiska konsekvenser för upprätthållandet av medborgerliga rättigheter. Genom att identifiera tusentals potentiellt diskriminerande lagar i olika jurisdiktioner ger studien en färdplan för riktade juridiska utmaningar. Detta kan leda till att lagar som har förbisetts tas bort eller ändras på grund av mängden lokala bestämmelser.

Noggrannheten på 98 % i valideringsset tyder på att AI kan vara ett pålitligt förstapassfilter för laglig efterlevnad. Detta minskar den kognitiva belastningen på mänskliga granskare, vilket gör att de kan fokusera på nyanserade juridiska argument snarare än grundläggande textskanning. Denna effektivitetsvinst är avgörande för organisationer med begränsade resurser som syftar till att upprätthålla antidiskrimineringslagar på lokal nivå.

Vad du ska titta på härnäst

Övervaka om juridiska teknikföretag eller statliga myndigheter använder liknande AI-drivna revisionsverktyg för kommunala koder. Håll utkik efter uppdateringar om studiens metodik angående olika effekter, eftersom det nuvarande systemet fokuserar på explicit olik behandling. Observera dessutom om detta tillvägagångssätt expanderar till andra områden av regelefterlevnad där stora volymer text måste kontrolleras för specifika juridiska kriterier.

Framtida iterationer av detta system kan försöka ta itu med olika effekter, vilket innebär att analysera verkliga effekter av ansiktsneutrala lagar. Detta är en mer komplex uppgift som kräver kausal slutledning, och framsteg på detta område skulle avsevärt utöka verktygets användbarhet.

Antagande av kommunala myndigheter eller statliga myndigheter kan leda till proaktiva efterlevnadsinsatser. Om lokala myndigheter använder sådana verktyg för att granska sina egna koder, kan det leda till självrättelse innan juridiska anmärkningar lämnas in.

Det juridiska samfundet kan diskutera tillåtligheten eller tillförlitligheten av AI-genererade juridiska revisioner i domstol. Att fastställa standarder för hur AI-stödd juridisk forskning bedrivs och verifieras kommer att vara viktigt för en bredare acceptans av dessa verktyg i juridisk praxis.

Relaterade guider och frågesporter