Mi történt
A stanfordi HAI és a RegLab kutatói publikáltak egy tanulmányt, amely kimutatta, hogy egy mesterséges intelligencia rendszer segíthet a diszkriminatív helyi törvények azonosításában. A rendszer segített a felülvizsgálóknak több ezer önkormányzati törvény megjelölésében, amelyek a védett tulajdonságok alapján eltérően kezelik az embereket. A tanulmány a mesterséges intelligencia 98%-os pontosságát hitelesítette a történelmi jogi összeállításokhoz képest, és megjegyezte, hogy bár az MI hatékonyan azonosítja a kifejezett eltérő bánásmódot, túlságosan lelkes lehet bizonyos nemi alapú besorolások elsőbbségbe helyezése során a humán felülvizsgálókhoz képest.
A Stanford Institute for Human-Centered AI (HAI) és az egyetem RegLab kutatói tanulmányt tettek közzé, amely bemutatja a nagy nyelvi modellek hasznosságát a diszkriminatív helyi törvények azonosításában. A mesterséges intelligencia rendszert arra tervezték, hogy segítse a felülvizsgálókat a hatalmas önkormányzati kódexek áttanulmányozásában, hogy megtalálják azokat a törvényeket, amelyek faji, nemi vagy állampolgársági szempontból eltérően kezelik az egyéneket.
A tanulmány rávilágított a probléma puszta méretére, megjegyezve, hogy a San Francisco-i önkormányzati kódex és a kapcsolódó határozatok hozzávetőleg 16 millió szót tartalmaznak. Ez a kötet rendkívül nehézkessé teszi a jogi szakértők kézi áttekintését, mint például Pauli Murray és Ruth Bader Ginsburg történelmi erőfeszítéseit, helyi szinten számítási segítség nélkül.
A rendszer validálásához a kutatók történelmi jogi összeállítások gyűjteményét használták fel, köztük a Jim Crow-törvényekről és a melegházasságokkal kapcsolatos peres dokumentumokról szóló Pauli Murray-féle összeállítást. Az AI-rendszer 98%-os pontosságot ért el ezen ismert diszkriminatív rendelkezések azonosításában. A humán felülvizsgálók ezután a mesterséges intelligencia mellett dolgoztak a jogi követelések erősségének prioritásán.
A tanulmány korlátokat állapított meg az AI megítélésében. Bár hatékony volt a kifejezett eltérő bánásmód azonosításában, a rendszer néha „túlzottan buzgón” jelezte a nemi alapú besorolásokat, például a megyei börtönökben lévő külön létesítményeket, amelyeknek gyakran legitim jogi indokai vannak, amelyeket a bíróságok elismernek. A kutatók tisztázták, hogy a rendszer jelenleg az eltérő bánásmódra összpontosít, nem pedig az eltérő hatásokra, mivel ez utóbbi összetett ok-okozati elemzést igényel, amely meghaladja az eszköz jelenlegi lehetőségeit.
Forrás részletei: politico.com ↗
Miért számít
Ez a fejlesztés a jogi megfelelés és az állampolgári jogok érvényesítése terén jelentkező jelentős skálázhatósági kihívást kezeli. A helyi önkormányzati kódok hatalmasak, egyes városokban, például San Franciscóban, a kódok száma meghaladja a 16 millió szót, így a humán szakértők által végzett manuális áttekintés nem praktikus az átfogó auditokhoz. Azáltal, hogy automatizálják a törvények kezdeti szűrését a kifejezetten diszkriminatív nyelvezet miatt, az AI-eszközök jelentősen csökkenthetik a lehetséges jogi megsértések azonosításához szükséges időt és költségeket. Ez lehetővé teszi a jogi csapatok és a polgárjogi szervezetek számára, hogy korlátozott erőforrásaikat a legproblémásabb rendelkezések ellenőrzésére és megkérdőjelezésére összpontosítsák, ami potenciálisan a lakosság millióit érintő diszkriminatív törvények gyorsabb orvoslásához vezethet.
A kutatás elsődleges jelentősége a jogi könyvvizsgálat demokratizálásának lehetősége. Történelmileg a diszkriminatív törvények azonosítása kiterjedt fizikai munkát igényelt speciális jogtudósoktól. A mesterséges intelligencia segítségével az önkormányzati kódok millióinak kezdeti átvizsgálására a jogi csapatok olyan átfogó lefedettséget érhetnek el, amely korábban lehetetlen volt.
Ennek az eszköznek gyakorlati vonatkozásai vannak a polgári jogok érvényesítésében. Azáltal, hogy több ezer potenciálisan diszkriminatív jogszabályt azonosított különböző joghatóságok között, a tanulmány útitervet nyújt a célzott jogi kihívásokhoz. Ez a helyi szabályozások hatalmas mennyisége miatt figyelmen kívül hagyott törvények eltávolításához vagy módosításához vezethet.
Az érvényesítési készletek 98%-os pontossága azt sugallja, hogy a mesterséges intelligencia megbízható első áteresztő szűrő lehet a jogi megfeleléshez. Ez csökkenti az emberi felülvizsgálókra nehezedő kognitív terhelést, lehetővé téve számukra, hogy az alapvető szövegolvasás helyett árnyalt jogi érvekre összpontosítsanak. Ez a hatékonyságnövekedés döntő fontosságú a korlátozott erőforrásokkal rendelkező szervezetek számára, amelyek célja a diszkriminációellenes törvények helyi szintű betartatása.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
Kövesse nyomon, hogy jogi tech cégek vagy kormányzati szervek alkalmaznak-e hasonló, mesterséges intelligencia által vezérelt auditálási eszközöket az önkormányzati kódexekhez. Figyelje a tanulmány módszertanával kapcsolatos frissítéseket az eltérő hatásokra vonatkozóan, mivel a jelenlegi rendszer a kifejezetten eltérő bánásmódra összpontosít. Ezenkívül figyelje meg, hogy ez a megközelítés kiterjed-e a szabályozási megfelelés más területeire is, ahol nagy mennyiségű szöveget kell átvizsgálni bizonyos jogi kritériumok szempontjából.
A rendszer jövőbeli iterációi megpróbálhatják kezelni az eltérő hatásokat, ami magában foglalja az arcsemleges törvények valós hatásainak elemzését. Ez egy összetettebb feladat, amely ok-okozati következtetést igényel, és ezen a területen az előrelépés jelentősen bővítené az eszköz használhatóságát.
Az önkormányzatok vagy állami szervek általi elfogadás proaktív megfelelési erőfeszítésekhez vezethet. Ha az önkormányzatok ilyen eszközöket használnak saját kódjaik ellenőrzésére, az önkorrekciót eredményezhet a jogi kifogások benyújtása előtt.
A jogi közösség a bíróság előtt vitathatja a mesterséges intelligencia által generált jogi ellenőrzések elfogadhatóságát vagy megbízhatóságát. A mesterséges intelligencia által támogatott jogi kutatások lefolytatására és ellenőrzésére vonatkozó szabványok megállapítása fontos lesz ezen eszközök jogi gyakorlatban való szélesebb körű elfogadása szempontjából.