Какво стана
Изследователи от HAI и RegLab на Станфорд публикуваха проучване, което показва, че AI система може да помогне при идентифицирането на дискриминационни местни закони. Системата помогна на рецензентите да маркират хиляди общински статути, които третират хората по различен начин въз основа на защитени атрибути. Проучването потвърди точността на AI на 98% спрямо исторически правни компилации и отбеляза, че макар AI да е ефективен при идентифицирането на изрично различно третиране, той може да бъде прекалено нетърпелив в приоритизирането на определени основани на пола класификации в сравнение с рецензентите от хора.
Изследователи от Станфордския институт за човешки центриран изкуствен интелект (HAI) и университетската RegLab публикуваха проучване, демонстриращо полезността на големите езикови модели при идентифицирането на дискриминационни местни закони. Системата с изкуствен интелект е създадена, за да помогне на рецензентите да преглеждат огромни общински кодекси, за да намерят закони, които третират индивидите по различен начин въз основа на раса, пол или гражданство.
Проучването подчертава самия мащаб на проблема, отбелязвайки, че общинският кодекс на Сан Франциско и свързаните с него резолюции съдържат приблизително 16 милиона думи. Този том прави ръчния преглед от правни експерти, като например историческите усилия на Pauli Murray и Ruth Bader Ginsburg, изключително труден за възпроизвеждане на местно ниво без изчислителна помощ.
За да валидират системата, изследователите са използвали подбран набор от исторически правни компилации, включително компилацията на Pauli Murray от законите на Джим Кроу и документи, свързани със съдебни спорове за гей бракове. Системата с изкуствен интелект постигна 98% степен на точност при идентифицирането на тези известни дискриминационни разпоредби. След това рецензенти работеха заедно с AI, за да дадат приоритет на силата на правните претенции.
Проучването отбелязва ограничения в преценката на AI. Въпреки че беше ефективна при идентифицирането на изрично различно отношение, системата понякога беше „прекалено нетърпелива“ в отбелязването на класификации, основани на пола, като например отделни заведения в окръжните затвори, които често имат легитимни правни обосновки, които се зачитат. Изследователите изясниха, че системата в момента се фокусира върху различно лечение, а не върху различно въздействие, тъй като последното изисква сложен причинно-следствен анализ, който е извън текущите възможности на инструмента.
Детайли за източника: politico.com ↗
Защо има значение
Тази разработка е насочена към значително предизвикателство за мащабируемост при спазването на законите и прилагането на гражданските права. Местните общински кодове са огромни, като някои градове като Сан Франциско имат кодове, надхвърлящи 16 милиона думи, което прави ръчния преглед от човешки експерти непрактичен за цялостни одити. Чрез автоматизиране на първоначалния преглед на уставите за явен дискриминационен език, инструментите за изкуствен интелект могат значително да намалят времето и разходите, необходими за идентифициране на потенциални законови нарушения. Това позволява на правните екипи и организациите за граждански права да съсредоточат ограничените си ресурси върху проверката и оспорването на най-проблемните разпоредби, което потенциално води до по-бързо коригиране на дискриминационните закони, които засягат милиони жители.
Основното значение на това изследване е потенциалът за демократизиране на правния одит. Исторически погледнато, идентифицирането на дискриминационни закони изисква обширен ръчен труд от специализирани правни учени. Чрез използване на AI, за да се справят с първоначалния скрининг на милиони думи от общински код, правните екипи могат да постигнат цялостно покритие, което преди беше невъзможно.
Този инструмент има практически последици за прилагането на гражданските права. Чрез идентифициране на хиляди потенциално дискриминационни закони в различни юрисдикции, проучването предоставя пътна карта за целенасочени правни предизвикателства. Това може да доведе до премахване или изменение на закони, които са били пренебрегнати поради големия обем на местните разпоредби.
Степента на точност от 98% в комплектите за валидиране предполага, че AI може да бъде надежден филтър за първо преминаване за законово съответствие. Това намалява когнитивното натоварване на рецензентите, като им позволява да се съсредоточат върху нюансирани правни аргументи, а не върху основно сканиране на текст. Това повишаване на ефективността е от решаващо значение за организации с ограничени ресурси, които имат за цел да прилагат антидискриминационни закони на местно ниво.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
Наблюдавайте дали юридически технологични фирми или правителствени агенции приемат подобни инструменти за одит, управлявани от AI, за общински кодекси. Следете за актуализации на методологията на проучването по отношение на различното въздействие, тъй като настоящата система се фокусира върху изрично различно третиране. Освен това наблюдавайте дали този подход се разширява към други области на нормативно съответствие, където големи обеми текст трябва да бъдат проверени за специфични правни критерии.
Бъдещите итерации на тази система може да се опитат да се справят с различни въздействия, което включва анализиране на ефектите от реалния свят на лицево неутралните закони. Това е по-сложна задача, изискваща причинно-следствени изводи и напредъкът в тази област би разширил значително полезността на инструмента.
Приемането от общински правителства или държавни агенции може да доведе до проактивни усилия за съответствие. Ако местните правителства използват такива инструменти за одит на собствените си кодекси, това може да доведе до самокоригиране, преди да бъдат подадени правни оспорвания.
Юридическата общност може да обсъжда допустимостта или надеждността на правни одити, генерирани от AI, в съда. Установяването на стандарти за това как се провеждат и проверяват правни изследвания, подпомагани от AI, ще бъде важно за по-широкото приемане на тези инструменти в правната практика.