Was ist passiert?
Forscher von Stanfords HAI und RegLab haben eine Studie veröffentlicht, die zeigt, dass ein KI-System bei der Identifizierung diskriminierender lokaler Gesetze helfen kann. Das System half menschlichen Gutachtern dabei, Tausende kommunaler Gesetze zu kennzeichnen, die Menschen aufgrund geschützter Eigenschaften unterschiedlich behandeln. Die Studie validierte die Genauigkeit der KI mit 98 % im Vergleich zu historischen juristischen Zusammenstellungen und stellte fest, dass die KI zwar effektiv darin ist, explizite unterschiedliche Behandlungen zu erkennen, im Vergleich zu menschlichen Gutachtern jedoch möglicherweise zu sehr darauf bedacht ist, bestimmte geschlechtsspezifische Klassifizierungen zu priorisieren.
Forscher des Stanford Institute for Human-Centered AI (HAI) und des RegLab der Universität haben eine Studie veröffentlicht, die den Nutzen großer Sprachmodelle bei der Identifizierung diskriminierender lokaler Gesetze zeigt. Das KI-System wurde entwickelt, um menschlichen Gutachtern dabei zu helfen, umfangreiche kommunale Vorschriften zu durchsuchen, um Gesetze zu finden, die Einzelpersonen aufgrund ihrer Rasse, ihres Geschlechts oder ihrer Staatsbürgerschaft unterschiedlich behandeln.
Die Studie verdeutlichte das schiere Ausmaß des Problems und stellte fest, dass die Gemeindeordnung von San Francisco und die damit verbundenen Resolutionen etwa 16 Millionen Wörter enthalten. Dieser Band macht es äußerst schwierig, manuelle Überprüfungen durch Rechtsexperten, wie etwa die historischen Bemühungen von Pauli Murray und Ruth Bader Ginsburg, ohne rechnerische Unterstützung auf lokaler Ebene zu reproduzieren.
Um das System zu validieren, verwendeten die Forscher einen kuratierten Satz historischer Rechtssammlungen, darunter die Pauli-Murray-Zusammenstellung von Jim-Crow-Gesetzen und Dokumenten im Zusammenhang mit Rechtsstreitigkeiten zur Homo-Ehe. Das KI-System erreichte eine Genauigkeit von 98 % bei der Identifizierung dieser bekannten diskriminierenden Bestimmungen. Anschließend arbeiteten menschliche Prüfer mit der KI zusammen, um die Stärke der Rechtsansprüche zu priorisieren.
Die Studie stellte Einschränkungen im Urteil der KI fest. Das System war zwar effektiv bei der Identifizierung expliziter Ungleichbehandlungen, war jedoch manchmal „übermäßig eifrig“ bei der Kennzeichnung geschlechtsspezifischer Klassifizierungen, wie z. B. getrennter Einrichtungen in Bezirksgefängnissen, die oft auf legitimen rechtlichen Gründen basieren, die von Gerichten anerkannt werden. Die Forscher stellten klar, dass sich das System derzeit auf unterschiedliche Behandlungen und nicht auf unterschiedliche Auswirkungen konzentriert, da letztere eine komplexe Kausalanalyse erfordern, die über die aktuellen Möglichkeiten des Tools hinausgeht.
Quellenangaben: politico.com ↗
Warum es wichtig ist
Diese Entwicklung befasst sich mit einer erheblichen Skalierbarkeitsherausforderung bei der Einhaltung gesetzlicher Vorschriften und der Durchsetzung von Bürgerrechten. Die lokalen Kommunalgesetze sind umfangreich, wobei einige Städte wie San Francisco über mehr als 16 Millionen Wörter verfügen, was eine manuelle Überprüfung durch menschliche Experten für umfassende Prüfungen unpraktisch macht. Durch die Automatisierung der ersten Überprüfung von Gesetzen auf explizite diskriminierende Sprache können KI-Tools den Zeit- und Kostenaufwand für die Identifizierung potenzieller Rechtsverstöße erheblich reduzieren. Dies ermöglicht es Rechtsteams und Bürgerrechtsorganisationen, ihre begrenzten Ressourcen auf die Überprüfung und Anfechtung der problematischsten Bestimmungen zu konzentrieren, was möglicherweise zu einer schnelleren Abhilfe bei diskriminierenden Gesetzen führt, die Millionen von Einwohnern betreffen.
Die primäre Bedeutung dieser Forschung ist das Potenzial zur Demokratisierung der Rechtsprüfung. In der Vergangenheit erforderte die Identifizierung diskriminierender Gesetze umfangreiche Handarbeit durch spezialisierte Rechtswissenschaftler. Durch den Einsatz von KI für die Erstprüfung von Millionen Wörtern kommunaler Vorschriften können Rechtsteams eine umfassende Abdeckung erreichen, die bisher nicht möglich war.
Dieses Instrument hat praktische Auswirkungen auf die Durchsetzung der Bürgerrechte. Durch die Identifizierung Tausender potenziell diskriminierender Gesetze in verschiedenen Gerichtsbarkeiten bietet die Studie einen Fahrplan für gezielte rechtliche Herausforderungen. Dies könnte dazu führen, dass Gesetze gestrichen oder geändert werden, die aufgrund der Vielzahl lokaler Vorschriften übersehen wurden.
Die Genauigkeitsrate von 98 % in Validierungssätzen legt nahe, dass KI ein zuverlässiger First-Pass-Filter für die Einhaltung gesetzlicher Vorschriften sein kann. Dies reduziert die kognitive Belastung menschlicher Prüfer und ermöglicht ihnen, sich auf differenzierte rechtliche Argumente zu konzentrieren und nicht auf das einfache Scannen von Texten. Dieser Effizienzgewinn ist von entscheidender Bedeutung für Organisationen mit begrenzten Ressourcen, die darauf abzielen, Antidiskriminierungsgesetze auf lokaler Ebene durchzusetzen.
Interaktiver Mechanismus: Wie es tatsächlich funktioniert
Entdecken Sie interaktiv die zugrunde liegende Technologie, die dieser Entwicklung zugrunde liegt.
Why can ethical evaluation not be reduced to one model score?
Was Sie als nächstes sehen sollten
Überwachen Sie, ob Legal-Tech-Unternehmen oder Regierungsbehörden ähnliche KI-gesteuerte Prüfungstools für kommunale Vorschriften einführen. Achten Sie auf Aktualisierungen der Methodik der Studie in Bezug auf unterschiedliche Auswirkungen, da sich das aktuelle System auf eine explizite unterschiedliche Behandlung konzentriert. Beobachten Sie außerdem, ob sich dieser Ansatz auf andere Bereiche der Einhaltung gesetzlicher Vorschriften ausdehnt, in denen große Textmengen auf bestimmte rechtliche Kriterien überprüft werden müssen.
Zukünftige Iterationen dieses Systems könnten versuchen, unterschiedliche Auswirkungen anzugehen, was die Analyse der realen Auswirkungen von gesichtsneutralen Gesetzen beinhaltet. Dies ist eine komplexere Aufgabe, die kausale Schlussfolgerungen erfordert, und Fortschritte in diesem Bereich würden den Nutzen des Tools erheblich erweitern.
Die Übernahme durch Kommunalverwaltungen oder staatliche Behörden könnte zu proaktiven Compliance-Bemühungen führen. Wenn Kommunalverwaltungen solche Tools nutzen, um ihre eigenen Kodizes zu prüfen, kann dies zu einer Selbstkorrektur führen, bevor rechtliche Schritte eingeleitet werden.
Die Rechtsgemeinschaft kann vor Gericht über die Zulässigkeit oder Zuverlässigkeit von KI-generierten Rechtsprüfungen debattieren. Für die breitere Akzeptanz dieser Instrumente in der Rechtspraxis wird die Festlegung von Standards für die Durchführung und Überprüfung KI-gestützter Rechtsrecherchen wichtig sein.