Wat is er gebeurd
Gouverneur Gavin Newsom (D) ondertekende woensdag Senaatswetsvoorstel 574, waarmee het eerste wettelijke kader van het land werd gecreëerd dat het gebruik van generatieve kunstmatige intelligentie-instrumenten door advocaten en arbiters rechtstreeks reguleert. De wet verbiedt advocaten om de rechtspraktijk aan AI te delegeren, verbiedt de invoer van vertrouwelijke of persoonlijke informatie in AI-systemen en schrijft voor dat alle door AI gegenereerde citaten onafhankelijk moeten worden geverifieerd voordat ze worden ingediend. Het vereist ook dat ten minste één advocaat elke rechtbankaanvraag in eigen naam ondertekent, tenzij de partij zichzelf vertegenwoordigt. Voor arbiters verbiedt het wetsvoorstel het delegeren van besluitvorming aan AI en verplicht het de openbaarmaking van alle uit AI afkomstige informatie aan de partijen. Rechtbanken kunnen sancties opleggen voor overtredingen, hoewel specifieke strafstructuren niet in het wetsvoorstel zijn beschreven.
Het wetsvoorstel, SB 574, werd geïntroduceerd om de bestaande rechtbankregels in Californië te codificeren en uit te breiden, die advocaten al verplichtten om door AI gegenereerde citaten te verifiëren. Door het wetsontwerp te ondertekenen heeft gouverneur Newsom deze regels tot wettelijke wetgeving verheven, waardoor ze breder afdwingbaar zijn geworden.
De wetgeving verbiedt advocaten expliciet om vertrouwelijke of persoonlijke gegevens in generatieve AI-tools in te voeren, een bescherming tegen onbedoelde datalekken. Het vereist ook dat alle door AI gegenereerde inhoud die in een archivering wordt gebruikt, onafhankelijk wordt gecontroleerd op juistheid voordat deze wordt ingediend.
Arbiters, die vaak buiten de traditionele rechtssystemen opereren, worden op soortgelijke wijze beperkt. Ze kunnen voor hun besluitvorming niet op AI vertrouwen zonder volledige openbaarmaking aan de partijen, en het is hen verboden een deel van hun rechterlijke taken aan AI te delegeren.
Hoewel het wetsvoorstel schetst dat rechtbanken sancties kunnen opleggen voor overtredingen, specificeert het geen exacte boetebedragen of procedurele stappen, en laat het deze details over aan de rechterlijke macht of de daaropvolgende regelgeving.
Brongegevens: news.bloomberglaw.com ↗
Waarom het ertoe doet
De wetgeving komt tegemoet aan de groeiende bezorgdheid dat generatieve AI onnauwkeurige citaten, ‘hallucinerende’ jurisprudentie of bevooroordeelde analyses kan opleveren, die de integriteit van juridische procedures zouden kunnen ondermijnen. Door de verificatie- en openbaarmakingsvereisten te codificeren, streeft Californië ernaar de vertrouwelijkheid van cliënten te beschermen, het privilege tussen advocaten en cliënten te behouden en het vertrouwen van het publiek in de rechtsgang te behouden. Het wetsvoorstel schept ook een precedent voor andere staten en mogelijk de federale rechterlijke macht, en geeft aan dat toezichthouders bereid zijn in te grijpen naarmate AI-instrumenten ingebed raken in de professionele praktijk. Bovendien zou de wet invloed kunnen hebben op de manier waarop advocatenkantoren AI adopteren, wat de ontwikkeling van compliance-workflows zou kunnen stimuleren en mogelijk de markt zou kunnen stimuleren voor AI-auditinstrumenten die zijn toegesneden op juridisch werk.
Juridische professionals vertrouwen steeds meer op generatieve AI voor onderzoek, redactie en het genereren van citaten. Fouten in de AI-productie kunnen leiden tot verkeerd aangehaalde precedenten, waardoor de belangen van cliënten mogelijk worden geschaad en het vertrouwen in het rechtssysteem wordt aangetast.
De wet beschermt de vertrouwelijkheid van klanten door de onbedoelde overdracht van gevoelige gegevens naar externe AI-aanbieders te voorkomen, waarmee een belangrijk privacyprobleem wordt aangepakt dat in recente spraakmakende zaken naar voren is gekomen.
Door een duidelijk regelgevingskader vast te stellen, biedt Californië een sjabloon dat andere rechtsgebieden kunnen volgen, wat mogelijk kan leiden tot een meer uniforme nationale benadering van AI-beheer in de juridische sector.
Het wetsvoorstel kan de markt voor op compliance gerichte AI-tools stimuleren en leveranciers aanmoedigen om functies te ontwikkelen die citaten automatisch verifiëren en vertrouwelijke gegevens markeren voordat deze naar een AI-model worden verzonden.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Wat je nu moet bekijken
Belangrijke ontwikkelingen die moeten worden gevolgd zijn onder meer: (1) hoe Californische rechtbanken het nieuwe sanctieregime implementeren en handhaven; (2) of andere staten vergelijkbare statuten invoeren of het Californische model overnemen; (3) de reactie van leveranciers van juridische technologie, die mogelijk verificatie- en auditfuncties aan hun AI-producten moeten toevoegen; en (4) eventuele rechtszaken die de grenzen van het wetsvoorstel op de proef stellen, vooral met betrekking tot wat het ‘delegeren’ van juridisch werk aan AI inhoudt.
Implementatietijdlijnen: rechtbanken in Californië zullen regels moeten uitvaardigen waarin gedetailleerd wordt beschreven hoe sancties worden toegepast en welke procedurele waarborgen vereist zijn.
Wetgevende rimpeleffecten: Wetgevers in andere staten kunnen soortgelijke statuten opstellen, vooral in rechtsgebieden met grote juridische markten zoals New York of Texas.
Reactie van de sector: Legal-tech bedrijven kunnen nieuwe audit- en verificatiemodules uitrollen om bedrijven te helpen compliant te blijven, waardoor een nichemarkt ontstaat voor AI-compliance-oplossingen.
Risico van rechtszaken: Vroege gevallen waarin de reikwijdte van het wetsvoorstel wordt getest, kunnen dubbelzinnige termen zoals het ‘delegeren’ van juridisch werk of ‘vertrouwelijke informatie’ verhelderen, waardoor toekomstige handhaving wordt vormgegeven.