Wat is er gebeurd
KOAT meldt dat het Hooggerechtshof van New Mexico Santa Fe-advocaat Stephen Aarons minachtte, hem een boete van $ 5.000 oplegde, hem naar een tuchtraad verwees en hem tijdelijk verbood om voor de rechtbank te verschijnen. Aarons gaf toe ChatGPT te hebben gebruikt bij het voorbereiden van een beroepsbrief, maar zei dat hij niet begreep dat dit plausibele getuigen, getuigenissen, citaten en juridische autoriteiten kon verzinnen.
KOAT meldt dat het Hooggerechtshof van New Mexico Aarons minachtte nadat bleek dat een brief die hij had ingediend in het hoger beroep van Oscar Renee Sandoval materiaal bevatte dat door ChatGPT was verzonnen. Sandoval had volgens het rapport niet schuldig gepleit aan de moord op zijn partner en de moeder van zijn kinderen.
De rechtbank legde Aarons een boete van $ 5.000 op, verwees hem naar een tuchtraad en verbood hem om voor het Hooggerechtshof te verschijnen zolang het onderzoek en de procedure voortduurden. KOAT zegt dat de rechtbank het gedrag van de advocaat beschouwde als een blijk van een gebrek aan spijt en bezorgdheid voor zijn cliënt.
Aarons erkende dat hij ChatGPT had gebruikt om de brief op te stellen en erkende dat hij er niet in was geslaagd de feitelijke beweringen te verifiëren voordat hij deze ondertekende en indiende. KOAT meldt dat hij zei dat hij het niet op prijs had gesteld dat ChatGPT coherent ogende maar verzonnen getuigen, getuigenissen, citaten en autoriteiten kon genereren.
Volgens KOAT omvatte de indiening valse getuigenissen van volledig verzonnen getuigen, geïdentificeerd als agent Michelle Amarillo, agent Sanchez, Manal Al-Jibury en Teresa Marquez, evenals valse getuigenissen toegeschreven aan daadwerkelijke getuigen. KOAT zegt dat OpenAI op het moment van publicatie niet had gereageerd op verzoeken om commentaar.
Het verslag is gebaseerd op het rapport van KOAT en de beschrijving van de rechtszaken. Deze documenten zijn niet weergegeven in de verstrekte bron, dus de details zijn hier niet onafhankelijk bevestigd.
Waarom het ertoe doet
De zaak laat een concreet juridisch gevolg zien wanneer een advocaat niet-geverifieerde generatieve AI-uitvoer indient in een strafrechtelijk beroep. Het illustreert ook dat de verantwoordelijkheid voor gerechtelijke dossiers berust bij de advocaat die ze ondertekent, zelfs als het materiaal met een AI-tool is geproduceerd. Het incident heeft vooral consequenties omdat KOAT meldt dat het verzonnen materiaal zowel volledig fictieve getuigen als valse getuigenissen bevatte die aan echte getuigen werden toegeschreven.
De uitspraak maakt het risico van door AI gegenereerde juridische verzinsels tastbaar: een ogenschijnlijk coherente opdracht kan verzonnen mensen en verklaringen introduceren in een procedure waarbij de vrijheid van een persoon betrokken is. De gerapporteerde sanctie versterkt ook dat advocaten de ingediende documenten moeten beoordelen en authenticeren voordat ze deze indienen.
Dit is geen bewijs dat ChatGPT alleen de juridische uitkomst heeft veroorzaakt of dat elk gebruik van het hulpmiddel verzonnen materiaal oplevert. Het is een specifiek gemeld onvermogen om door AI gegenereerde claims te verifiëren in een omgeving met hoge inzet. De bron vermeldt niet welke ChatGPT-versie of accountlaag is gebruikt, en biedt geen onafhankelijke tests van het gedrag van het model.
Voor rechtbanken en beoefenaars van juridische beroepen is de praktische implicatie dat AI-ondersteund opstellen een controle op bronniveau vereist van elke feitelijke bewering, citaat en autoriteit. De zaak kan ook aanleiding geven tot professionele begeleiding en disciplinaire verwachtingen, hoewel KOAT geen nieuwe regel voor de gehele staat rapporteert die daaruit voortvloeit.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
Why can ethical evaluation not be reduced to one model score?
Wat je nu moet bekijken
Het onderzoek van de tuchtraad en de daarmee samenhangende procedures zullen bepalen of Aarons te maken krijgt met aanvullende professionele sancties. Volgens KOAT zal de tijdelijke schorsing van het Hooggerechtshof van New Mexico ook van kracht blijven in afwachting van deze procedure. De bron stelt niet onafhankelijk de precieze inhoud van de gerechtelijke stukken vast, noch de omvang van de schade aan het beroep van de beklaagde, noch of OpenAI zal reageren.
De beoordeling door de tuchtraad en eventuele verdere gerechtelijke procedures zouden de professionele gevolgen kunnen ophelderen die verder gaan dan de boete van $ 5.000 en het tijdelijke verschijningsverbod.
Uit het aangeleverde rapport blijkt nog steeds niet of het beroep van de beklaagde een rechtsmiddel zal krijgen, of het verzonnen materiaal de beslissing van de rechtbank heeft beïnvloed en of andere deelnemers aan de zaak met consequenties zullen worden geconfronteerd.
KOAT meldt dat OpenAI niet heeft gereageerd op verzoeken om commentaar. De bron noemt ook geen specifieke veiligheidsmaatregelen, waarschuwingen of productwijzigingen van OpenAI die verband houden met het incident.