Hva skjedde
KOAT rapporterer at New Mexicos høyesterett fant Santa Fe-advokat Stephen Aarons i forakt, bøtelagt ham 5000 dollar, henvist ham til et disiplinært styre og midlertidig utestengt ham fra å møte for retten. Aarons innrømmet at han brukte ChatGPT mens han forberedte en ankesak, men sa at han ikke forsto at det kunne fremstille plausible vitner, vitnesbyrd, sitater og juridiske myndigheter.
KOAT rapporterer at New Mexicos høyesterett fant Aarons i forakt etter at en sak han sendte inn i anken til Oscar Renee Sandoval ble funnet å inneholde materiale produsert av ChatGPT. Sandoval hadde erkjent seg ikke skyldig i å ha myrdet sin partner og moren til barna hans, ifølge rapporten.
Retten bøtelagt Aarons med 5000 dollar, henviste ham til et disiplinært styre og utestengt ham fra å møte for Høyesterett mens etterforskning og saksbehandling fortsetter. KOAT sier at retten så på advokatens oppførsel som en mangel på anger og bekymring for klienten hans.
Aarons erkjente å bruke ChatGPT for å forberede briefen og erkjente at han ikke klarte å verifisere faktiske påstander før han signerte og sendte den inn. KOAT rapporterer at han sa at han ikke hadde satt pris på at ChatGPT kunne generere sammenhengende, men oppdiktede vitner, vitnesbyrd, sitater og autoriteter.
I følge KOAT inkluderte innleveringen falske vitnesbyrd fra fullstendig fabrikkerte vitner identifisert som offiser Michelle Amarillo, offiser Sanchez, Manal Al-Jibury og Teresa Marquez, samt falske vitnesbyrd tilskrevet faktiske vitner. KOAT sier at OpenAI ikke hadde svart på forespørsler om kommentarer på publiseringstidspunktet.
Beretningen er basert på KOATs rapport og dens beskrivelse av rettsdokumenter. Disse registreringene er ikke gjengitt i den medfølgende kilden, så detaljene ble ikke bekreftet uavhengig her.
Hvorfor det betyr noe
Saken viser en konkret juridisk konsekvens når en advokat sender inn ubekreftede generative AI-utdata i en straffeanke. Det illustrerer også at ansvaret for rettsdokumentene forblir hos advokaten som signerer dem, selv når materialet ble produsert med et AI-verktøy. Hendelsen er spesielt konsekvens fordi KOAT rapporterer at det fabrikkerte materialet inkluderte både helt fiktive vitner og falske vitnesbyrd tilskrevet ekte vitner.
Kjennelsen gjør risikoen for AI-generert juridisk fabrikasjon håndgripelig: en tilsynelatende sammenhengende brief kan introdusere oppfunne personer og uttalelser i en prosedyre som involverer en persons frihet. Den rapporterte sanksjonen forsterker også at advokater må gjennomgå og autentisere registreringer før de sender dem.
Dette er ikke bevis på at ChatGPT alene forårsaket det juridiske resultatet eller at hver bruk av verktøyet produserer fabrikkert materiale. Det er en spesifikk rapportert svikt i å bekrefte AI-genererte påstander i en høyinnsats. Kilden sier ikke hvilken ChatGPT-versjon eller kontonivå som ble brukt, og den gir ingen uavhengig testing av modellens oppførsel.
For domstoler og juridiske utøvere er den praktiske implikasjonen at AI-assistert utkast krever kontroll på kildenivå av alle faktiske påstander, sitater og autoriteter. Saken kan også informere om faglig veiledning og disiplinære forventninger, selv om KOAT ikke rapporterer noen ny statlig regel som følge av den.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Disiplinærstyrets etterforskning og relaterte prosedyrer vil avgjøre om Aarons står overfor ytterligere profesjonelle sanksjoner. New Mexico Supreme Courts midlertidige forbud vil også forbli i kraft i påvente av disse prosedyrene, ifølge KOAT. Kilden fastslår ikke uavhengig det nøyaktige innholdet i rettsdokumentene, omfanget av skade på tiltaltes anke, eller om OpenAI vil svare.
Disiplinærnemndas gjennomgang og eventuelle videre rettssaker kan avklare de faglige konsekvensene utover bøten på 5000 dollar og midlertidig oppmøteforbud.
Det er fortsatt ukjent fra den leverte rapporten om tiltaltes anke vil få rettsmiddel, om det oppdiktede materialet påvirket rettens avgjørelse, og om andre deltakere i saken vil få konsekvenser.
KOAT rapporterer at OpenAI ikke hadde svart på forespørsler om kommentar. Kilden identifiserer heller ingen spesifikke sikkerhetstiltak, advarsler eller produktendringer fra OpenAI relatert til hendelsen.