Cosa è successo
KOAT riferisce che la Corte Suprema del New Mexico ha giudicato oltraggioso l'avvocato di Santa Fe Stephen Aarons, multato di $ 5.000, deferito a una commissione disciplinare e impedendogli temporaneamente di comparire davanti alla corte. Aarons ha ammesso di aver utilizzato ChatGPT durante la preparazione di una memoria di appello, ma ha affermato di non comprendere che ciò potrebbe falsificare testimoni, testimonianze, citazioni e autorità legali plausibili.
KOAT riferisce che la Corte Suprema del New Mexico ha ritenuto Aarons in oltraggio dopo che si è scoperto che una memoria da lui presentata nell'appello di Oscar Renee Sandoval conteneva materiale fabbricato da ChatGPT. Secondo il rapporto Sandoval si era dichiarato non colpevole dell'omicidio della sua compagna e della madre dei suoi figli.
La corte ha multato Aarons di 5.000 dollari, lo ha deferito a una commissione disciplinare e gli ha impedito di comparire davanti alla Corte Suprema mentre le indagini e i procedimenti continuano. KOAT afferma che la corte ha considerato la condotta dell'avvocato come una dimostrazione di mancanza di rimorso e preoccupazione per il suo cliente.
Aarons ha ammesso di aver utilizzato ChatGPT per preparare la memoria e ha ammesso di non aver verificato le affermazioni fattuali prima di firmarla e archiviarla. KOAT riferisce di aver affermato di non aver apprezzato il fatto che ChatGPT potesse generare testimoni, testimonianze, citazioni e autorità apparentemente coerenti ma inventate.
Secondo KOAT, la documentazione includeva false testimonianze di testimoni interamente inventati identificati come l'agente Michelle Amarillo, l'agente Sanchez, Manal Al-Jibury e Teresa Marquez, nonché false testimonianze attribuite a testimoni reali. KOAT afferma che OpenAI non ha risposto alle richieste di commento al momento della pubblicazione.
Il resoconto si basa sul rapporto di KOAT e sulla sua descrizione dei documenti giudiziari. Tali documenti non sono riprodotti nella fonte fornita, quindi i dettagli non sono stati confermati in modo indipendente qui.
Dettagli della fonte: koat.com ↗
Perché è importante
Il caso mostra una conseguenza legale concreta quando un avvocato presenta risultati di intelligenza artificiale generativa non verificati in un ricorso penale. Ciò illustra inoltre che la responsabilità dei documenti depositati in tribunale rimane dell’avvocato che li firma, anche quando il materiale è stato prodotto con uno strumento di intelligenza artificiale. L'incidente è particolarmente importante perché KOAT riferisce che il materiale fabbricato includeva sia testimoni interamente fittizi che false testimonianze attribuite a testimoni reali.
La sentenza rende tangibile il rischio di una falsificazione giuridica generata dall’IA: una memoria apparentemente coerente può introdurre persone e dichiarazioni inventate in un procedimento che coinvolge la libertà di una persona. La sanzione segnalata rafforza inoltre il fatto che gli avvocati devono esaminare e autenticare i documenti prima di presentarli.
Ciò non è una prova che ChatGPT da solo abbia causato l'esito legale o che ogni utilizzo dello strumento produca materiale fabbricato. Si tratta di una specifica mancata verifica delle affermazioni generate dall’intelligenza artificiale in un contesto ad alto rischio. La fonte non dice quale versione ChatGPT o livello di account è stato utilizzato e non fornisce test indipendenti sul comportamento del modello.
Per i tribunali e gli operatori legali, l’implicazione pratica è che la redazione assistita dall’intelligenza artificiale richiede il controllo a livello di fonte di ogni affermazione fattuale, citazione e autorità. Il caso può anche informare l'orientamento professionale e le aspettative disciplinari, sebbene KOAT non riporti alcuna nuova regola a livello statale che ne derivi.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
L’indagine della commissione disciplinare e i relativi procedimenti determineranno se Aarons dovrà affrontare ulteriori sanzioni professionali. Secondo KOAT, anche l’interdizione temporanea della Corte Suprema del New Mexico rimarrà in vigore in attesa di tali procedimenti. La fonte non stabilisce in modo indipendente il contenuto preciso degli atti giudiziari, l’entità del danno per l’appello dell’imputato o se OpenAI risponderà.
La revisione della commissione disciplinare e qualsiasi ulteriore procedimento giudiziario potrebbero chiarire le conseguenze professionali oltre la multa di 5.000 dollari e il divieto temporaneo di comparizione.
Dal rapporto fornito non è noto se l’appello dell’imputato riceverà un rimedio, se il materiale fabbricato abbia influenzato la decisione della corte e se gli altri partecipanti al caso dovranno affrontare conseguenze.
KOAT riporta che OpenAI non ha risposto alle richieste di commento. La fonte inoltre non identifica alcuna salvaguardia specifica, avvertenza o modifica del prodotto da parte di OpenAI correlata all'incidente.