Cosa è successo
Secondo la KFOR di Nexstar, il giudice distrettuale della contea di Stephens Lawrence Wheeler ha ammesso agli investigatori di aver citato almeno due casi inesistenti dell'Oklahoma in un'ordinanza del tribunale dopo averli trovati tramite ChatGPT. L'ordinanza riguardava una richiesta di test psicologico in un caso di affidamento di minori. La KFOR riferisce che Wheeler ha affermato di aver scritto lui stesso l'ordine e di aver utilizzato l'intelligenza artificiale solo per la ricerca.
La KFOR di Nexstar riferisce che l’incidente è iniziato a novembre durante un caso di custodia dei bambini nella contea di Stephens. Il giudice Lawrence Wheeler ha negato la richiesta di un avvocato di sottoporre l'altro genitore a un test psicologico e ha citato diversi presunti precedenti dell'Oklahoma nell'ordine. La KFOR riferisce che almeno due di questi casi non esistevano.
L'Oklahoma Council on Judicial Complaints ha chiesto all'Oklahoma State Bureau of Investigation di indagare. In una lettera di agosto all'ufficio del procuratore generale, il procuratore distrettuale della contea di Stephens, Jason Hicks, avrebbe scritto che Wheeler aveva detto agli agenti dell'OSBI che ChatGPT aveva fornito almeno due casi inesistenti. Wheeler ha detto che alla fine ha scritto lui stesso l’ordine e ha utilizzato l’intelligenza artificiale per la ricerca.
La KFOR riferisce che l’ufficio del procuratore generale ha esaminato i risultati dell’OSBI ma ha concluso che le prove non supportavano l’azione penale. L'ufficio ha inoltre affermato che la Corte Suprema dell'Oklahoma ha la massima autorità sulla disciplina giudiziaria. La KFOR ha contattato l’avvocato di Wheeler, che ha rifiutato di commentare.
Questo resoconto si basa sui resoconti della KFOR e sulle dichiarazioni attribuite al procuratore distrettuale, all’ufficio del procuratore generale e all’avvocato Tim Gilpin. La fonte non pubblica in modo indipendente l'ordinanza del tribunale, il fascicolo investigativo o la trascrizione di un'intervista, quindi l'ammissione di fondo e l'intera portata delle citazioni inventate non sono confermate in modo indipendente qui.
Dettagli della fonte: wfla.com ↗
Perché è importante
Il rapporto illustra una modalità di fallimento consequenziale quando l’intelligenza artificiale generativa viene utilizzata nella ricerca legale: autorità fittizie possono prendere decisioni che incidono sui diritti delle persone e sui rapporti familiari. Il resoconto della KFOR mostra anche che la responsabilità penale e la disciplina giudiziaria sono questioni separate. L’ufficio del procuratore generale ha affermato che le prove non supportano l’accusa, mentre la Corte Suprema dell’Oklahoma mantiene la massima autorità sulla disciplina dei giudici. La fonte non stabilisce se l'ordinanza sia stata ritirata, corretta o rivista in appello.
Le citazioni legali sono autorità fattuali verificabili, non semplici suggerimenti. Se in un'ordinanza giudiziaria compaiono casi inesistenti, il problema può influenzare il ragionamento a disposizione delle parti e complicare la revisione successiva, anche quando è il giudice, e non il software, a firmare l'ordinanza.
Il rapporto distingue due forme di responsabilità. L’ufficio del procuratore generale ha ritenuto prove insufficienti per avviare un procedimento penale, ma tale decisione non risolve se siano state violate le norme giudiziarie. Secondo il resoconto della KFOR, qualsiasi risposta disciplinare ricadrebbe sotto l’autorità della Corte Suprema dell’Oklahoma.
La lezione pratica riportata dalla KFOR è che la ricerca legale assistita dall’intelligenza artificiale richiede la verifica fonte per fonte. L'articolo non stabilisce se le inesattezze citate abbiano modificato la decisione di affidamento o causato un danno misurabile. Inoltre non riporta se il tribunale abbia introdotto nuove garanzie.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
Le principali questioni senza risposta riguardano se la Corte Suprema dell’Oklahoma perseguirà la disciplina, se l’ordinanza del tribunale sarà corretta o annullata e se i tribunali dell’Oklahoma adotranno regole più chiare per verificare la ricerca legale assistita dall’intelligenza artificiale. Il rapporto della KFOR non fornisce l’ordine, i risultati delle indagini dell’OSBI o una revisione indipendente dei casi citati, quindi tali dettagli rimangono non confermati.
Presta attenzione a qualsiasi azione da parte della Corte Suprema dell'Oklahoma, inclusi un procedimento disciplinare o una spiegazione pubblica su come i giudici possono utilizzare l'intelligenza artificiale generativa. La fonte non riferisce che tale azione sia avvenuta.
Presta attenzione alle correzioni o alle ulteriori controversie sull'ordinanza sulla custodia dei figli. La KFOR non dice se l'ordine rimane in vigore, è stato modificato o è stato contestato a causa delle citazioni.
Una maggiore documentazione chiarirebbe il caso: l'ordinanza stessa, i risultati dell'OSBI, le identità e lo stato dei casi inesistenti e qualsiasi risposta del giudice Wheeler. Nessuno è disponibile in modo indipendente nell'origine fornita.