GUIDA della Società

Avvocati sanzionati per citazioni di casi fabbricati dall'intelligenza artificiale

Lawyers have been sanctioned for filing briefs containing case citations that generative AI tools invented, most famously in Mata v.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. The Future of Lawyers Sanctioned for AI-Fabricated Case Citations
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Avianca in 2023, where a federal judge imposed a $5,000 penalty on two attorneys and their firm. These cases matter because the failure is skipped verification, not use of the tool, and courts treat unchecked citations as a breach of the lawyer's duty to the court.

Immersione profonda

Mata v. Avianca, Inc. was an ordinary personal injury suit in the Southern District of New York: a passenger said a metal serving cart struck his knee on a 2019 flight. When Avianca moved to dismiss, the plaintiff's opposition cited decisions, including one styled Varghese v. China Southern Airlines, that did not exist. Neither opposing counsel nor the court could find them. The lawyer who did the research, Steven Schwartz, had used ChatGPT, believed it worked like a search engine, and asked it to confirm the cases were real, which it did. His colleague Peter LoDuca signed the filings. When the court ordered them to produce the decisions, they submitted AI-generated text presented as opinions. On June 22, 2023, Judge P. Kevin Castel imposed a $5,000 penalty on the two lawyers and their firm under Rule 11 and ordered them to write to their client and to each real judge falsely named as an author. The court made clear that using AI was not the problem. The lawyers failed by abandoning their responsibilities and continuing to stand by the fake cases after they were questioned. Later cases show the pattern persisting. The Second Circuit in Park v. Kim (2024) referred an attorney for possible discipline. In United States v. Cohen, Bard-generated citations reached a filing, though the judge declined sanctions. In Wadsworth v. Walmart (2025), lawyers were sanctioned over citations from their firm's in-house AI tool, showing that internal or legal-specific tools are not immune. Some judges, including Judge Brantley Starr of the Northern District of Texas in 2023, now require certifications about AI use. The central misconception is that asking the AI to double-check itself counts as verification. It does not. A model asked whether a case exists will often generate a confident yes. Verification means retrieving the actual opinion from an authoritative source and reading it.

Implementazione nel mondo reale

In Mata v. Avianca, an attorney used ChatGPT to research an airline injury case, then asked ChatGPT whether the cases were real; it said they were, and the fabricated authorities were filed with the court.

In Park v. Kim (2024), the Second Circuit referred a lawyer to its grievance panel after a reply brief cited a nonexistent decision that she acknowledged had come from ChatGPT.

In United States v. Cohen, citations that Michael Cohen found using Google Bard and passed to his lawyer ended up in a court filing; Judge Jesse Furman declined to impose sanctions but found the citations had not been checked.

In Wadsworth v. Walmart (2025), a federal court in Wyoming sanctioned attorneys after motions cited cases produced by their firm's internal AI tool, with the heaviest penalty on the lawyer who drafted the filing.

The Future of Lawyers Sanctioned for AI-Fabricated Case Citations

Courts continue to encounter AI-fabricated citations, from experienced lawyers at large firms as well as from self-represented litigants, so the problem is not fading on its own. Responses vary: some judges issue standing orders requiring disclosure or certification, others rely on existing Rule 11 duties, and bar regulators increasingly treat repeated or concealed failures as disciplinary matters. Citation-checking features in research and drafting platforms may catch more errors before filing, but confirming that a case exists is easier than confirming it supports the stated proposition. The durable fix remains a firm-wide habit: every authority is read before it is cited.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Take the Lawyers Sanctioned for AI-Fabricated Case Citations quiz

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

What is Lawyers Sanctioned for AI-Fabricated Case Citations?

Lawyers have been sanctioned for filing briefs containing case citations that generative AI tools invented, most famously in Mata v. Avianca in 2023, where a federal judge imposed a $5,000 penalty on two attorneys and their firm. These cases matter because the failure is skipped verification, not use of the tool, and courts treat unchecked citations as a breach of the lawyer's duty to the court.

Nel caso Mata v. Avianca, cosa accadde quando l'avvocato ricercatore chiese a ChatGPT se i casi citati fossero reali?

ChatGPT ha confermato che i casi inventati erano reali, il che illustra perché chiedere a un modello di verificare il proprio output non è una verifica.

Quale sanzione ha imposto il giudice Castel nel caso Mata v. Avianca del 22 giugno 2023?

La corte ha imposto una sanzione di 5.000 dollari ai sensi della regola 11 e ha richiesto agli avvocati di informare il proprio cliente e ogni giudice falsamente identificato come autore di un'opinione falsa.

Secondo la guida, cosa ha identificato il tribunale di Mata come il vero fallimento degli avvocati?

La corte ha affermato che l’uso dell’intelligenza artificiale in sé non era il problema. Il fallimento è stato non verificare e poi continuare a difendere le autorità inventate.

Quale lezione trae la guida da Wadsworth v. Walmart?

Le citazioni provengono dalla piattaforma di intelligenza artificiale dell’azienda, dimostrando che gli strumenti interni o specifici legali non eliminano la necessità di verifica.

Perché un modello linguistico può produrre una citazione falsa che sembra convincente?

La struttura prevedibile dei nomi dei partiti, del giornalista, del volume, della pagina, del tribunale e dell'anno consente a un modello di generare stringhe dall'aspetto plausibile senza alcun collegamento a un'opinione reale.