Társadalom ÚTMUTATÓ

A mesterséges intelligencia által kitalált esetek idézései miatt szankcionált ügyvédek

Lawyers have been sanctioned for filing briefs containing case citations that generative AI tools invented, most famously in Mata v.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. The Future of Lawyers Sanctioned for AI-Fabricated Case Citations
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Avianca in 2023, where a federal judge imposed a $5,000 penalty on two attorneys and their firm. These cases matter because the failure is skipped verification, not use of the tool, and courts treat unchecked citations as a breach of the lawyer's duty to the court.

Mély merülés

Mata v. Avianca, Inc. was an ordinary personal injury suit in the Southern District of New York: a passenger said a metal serving cart struck his knee on a 2019 flight. When Avianca moved to dismiss, the plaintiff's opposition cited decisions, including one styled Varghese v. China Southern Airlines, that did not exist. Neither opposing counsel nor the court could find them. The lawyer who did the research, Steven Schwartz, had used ChatGPT, believed it worked like a search engine, and asked it to confirm the cases were real, which it did. His colleague Peter LoDuca signed the filings. When the court ordered them to produce the decisions, they submitted AI-generated text presented as opinions. On June 22, 2023, Judge P. Kevin Castel imposed a $5,000 penalty on the two lawyers and their firm under Rule 11 and ordered them to write to their client and to each real judge falsely named as an author. The court made clear that using AI was not the problem. The lawyers failed by abandoning their responsibilities and continuing to stand by the fake cases after they were questioned. Later cases show the pattern persisting. The Second Circuit in Park v. Kim (2024) referred an attorney for possible discipline. In United States v. Cohen, Bard-generated citations reached a filing, though the judge declined sanctions. In Wadsworth v. Walmart (2025), lawyers were sanctioned over citations from their firm's in-house AI tool, showing that internal or legal-specific tools are not immune. Some judges, including Judge Brantley Starr of the Northern District of Texas in 2023, now require certifications about AI use. The central misconception is that asking the AI to double-check itself counts as verification. It does not. A model asked whether a case exists will often generate a confident yes. Verification means retrieving the actual opinion from an authoritative source and reading it.

Valós megvalósítás

In Mata v. Avianca, an attorney used ChatGPT to research an airline injury case, then asked ChatGPT whether the cases were real; it said they were, and the fabricated authorities were filed with the court.

In Park v. Kim (2024), the Second Circuit referred a lawyer to its grievance panel after a reply brief cited a nonexistent decision that she acknowledged had come from ChatGPT.

In United States v. Cohen, citations that Michael Cohen found using Google Bard and passed to his lawyer ended up in a court filing; Judge Jesse Furman declined to impose sanctions but found the citations had not been checked.

In Wadsworth v. Walmart (2025), a federal court in Wyoming sanctioned attorneys after motions cited cases produced by their firm's internal AI tool, with the heaviest penalty on the lawyer who drafted the filing.

The Future of Lawyers Sanctioned for AI-Fabricated Case Citations

Courts continue to encounter AI-fabricated citations, from experienced lawyers at large firms as well as from self-represented litigants, so the problem is not fading on its own. Responses vary: some judges issue standing orders requiring disclosure or certification, others rely on existing Rule 11 duties, and bar regulators increasingly treat repeated or concealed failures as disciplinary matters. Citation-checking features in research and drafting platforms may catch more errors before filing, but confirming that a case exists is easier than confirming it supports the stated proposition. The durable fix remains a firm-wide habit: every authority is read before it is cited.

A gyakorlatba ültetés

Miért számít

  • Kockázat és biztonság. A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni.
  • Tisztább döntések. A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika.
  • Átvágva a felhajtáson. A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását.

Vigyázz

  • Az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összetett.
  • Zavaros felületi termékbiztonság a nagy autonómia melletti igazítással.
  • A nem angol nyelvű és nem szakértő közönségnek csak rossz minőségű forrásokat kell hagynia.

Következő lépések

  1. Különítse el a termékkárok, a visszaélések és az ellenőrzés elvesztésének/hibás beállításának kockázatait.
  2. Kérdezd meg, milyen bizonyítékok változtatnák meg az idővonalakról és a súlyosságról alkotott nézetedet.
  3. Részesítse előnyben az elsődleges forrásokat és a konkrét értékeléseket a marketinges állításokkal szemben.
  4. Határozzon meg egy cselekvési utat: karrier, politika, finanszírozás vagy készségek – nem csak a tudatosság.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Lawyers Sanctioned for AI-Fabricated Case Citations quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

What is Lawyers Sanctioned for AI-Fabricated Case Citations?

Lawyers have been sanctioned for filing briefs containing case citations that generative AI tools invented, most famously in Mata v. Avianca in 2023, where a federal judge imposed a $5,000 penalty on two attorneys and their firm. These cases matter because the failure is skipped verification, not use of the tool, and courts treat unchecked citations as a breach of the lawyer's duty to the court.

Mi történt a Mata kontra Avianca ügyben, amikor a kutató ügyvéd megkérdezte ChatGPT-től, hogy az idézett esetek valódiak-e?

A ChatGPT megerősítette, hogy a feltalált esetek valódiak, ami jól mutatja, hogy miért nem hitelesítés, ha egy modellt kérünk meg saját kimenetének ellenőrzésére.

Milyen szankciót szabott ki Castel bíró a Mata kontra Avianca ügyben 2023. június 22-én?

A bíróság 5000 dolláros büntetést szabott ki a 11. szabály alapján, és arra kötelezte az ügyvédeket, hogy értesítsék ügyfelüket, és minden egyes bírót, akit hamisan egy hamis vélemény szerzőjeként azonosítottak.

Az útmutató szerint mit jelölt meg a matai bíróság az ügyvédek valódi kudarcának?

A bíróság szerint nem az AI használata volt a probléma. A kudarc nem ellenőrizte, majd folytatta a koholt hatóságok védelmét.

Milyen tanulságot von le az útmutató a Wadsworth kontra Walmartból?

Az idézetek a cég saját mesterségesintelligencia-platformjáról származtak, ami azt mutatja, hogy a házon belüli vagy jogilag specifikus eszközök nem szüntetik meg az ellenőrzés szükségességét.

Miért képes egy nyelvi modell meggyőzőnek tűnő hamis idézetet előállítani?

A pártnevek, a riporter, a kötet, az oldal, a bíróság és az évszám kiszámítható szerkezete lehetővé teszi, hogy a modell hihetőnek tűnő karakterláncokat generáljon anélkül, hogy valódi véleményhez kapcsolódna.