社團指南

律師因人工智慧捏造案件引文而受到製裁

律師因提交含有生成式 AI 工具捏造的案例引文的簡報而受到制裁,最著名的案例是 Mata v。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 律師因 AI 虛構案例引證而被制裁的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

Avianca 於 2023 年,聯邦法官對兩名律師及其律所處以 5,000 美元罰款。這些案件之所以重要,是因為失誤在於跳過核查,而非使用工具,法院將未核查的引證視為律師對法院的職責違反。

深入探討

Mata v. Avianca, Inc. was an ordinary personal injury suit in the Southern District of New York: a passenger said a metal serving cart struck his knee on a 2019 flight. When Avianca moved to dismiss, the plaintiff's opposition cited decisions, including one styled Varghese v. China Southern Airlines, that did not exist. Neither opposing counsel nor the court could find them. The lawyer who did the research, Steven Schwartz, had used ChatGPT, believed it worked like a search engine, and asked it to confirm the cases were real, which it did. His colleague Peter LoDuca signed the filings. When the court ordered them to produce the decisions, they submitted AI-generated text presented as opinions. On June 22, 2023, Judge P. Kevin Castel imposed a $5,000 penalty on the two lawyers and their firm under Rule 11 and ordered them to write to their client and to each real judge falsely named as an author. The court made clear that using AI was not the problem. The lawyers failed by abandoning their responsibilities and continuing to stand by the fake cases after they were questioned. Later cases show the pattern persisting. The Second Circuit in Park v. Kim (2024) referred an attorney for possible discipline. In United States v. Cohen, Bard-generated citations reached a filing, though the judge declined sanctions. In Wadsworth v. Walmart (2025), lawyers were sanctioned over citations from their firm's in-house AI tool, showing that internal or legal-specific tools are not immune. Some judges, including Judge Brantley Starr of the Northern District of Texas in 2023, now require certifications about AI use. The central misconception is that asking the AI to double-check itself counts as verification. It does not. A model asked whether a case exists will often generate a confident yes. Verification means retrieving the actual opinion from an authoritative source and reading it.

現實世界的實施

在 Mata v. Avianca 案中,一名律師使用 ChatGPT 研究航空事故案件,然後詢問 ChatGPT 這些案件是否真實;它回答說是,並將虛構的裁決提交給法院。

在 Park v. Kim (2024) 案中,第二巡迴法院將一名律師轉介至其投訴小組,因其答辯書引用了一個不存在的判決,該律師承認該判決來自 ChatGPT。

在 United States v. Cohen 案中,Michael Cohen 使用 Google Bard 搜尋並傳給律師的引證最終出現在法院文件中;法官 Jesse Furman 拒絕處以制裁,但發現這些引證未經核查。

在 Wadsworth v. Walmart (2025) 案中,懷俄明州聯邦法院因律師提交的動議引用了其律所內部 AI 工具產生的案例而對律師施以制裁,對起草文件的律師處以最高罰款。

律師因 AI 虛構案例引證而被制裁的未來

法院繼續遇到 AI 虛構引證,從大型律所的經驗豐富律師到自我代理的訴訟人,問題並未自行消退。回應各不相同:有些法官頒布常設命令要求披露或證明,有些則依賴現行第 11 條職責,律師協會監管機構也越來越將重複或隱蔽失誤視為紀律問題。研究與起草平台的引證檢查功能可能在提交前捕捉更多錯誤,但確認案件存在比確認其支持所述主張更容易。持久的解決方案仍是全律所的習慣:在引用前閱讀每個權威。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

參加律師因 AI 虛構案例引證而被制裁測驗

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是律師因 AI 虛構案例引證而被制裁?

律師因提交包含 AI 工具虛構案例引證的簡報而被制裁,最著名的案例是 2023 年的 Mata v. Avianca,聯邦法官對兩名律師及其律所處以 5,000 美元罰款。這些案件之所以重要,是因為失誤在於跳過核查,而非使用工具,法院將未核查的引證視為律師對法院的職責違反。

在馬塔訴阿維安卡案中,當研究律師詢問 ChatGPT 所引用的案例是否真實時,發生了什麼事?

ChatGPT 證實了所發明的案例是真實的,這說明了為什麼要求模型驗證其自身的輸出並不是驗證。

卡斯特爾法官於 2023 年 6 月 22 日在馬塔訴阿維安卡案中實施了哪些制裁?

法院根據規則 11 處以 5,000 美元的罰款,並要求律師通知其委託人,並要求每位法官被錯誤地認定為虛假意見的作者。

根據指南,馬塔法院認為律師真正的失敗是什麼?

法院表示,人工智慧的使用本身並不是問題。失敗在於沒有核實,然後繼續為捏造的當局辯護。

本指南從沃茲沃斯訴沃爾瑪案中吸取了什麼教訓?

這些引文來自該公司自己的人工智慧平台,表明內部或特定於法律的工具並不能消除驗證的需要。

為什麼語言模型可以產生看起來令人信服的假引文?

當事人名稱、記者、卷數、頁數、法院和年份的可預測結構讓模型能夠產生看似合理的字串,而無需與真實意見有任何關聯。