HƯỚNG DẪN xã hội

Luật sư bị xử phạt vì trích dẫn trường hợp do AI chế tạo

Các luật sư đã bị xử phạt vì nộp bản tóm tắt có chứa các trích dẫn vụ án mà các công cụ AI tổng hợp đã phát minh ra, nổi tiếng nhất là trong vụ Mata v.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của các luật sư bị chế tài vì trích dẫn vụ án do AI bịa đặt
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Avianca vào năm 2023, nơi một thẩm phán liên bang áp dụng mức phạt 5.000 USD đối với hai luật sư và hãng luật của họ. Những vụ án này rất quan trọng vì sai sót nằm ở việc bỏ qua khâu xác minh chứ không phải việc sử dụng công cụ, và các tòa án coi những trích dẫn không được kiểm tra là hành vi vi phạm nghĩa vụ của luật sư đối với tòa án.

Lặn sâu

Mata v. Avianca, Inc. was an ordinary personal injury suit in the Southern District of New York: a passenger said a metal serving cart struck his knee on a 2019 flight. When Avianca moved to dismiss, the plaintiff's opposition cited decisions, including one styled Varghese v. China Southern Airlines, that did not exist. Neither opposing counsel nor the court could find them. The lawyer who did the research, Steven Schwartz, had used ChatGPT, believed it worked like a search engine, and asked it to confirm the cases were real, which it did. His colleague Peter LoDuca signed the filings. When the court ordered them to produce the decisions, they submitted AI-generated text presented as opinions. On June 22, 2023, Judge P. Kevin Castel imposed a $5,000 penalty on the two lawyers and their firm under Rule 11 and ordered them to write to their client and to each real judge falsely named as an author. The court made clear that using AI was not the problem. The lawyers failed by abandoning their responsibilities and continuing to stand by the fake cases after they were questioned. Later cases show the pattern persisting. The Second Circuit in Park v. Kim (2024) referred an attorney for possible discipline. In United States v. Cohen, Bard-generated citations reached a filing, though the judge declined sanctions. In Wadsworth v. Walmart (2025), lawyers were sanctioned over citations from their firm's in-house AI tool, showing that internal or legal-specific tools are not immune. Some judges, including Judge Brantley Starr of the Northern District of Texas in 2023, now require certifications about AI use. The central misconception is that asking the AI to double-check itself counts as verification. It does not. A model asked whether a case exists will often generate a confident yes. Verification means retrieving the actual opinion from an authoritative source and reading it.

Triển khai trong thế giới thực

Trong vụ Mata kiện Avianca, một luật sư đã sử dụng ChatGPT để nghiên cứu một vụ tai nạn hàng không, sau đó hỏi ChatGPT xem các vụ án đó có thật không; hệ thống trả lời là có, và các án lệ bịa đặt đã được nộp lên tòa án.

Trong vụ Park kiện Kim (2024), Tòa phúc thẩm Khu vực thứ Hai đã chuyển hồ sơ của một luật sư lên hội đồng kỷ luật sau khi một bản biện hộ trả lời trích dẫn một quyết định không có thực mà cô thừa nhận là lấy từ ChatGPT.

Trong vụ Hoa Kỳ kiện Cohen, các trích dẫn mà Michael Cohen tìm thấy bằng Google Bard và chuyển cho luật sư của mình đã xuất hiện trong một hồ sơ tòa án; Thẩm phán Jesse Furman từ chối áp dụng các hình thức chế tài nhưng phát hiện ra rằng các trích dẫn này đã không được kiểm tra.

Trong vụ Wadsworth kiện Walmart (2025), một tòa án liên bang ở Wyoming đã chế tài các luật sư sau khi các bản kiến nghị trích dẫn các vụ án do công cụ AI nội bộ của hãng luật của họ tạo ra, với hình phạt nặng nhất thuộc về luật sư soạn thảo hồ sơ.

Tương lai của các luật sư bị chế tài vì trích dẫn vụ án do AI bịa đặt

Các tòa án tiếp tục gặp phải các trích dẫn do AI bịa đặt, từ các luật sư giàu kinh nghiệm tại các hãng luật lớn cũng như từ những đương sự tự đại diện, vì vậy vấn đề này không hề tự biến mất. Các phản ứng rất khác nhau: một số thẩm phán ban hành lệnh thường trực yêu cầu công bố hoặc chứng nhận, những người khác dựa vào các nghĩa vụ hiện hành theo Quy tắc 11, và các cơ quan quản lý luật đoàn ngày càng coi các vi phạm lặp đi lặp lại hoặc bị che giấu là các vấn đề kỷ luật. Các tính năng kiểm tra trích dẫn trong các nền tảng nghiên cứu và soạn thảo có thể bắt lỗi nhiều hơn trước khi nộp đơn, nhưng việc xác nhận một vụ án có tồn tại dễ hơn nhiều so với việc xác nhận nó hỗ trợ cho quan điểm đã nêu. Giải pháp lâu dài vẫn là thói quen của toàn bộ hãng luật: mọi thẩm quyền đều phải được đọc trước khi được trích dẫn.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Tham gia bài trắc nghiệm về các luật sư bị chế tài vì trích dẫn vụ án do AI bịa đặt

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Luật sư bị chế tài vì trích dẫn vụ án do AI bịa đặt là gì?

Các luật sư đã bị chế tài vì nộp các bản tóm tắt chứa các trích dẫn vụ án do các công cụ AI tạo sinh bịa đặt, nổi tiếng nhất là trong vụ Mata kiện Avianca vào năm 2023, nơi một thẩm phán liên bang áp dụng mức phạt 5.000 USD đối với hai luật sư và hãng luật của họ. Những vụ án này rất quan trọng vì sai sót nằm ở việc bỏ qua khâu xác minh chứ không phải việc sử dụng công cụ, và các tòa án coi những trích dẫn không được kiểm tra là hành vi vi phạm nghĩa vụ của luật sư đối với tòa án.

Trong vụ Mata kiện Avianca, điều gì đã xảy ra khi luật sư nghiên cứu hỏi ChatGPT liệu các trường hợp được trích dẫn có thật hay không?

ChatGPT đã xác nhận các trường hợp được phát minh là có thật, điều này minh họa tại sao việc yêu cầu một mô hình xác minh đầu ra của chính nó không phải là xác minh.

Thẩm phán Castel đã áp dụng hình thức xử phạt nào trong vụ Mata kiện Avianca vào ngày 22 tháng 6 năm 2023?

Tòa án đã áp dụng hình phạt 5.000 đô la theo Quy tắc 11 và yêu cầu các luật sư thông báo cho khách hàng của họ và mỗi thẩm phán bị xác định sai là tác giả của quan điểm giả mạo.

Theo hướng dẫn, tòa án ở Mata xác định điều gì là thất bại thực sự của các luật sư?

Tòa án cho biết bản thân việc sử dụng AI không phải là vấn đề. Thất bại là không xác minh rồi tiếp tục bênh vực cơ quan chức năng bịa đặt.

Hướng dẫn rút ra bài học gì từ vụ Wadsworth kiện Walmart?

Các trích dẫn đến từ nền tảng AI của chính công ty, cho thấy rằng các công cụ nội bộ hoặc dành riêng cho pháp lý không loại bỏ nhu cầu xác minh.

Tại sao một mô hình ngôn ngữ có thể tạo ra một trích dẫn giả trông có vẻ thuyết phục?

Cấu trúc có thể dự đoán được của tên đảng, người báo cáo, số lượng, trang, tòa án và năm cho phép một mô hình tạo ra các chuỗi trông có vẻ hợp lý mà không có bất kỳ liên kết nào đến một ý kiến ​​thực sự.