Tiếp theoHướng dẫn tiếp theo
Trích dẫn trường hợp AI giả mạo và lệnh trừng phạt của tòa án: Mata kiện Avianca
xã hội
HƯỚNG DẪN xã hội
Các luật sư đã bị xử phạt vì nộp bản tóm tắt có chứa các trích dẫn vụ án mà các công cụ AI tổng hợp đã phát minh ra, nổi tiếng nhất là trong vụ Mata v.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Avianca vào năm 2023, nơi một thẩm phán liên bang áp dụng mức phạt 5.000 USD đối với hai luật sư và hãng luật của họ. Những vụ án này rất quan trọng vì sai sót nằm ở việc bỏ qua khâu xác minh chứ không phải việc sử dụng công cụ, và các tòa án coi những trích dẫn không được kiểm tra là hành vi vi phạm nghĩa vụ của luật sư đối với tòa án.
Mata v. Avianca, Inc. was an ordinary personal injury suit in the Southern District of New York: a passenger said a metal serving cart struck his knee on a 2019 flight. When Avianca moved to dismiss, the plaintiff's opposition cited decisions, including one styled Varghese v. China Southern Airlines, that did not exist. Neither opposing counsel nor the court could find them. The lawyer who did the research, Steven Schwartz, had used ChatGPT, believed it worked like a search engine, and asked it to confirm the cases were real, which it did. His colleague Peter LoDuca signed the filings. When the court ordered them to produce the decisions, they submitted AI-generated text presented as opinions. On June 22, 2023, Judge P. Kevin Castel imposed a $5,000 penalty on the two lawyers and their firm under Rule 11 and ordered them to write to their client and to each real judge falsely named as an author. The court made clear that using AI was not the problem. The lawyers failed by abandoning their responsibilities and continuing to stand by the fake cases after they were questioned. Later cases show the pattern persisting. The Second Circuit in Park v. Kim (2024) referred an attorney for possible discipline. In United States v. Cohen, Bard-generated citations reached a filing, though the judge declined sanctions. In Wadsworth v. Walmart (2025), lawyers were sanctioned over citations from their firm's in-house AI tool, showing that internal or legal-specific tools are not immune. Some judges, including Judge Brantley Starr of the Northern District of Texas in 2023, now require certifications about AI use. The central misconception is that asking the AI to double-check itself counts as verification. It does not. A model asked whether a case exists will often generate a confident yes. Verification means retrieving the actual opinion from an authoritative source and reading it.
Trong vụ Mata kiện Avianca, một luật sư đã sử dụng ChatGPT để nghiên cứu một vụ tai nạn hàng không, sau đó hỏi ChatGPT xem các vụ án đó có thật không; hệ thống trả lời là có, và các án lệ bịa đặt đã được nộp lên tòa án.
Trong vụ Park kiện Kim (2024), Tòa phúc thẩm Khu vực thứ Hai đã chuyển hồ sơ của một luật sư lên hội đồng kỷ luật sau khi một bản biện hộ trả lời trích dẫn một quyết định không có thực mà cô thừa nhận là lấy từ ChatGPT.
Trong vụ Hoa Kỳ kiện Cohen, các trích dẫn mà Michael Cohen tìm thấy bằng Google Bard và chuyển cho luật sư của mình đã xuất hiện trong một hồ sơ tòa án; Thẩm phán Jesse Furman từ chối áp dụng các hình thức chế tài nhưng phát hiện ra rằng các trích dẫn này đã không được kiểm tra.
Trong vụ Wadsworth kiện Walmart (2025), một tòa án liên bang ở Wyoming đã chế tài các luật sư sau khi các bản kiến nghị trích dẫn các vụ án do công cụ AI nội bộ của hãng luật của họ tạo ra, với hình phạt nặng nhất thuộc về luật sư soạn thảo hồ sơ.
Các tòa án tiếp tục gặp phải các trích dẫn do AI bịa đặt, từ các luật sư giàu kinh nghiệm tại các hãng luật lớn cũng như từ những đương sự tự đại diện, vì vậy vấn đề này không hề tự biến mất. Các phản ứng rất khác nhau: một số thẩm phán ban hành lệnh thường trực yêu cầu công bố hoặc chứng nhận, những người khác dựa vào các nghĩa vụ hiện hành theo Quy tắc 11, và các cơ quan quản lý luật đoàn ngày càng coi các vi phạm lặp đi lặp lại hoặc bị che giấu là các vấn đề kỷ luật. Các tính năng kiểm tra trích dẫn trong các nền tảng nghiên cứu và soạn thảo có thể bắt lỗi nhiều hơn trước khi nộp đơn, nhưng việc xác nhận một vụ án có tồn tại dễ hơn nhiều so với việc xác nhận nó hỗ trợ cho quan điểm đã nêu. Giải pháp lâu dài vẫn là thói quen của toàn bộ hãng luật: mọi thẩm quyền đều phải được đọc trước khi được trích dẫn.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Các luật sư đã bị chế tài vì nộp các bản tóm tắt chứa các trích dẫn vụ án do các công cụ AI tạo sinh bịa đặt, nổi tiếng nhất là trong vụ Mata kiện Avianca vào năm 2023, nơi một thẩm phán liên bang áp dụng mức phạt 5.000 USD đối với hai luật sư và hãng luật của họ. Những vụ án này rất quan trọng vì sai sót nằm ở việc bỏ qua khâu xác minh chứ không phải việc sử dụng công cụ, và các tòa án coi những trích dẫn không được kiểm tra là hành vi vi phạm nghĩa vụ của luật sư đối với tòa án.
ChatGPT đã xác nhận các trường hợp được phát minh là có thật, điều này minh họa tại sao việc yêu cầu một mô hình xác minh đầu ra của chính nó không phải là xác minh.
Tòa án đã áp dụng hình phạt 5.000 đô la theo Quy tắc 11 và yêu cầu các luật sư thông báo cho khách hàng của họ và mỗi thẩm phán bị xác định sai là tác giả của quan điểm giả mạo.
Tòa án cho biết bản thân việc sử dụng AI không phải là vấn đề. Thất bại là không xác minh rồi tiếp tục bênh vực cơ quan chức năng bịa đặt.
Các trích dẫn đến từ nền tảng AI của chính công ty, cho thấy rằng các công cụ nội bộ hoặc dành riêng cho pháp lý không loại bỏ nhu cầu xác minh.
Cấu trúc có thể dự đoán được của tên đảng, người báo cáo, số lượng, trang, tòa án và năm cho phép một mô hình tạo ra các chuỗi trông có vẻ hợp lý mà không có bất kỳ liên kết nào đến một ý kiến thực sự.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Trích dẫn trường hợp AI giả mạo và lệnh trừng phạt của tòa án: Mata kiện Avianca
xã hội