Chuyện gì đã xảy ra
KOAT báo cáo rằng Tòa án Tối cao New Mexico đã phát hiện luật sư Stephen Aarons của Santa Fe có thái độ khinh thường, phạt ông 5.000 USD, chuyển ông đến hội đồng kỷ luật và tạm thời cấm ông xuất hiện trước tòa. Aarons thừa nhận đã sử dụng ChatGPT trong khi chuẩn bị bản tóm tắt kháng cáo nhưng cho biết anh không hiểu rằng nó có thể bịa đặt các nhân chứng, lời khai, trích dẫn và cơ quan pháp lý đáng tin cậy.
KOAT báo cáo rằng Tòa án Tối cao New Mexico đã phát hiện Aarons khinh thường sau khi bản tóm tắt mà anh ta đệ trình trong đơn kháng cáo của Oscar Renee Sandoval bị phát hiện có chứa tài liệu do ChatGPT bịa đặt. Theo báo cáo, Sandoval đã không nhận tội giết bạn tình và mẹ của các con mình.
Tòa án đã phạt Aarons 5.000 đô la, chuyển anh ta đến hội đồng kỷ luật và cấm anh ta xuất hiện trước Tòa án Tối cao trong khi các cuộc điều tra và tố tụng vẫn tiếp tục. KOAT cho biết tòa án coi hành vi của luật sư này là thể hiện sự thiếu hối hận và quan tâm đến thân chủ của mình.
Aarons thừa nhận đã sử dụng ChatGPT để chuẩn bị bản tóm tắt và thừa nhận rằng anh đã không xác minh được các tuyên bố thực tế trước khi ký và nộp đơn. KOAT báo cáo rằng anh ấy nói rằng anh ấy không đánh giá cao rằng ChatGPT có thể tạo ra các nhân chứng, lời khai, trích dẫn và chính quyền có vẻ mạch lạc nhưng bịa đặt.
Theo KOAT, hồ sơ bao gồm lời khai sai từ các nhân chứng hoàn toàn bịa đặt được xác định là Sĩ quan Michelle Amarillo, Sĩ quan Sanchez, Manal Al-Jibury và Teresa Marquez, cũng như lời khai sai sự thật được cho là của các nhân chứng thực sự. KOAT cho biết OpenAI đã không trả lời yêu cầu bình luận tại thời điểm xuất bản.
Tài khoản này dựa trên báo cáo của KOAT và mô tả hồ sơ tòa án. Những hồ sơ đó không được sao chép trong nguồn được cung cấp, vì vậy các chi tiết không được xác nhận độc lập ở đây.
Tại sao nó quan trọng
Vụ việc cho thấy hậu quả pháp lý cụ thể khi luật sư gửi kết quả đầu ra của AI chưa được xác minh trong đơn kháng cáo hình sự. Nó cũng minh họa rằng trách nhiệm đối với các hồ sơ tòa án vẫn thuộc về luật sư ký chúng, ngay cả khi tài liệu được tạo ra bằng công cụ AI. Vụ việc đặc biệt có hậu quả nghiêm trọng vì KOAT báo cáo rằng tài liệu bịa đặt bao gồm cả nhân chứng hoàn toàn hư cấu và lời khai sai sự thật được cho là của nhân chứng thật.
Phán quyết này làm cho nguy cơ bịa đặt pháp lý do AI tạo ra trở nên hữu hình: một bản tóm tắt rõ ràng mạch lạc có thể đưa những con người và tuyên bố bịa đặt vào một thủ tục tố tụng liên quan đến quyền tự do của một người. Lệnh trừng phạt được báo cáo cũng củng cố rằng các luật sư phải xem xét và xác thực hồ sơ trước khi gửi chúng.
Đây không phải là bằng chứng cho thấy chỉ riêng ChatGPT đã gây ra kết quả pháp lý hoặc mỗi lần sử dụng công cụ này đều tạo ra tài liệu bịa đặt. Đây là một lỗi cụ thể được báo cáo trong việc xác minh các khiếu nại do AI tạo ra trong bối cảnh có mức độ rủi ro cao. Nguồn không cho biết phiên bản hoặc cấp tài khoản ChatGPT nào đã được sử dụng và nó không cung cấp thử nghiệm độc lập về hành vi của mô hình.
Đối với các tòa án và những người hành nghề luật, ý nghĩa thực tế là việc soạn thảo được hỗ trợ bởi AI yêu cầu kiểm tra cấp nguồn đối với mọi khẳng định, trích dẫn và thẩm quyền thực tế. Vụ việc cũng có thể cung cấp hướng dẫn chuyên môn và kỳ vọng về kỷ luật, mặc dù KOAT không báo cáo bất kỳ quy định mới nào trên toàn tiểu bang bắt nguồn từ vụ việc đó.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Cuộc điều tra của hội đồng kỷ luật và các thủ tục tố tụng liên quan sẽ xác định liệu Aarons có phải đối mặt với các biện pháp trừng phạt chuyên môn bổ sung hay không. Theo KOAT, lệnh tạm thời của Tòa án Tối cao New Mexico cũng sẽ vẫn có hiệu lực trong khi chờ các thủ tục tố tụng đó. Nguồn không xác lập độc lập nội dung chính xác của hồ sơ tòa án, mức độ tổn hại đối với kháng cáo của bị đơn hoặc liệu OpenAI có phản hồi hay không.
Việc xem xét của hội đồng kỷ luật và bất kỳ thủ tục tố tụng nào tiếp theo tại tòa án có thể làm rõ những hậu quả nghề nghiệp ngoài khoản tiền phạt 5.000 đô la và lệnh cấm xuất hiện tạm thời.
Báo cáo được cung cấp vẫn chưa biết liệu đơn kháng cáo của bị cáo có được giải quyết hay không, liệu tài liệu bịa đặt có ảnh hưởng đến quyết định của tòa án hay không và liệu những người tham gia vụ án khác có phải đối mặt với hậu quả hay không.
KOAT báo cáo rằng OpenAI đã không trả lời yêu cầu bình luận. Nguồn tin cũng không xác định bất kỳ biện pháp bảo vệ, cảnh báo hay thay đổi sản phẩm cụ thể nào từ OpenAI liên quan đến vụ việc.