Chuyện gì đã xảy ra
Tạp chí ABA đưa tin rằng một hội đồng gồm ba thẩm phán nhất trí của Tòa phúc thẩm Quận Columbia đã đưa ra bản tóm tắt phúc thẩm của một công ty con Deutsche Bank trong một vụ tịch thu tài sản thế chấp sau khi tìm thấy nhiều trích dẫn vụ việc giả mạo. Tòa án đã chuyển vấn đề đến Văn phòng Luật sư Kỷ luật của Quận Columbia.
Tạp chí ABA, trích dẫn Reuters, báo cáo rằng Tòa phúc thẩm D.C. gọi tập phim này là “câu chuyện cảnh báo về việc lạm dụng trí tuệ nhân tạo” và tìm thấy nhiều trường hợp không tồn tại trong bản tóm tắt phúc thẩm của công ty con. Báo cáo cho biết luật sư Loishirl Hall thừa nhận rằng bốn trích dẫn đã bị ảo giác bởi công cụ AI tổng hợp của Google và lẽ ra không nên xuất hiện trong hồ sơ.
Theo tường trình của Tạp chí ABA về ý kiến theo quan điểm của tòa án, hội đồng cho rằng trách nhiệm đó vượt ra ngoài Hall đối với người đồng luật sư đã ký vào bản tóm tắt. “Mỗi luật sư của công ty đã ký vào bản tóm tắt đều phải chịu một số trách nhiệm,” hội đồng viết, như được trích dẫn trong báo cáo.
Tòa án đã hủy bỏ toàn bộ bản tóm tắt của công ty con và chuyển vấn đề đến Văn phòng Luật sư Kỷ luật của Quận Columbia. Thẩm phán cấp cao Stephen Glickman đồng tình với kết quả này nhưng viết riêng rằng phần lớn chưa giải quyết thỏa đáng việc sử dụng AI, trách nhiệm của luật sư và các biện pháp trừng phạt tiềm năng. Báo cáo cho biết Reuters đã tìm kiếm bình luận từ Hall và công ty cũ của cô nhưng không nhận được phản hồi.
Chi tiết nguồn: abajournal.com ↗
Tại sao nó quan trọng
Quyết định này đưa ra một ví dụ cụ thể về cách tòa án có thể coi nghiên cứu pháp lý do AI tạo ra chưa được xác minh: như một hành vi vi phạm trách nhiệm nghề nghiệp ảnh hưởng đến mọi luật sư ký vào đơn. Nó không thiết lập lệnh cấm chung đối với AI, nhưng nó làm tăng chi phí thực tế của việc triển khai các công cụ tổng hợp mà không cần kiểm tra nguồn, xem xét của luật sư và trách nhiệm giải trình rõ ràng. Báo cáo không xác nhận một cách độc lập hồ sơ tòa án hoặc các trích dẫn cơ bản ngoài ý kiến của nó.
Phán quyết coi thẩm quyền bịa đặt là vấn đề kiện tụng chứ không đơn thuần là lỗi kỹ thuật. Tòa án cho biết một bản tóm tắt chứa các trích dẫn giả mạo có thể định hướng sai cho thẩm phán, tiêu tốn tài nguyên của tòa án, tạo ra sự nhầm lẫn và khiến khách hàng không có được sự bào chữa đáng tin cậy trong khi tòa án điều tra.
Nguồn tin cũng ghi lại một giới hạn quan trọng: hội thảo cho biết họ không cố gắng ngăn chặn hoặc ngăn cản các luật sư sử dụng AI. Thông điệp của nó, theo báo cáo của Tạp chí ABA, là các luật sư phải hiểu công nghệ và sử dụng nó một cách có trách nhiệm. Ý nghĩa thực tế là các công ty cần xác minh trích dẫn đáng tin cậy và đánh giá của con người trước khi nộp tác phẩm có sự hỗ trợ của AI.
Báo cáo không xác định một cách độc lập mức độ phổ biến của các sự cố tương tự, liệu các trường hợp được trích dẫn có được tạo ra hoàn toàn bởi AI hay không, hoặc kết quả kỷ luật sẽ ra sao. Không có thông tin nào về quyền truy cập, tính sẵn có hoặc giá cả của sản phẩm được ghi lại hoặc áp dụng cho vụ kiện này.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Việc đề xuất kỷ luật có thể làm rõ liệu có áp dụng các biện pháp trừng phạt bổ sung hoặc hậu quả nghề nghiệp hay không. Ý kiến riêng của tòa án cũng có thể định hình hướng dẫn trong tương lai về nghĩa vụ của luật sư khi sử dụng AI sáng tạo. Báo cáo không cho biết liệu công ty cũ hoặc luật sư có phải đối mặt với các hình phạt cụ thể hay không, liệu bản thân vụ việc thế chấp có bị ảnh hưởng ngoài bản tóm tắt hay không hay công cụ Google nào đã tạo ra các trích dẫn.
Việc đề xuất kỷ luật là bước chính thức tiếp theo được xác định trong báo cáo. Kết quả của nó có thể chỉ ra cách D.C. Bar đánh giá sơ suất liên quan đến AI và liệu các biện pháp trừng phạt có áp dụng đối với những luật sư không đích thân tạo ra các trích dẫn sai hay không.
Ý kiến riêng của Thẩm phán Glickman có thể cung cấp thêm phân tích về nghĩa vụ và biện pháp trừng phạt của luật sư. Tòa án, cơ quan quản lý luật sư và các công ty luật có thể xem xét vụ việc khi phát triển các thủ tục xem xét cho nghiên cứu pháp lý được hỗ trợ bởi AI.
Nguồn không báo cáo bất kỳ phát hiện kỷ luật cuối cùng nào, các biện pháp trừng phạt bổ sung của tòa án hoặc thử nghiệm độc lập đối với công cụ của Google. Những điều đó vẫn là những ẩn số có ý nghĩa.