Ảo giác AI
Ảo giác AI là khi một mô hình tuyên bố điều gì đó sai như thể nó là sự thật - một trích dẫn giả, một thống kê bịa đặt, một sự thật sai - một cách trôi chảy và tự tin.
Tổng quan
It is the single biggest trust problem with today's language models.
Lặn sâu
Ảo giác không phải là lỗi theo nghĩa thông thường; họ không hiểu cách thức hoạt động của mô hình. Một mô hình ngôn ngữ được đào tạo để tạo ra văn bản hợp lý về mặt thống kê chứ không phải để xác minh sự thật. Khi nó gặp phải một khoảng trống - một sự thật mà nó chưa bao giờ học được, hoặc một câu hỏi không có câu trả lời rõ ràng trong quá trình rèn luyện - nó không nói 'Tôi không biết'. Thay vào đó, nó tạo ra sự tiếp tục có vẻ hợp lý nhất, có thể là một sự bịa đặt đáng tin cậy. Đầu ra đọc mượt nên dễ bỏ sót lỗi. Các hình thức phổ biến bao gồm tiêu đề sách hoặc vụ án pháp lý bịa đặt, URL giả mạo, trích dẫn sai và những con số hợp lý nhưng sai. Chúng đặc biệt nguy hiểm trong những môi trường có tính rủi ro cao như y học, luật và tài chính, nơi mà một câu trả lời sai trôi chảy có thể tốn kém hơn một câu trả lời rõ ràng. Điều quan trọng là ngay cả khi cung cấp tài liệu chính xác, người mẫu vẫn có thể mâu thuẫn hoặc bỏ qua chúng.
Hiểu biết kỹ thuật
Nguyên nhân cốt lõi là do mục tiêu đào tạo: dự đoán mã thông báo tiếp theo để tối đa hóa độ tin cậy, không có tính năng kiểm tra tính xác thực tích hợp và không có tín hiệu nội bộ đáng tin cậy cho 'Tôi không chắc chắn'. Tạo tăng cường truy xuất (RAG) hỗ trợ bằng cách đưa các tài liệu nguồn thực vào lời nhắc, nhưng nó không phải là cách chữa trị - các nghiên cứu cho thấy các mô hình vẫn bị ảo giác khi quá trình truy xuất ồn ào hoặc khi 'kiến thức' nội bộ của mô hình xung đột với văn bản được truy xuất. Các biện pháp giảm nhẹ khác bao gồm các câu trả lời có căn cứ trong các trích dẫn, sắp xếp lại bằng chứng được truy xuất và tinh chỉnh ưu tiên để mang lại kết quả đầu ra trung thực, được hỗ trợ từ nguồn.
Tác động chiến lược
Tốc độ và tỷ lệ
Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
Truy cập và tiếp cận
Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
Quyết định rõ ràng hơn
Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
Tương lai của ảo giác AI
Ảo giác sẽ giảm đi chứ không bị loại bỏ - chúng gắn liền với cốt lõi xác suất của các mô hình này. Mong đợi sự hiệu chuẩn tốt hơn (các mô hình báo hiệu sự không chắc chắn), nền tảng chặt chẽ hơn với các trích dẫn có thể kiểm chứng, quá trình tự kiểm tra và xác minh thực tế tự động cũng như các hành vi 'kiêng' khi mô hình từ chối thay vì phỏng đoán. Điểm chuẩn và quy định sẽ thúc đẩy các nhà cung cấp báo cáo tỷ lệ ảo giác. Hiện tại, câu trả lời thực tế là sự đánh giá của con người cùng với việc truy xuất và xác minh, đặc biệt ở những nơi mà chi phí cho một câu trả lời sai chắc chắn là rất cao.
Triển khai trong thế giới thực
Một trợ lý pháp lý trích dẫn các vụ án không tồn tại, với tên và số hồ sơ trông giống thực tế
Một chatbot phát minh ra một bài báo và tác giả học thuật hợp lý nhưng giả mạo khi được yêu cầu cung cấp nguồn
Một trợ lý mã hóa gọi hàm thư viện hoặc tham số API chưa bao giờ có thật
Một bản tóm tắt y tế nêu rõ liều lượng đáng tin cậy trái ngược với tài liệu nguồn được đưa ra
Rủi ro & lan can
Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Lộ trình thực hiện
Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Hallucinations quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Tiếp theo trong Nền tảng AI
Huyền thoại về AI
Câu hỏi thường gặp
What is AI Hallucinations?
Ảo giác AI là khi một mô hình tuyên bố điều gì đó sai như thể nó là sự thật - một trích dẫn giả, một thống kê bịa đặt, một sự thật sai - một cách trôi chảy và tự tin. Đây là vấn đề tin cậy lớn nhất đối với các mô hình ngôn ngữ ngày nay.
Nguyên nhân cốt lõi khiến mô hình ngôn ngữ gây ảo giác là gì?
Các mô hình tối ưu hóa cho các mã thông báo tiếp theo có khả năng thống kê. Không có tính năng kiểm tra sự thật được tích hợp sẵn, chúng sẽ lấp đầy các khoảng trống bằng đầu ra nghe có vẻ hợp lý nhưng có thể sai.
Tại sao ảo giác đặc biệt nguy hiểm?
Bởi vì câu trả lời sai diễn ra trôi chảy và tự tin nên nó hòa quyện với những câu trả lời đúng và khiến người dùng dễ tin tưởng.
Liệu thế hệ tăng cường truy xuất (RAG) có loại bỏ hoàn toàn ảo giác không?
RAG làm giảm ảo giác bằng cách đặt câu trả lời dựa trên các nguồn thực tế, nhưng các mô hình vẫn có thể bị ảo giác khi việc truy xuất không hoàn hảo hoặc xung đột với kiến thức bên trong của chúng.
Đâu là ví dụ thực sự về ảo giác?
Việc phát minh ra một trích dẫn không tồn tại nhưng trông có vẻ thực tế là một ảo giác kinh điển - tự tin, cụ thể và sai lầm.
Cách tiếp cận nào được công nhận là cách giảm ảo giác?
Căn cứ vào các tài liệu thực tế, trích dẫn nguồn, sắp xếp lại bằng chứng và điều chỉnh mức độ trung thực đều giúp giảm bớt sự bịa đặt.