Tác nhân phản xạ và tự điều chỉnh
Phản ánh là một kỹ thuật trong đó tác nhân AI phản ánh bằng văn bản về những thất bại của chính mình và đưa những bài học đó vào lần thử tiếp theo.
Tổng quan
Điều này quan trọng vì nó cho phép nhân viên cải thiện nhiệm vụ mà không cần đào tạo lại mô hình nền tảng.
Lặn sâu
Phản xạ, được Shinn và các đồng nghiệp giới thiệu trong một bài báo năm 2023, cung cấp cho tác nhân một vòng lặp: nó thực hiện một nhiệm vụ, nhận tín hiệu về cách thực hiện (kết quả kiểm tra, phần thưởng hoặc bài phê bình), sau đó viết một 'phản ánh' bằng ngôn ngữ tự nhiên ngắn giải thích điều gì đã xảy ra và điều gì cần thử tiếp theo. Sự phản ánh đó được lưu trữ trong bộ nhớ và thêm vào lời nhắc của lần thử tiếp theo. Điều quan trọng là trọng lượng của mô hình không bao giờ thay đổi; quá trình học tập diễn ra hoàn toàn trong cửa sổ ngữ cảnh dưới dạng văn bản. 'Học tăng cường bằng lời nói' này cho phép các nhân viên lặp lại các vấn đề về mã hóa, điều hướng trang web và các nhiệm vụ lý luận. Trên điểm chuẩn mã hóa HumanEval, khả năng tự sửa lỗi theo kiểu Reflexion đã đẩy tỷ lệ vượt qua cao hơn đáng kể so với các lần thử bắn một lần, chỉ bằng cách cho phép tác nhân tự sửa lỗi sau một vài lần thử.
Hiểu biết kỹ thuật
Phản xạ phân chia ba vai trò: Tác nhân tạo ra hành động, Người đánh giá cho điểm kết quả (kiểm tra đơn vị, kiểm tra đối sánh chính xác hoặc giám khảo LLM) và mô hình Tự phản ánh biến điểm đó thành một bài học văn bản. Bài học nằm trong vùng đệm bộ nhớ theo từng giai đoạn được sử dụng lại trong lần thử tiếp theo. Vì phản hồi là ngôn ngữ chứ không phải độ dốc nên không cần đào tạo GPU mà phụ thuộc rất nhiều vào tín hiệu đánh giá đáng tin cậy để tránh củng cố những phản ánh tự tin nhưng sai lầm.
Tác động chiến lược
Xây dựng lựa chọn
Thiết kế cấp ứng dụng xác định liệu AI có cải thiện kết quả thực tế hay không.
Nhóm và quy trình làm việc
Tích hợp quy trình làm việc tốt sẽ giúp tăng năng suất mà người dùng có thể tin tưởng.
Rủi ro và an toàn
Các trường hợp sử dụng có phạm vi phù hợp giúp giảm bớt sự mệt mỏi khi thay đổi và rủi ro triển khai.
Tương lai của các Tác nhân Phản xạ và Tự sửa lỗi
Tự sửa lỗi đang trở thành một lớp mặc định trong khung tác nhân chứ không phải là một thủ thuật nghiên cứu. Mong đợi sự tích hợp chặt chẽ hơn với các trình xác minh tự động, chẳng hạn như hộp cát mã, trình kiểm tra chính thức và truy xuất để xác nhận sự thật, do đó, phản ánh dựa trên các tín hiệu khách quan thay vì tự đoán lần thứ hai của mô hình. Những thách thức mở là tránh các vòng lặp trong đó tác nhân liên tục 'sửa chữa' đầu ra hoạt động, quyết định thời điểm dừng lặp lại và ngăn các phản ánh trôi vào những cách hợp lý hóa nghe có vẻ hợp lý nhưng chưa được xác minh.
Triển khai trong thế giới thực
Một tác nhân mã hóa chạy các bài kiểm tra đơn vị, đọc xác nhận lỗi, viết ghi chú về lỗi và chỉnh sửa mã của nó trước khi chạy lại bộ phần mềm.
Một trợ lý nghiên cứu nhận ra một trích dẫn ảo giác khi quá trình kiểm tra truy xuất không thành công, sau đó sửa lại câu trả lời để chỉ sử dụng các nguồn đã được xác minh.
Một tác nhân điều hướng web (ví dụ: trên điểm chuẩn AlfWorld hoặc WebShop) ghi lại 'Tôi đã nhấp sai bộ lọc' và tránh sai sót đó khi thử lại.
Người giải toán sẽ kiểm tra câu trả lời cuối cùng dựa trên một ràng buộc, nhận thấy lỗi dấu và thực hiện lại bước liên quan.
Rủi ro & lan can
Tự động hóa một quy trình bị hỏng có thể khuếch đại các vấn đề hiện có.
Các nhóm có thể tự động hóa quá mức và loại bỏ sự phán xét cần thiết của con người.
Chất lượng có thể thay đổi nếu kết quả đầu ra không được đánh giá liên tục.
Lộ trình thực hiện
Lập sơ đồ quy trình làm việc hiện tại và xác định bước có mức độ ma sát cao nhất.
Xác định các điểm kiểm tra của con người trước khi tự động hóa hoàn toàn.
Đào tạo người dùng về lời nhắc, đường dẫn leo thang và tiêu chuẩn chất lượng.
Theo dõi kết quả ở cấp độ nhiệm vụ để xác nhận giá trị bền vững.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Reflexion and Self-Correcting Agents quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Tự phản ánh trong vòng lặp tác nhân
Câu hỏi thường gặp
Tác nhân phản xạ và tự điều chỉnh là gì?
Phản ánh là một kỹ thuật trong đó tác nhân AI phản ánh bằng văn bản về những thất bại của chính mình và đưa những bài học đó vào lần thử tiếp theo. Nó quan trọng vì nó cho phép các tác nhân cải thiện nhiệm vụ mà không cần đào tạo lại mô hình cơ bản.
Đặc điểm xác định cách tác nhân Phản xạ 'học' là gì?
Phản xạ đôi khi được gọi là “học tăng cường bằng lời nói” vì các bài học được lưu trữ dưới dạng văn bản ngôn ngữ tự nhiên trong bộ nhớ, không được mã hóa thành các tham số của mô hình.
Trong khuôn khổ Phản ánh, Người đánh giá làm gì?
Người đánh giá (kiểm tra đơn vị, kiểm tra khớp chính xác hoặc đánh giá LLM) tạo ra tín hiệu cho thấy bước Tự phản ánh sẽ chuyển thành một bài học văn bản.
Tại sao chất lượng của tín hiệu đánh giá lại quan trọng đến vậy trong Reflexion?
Nếu người đánh giá không đáng tin cậy, người đại diện có thể viết phản ánh tự tin dựa trên phản hồi không tốt, khiến những nỗ lực trong tương lai đi sai hướng.
Tính năng tự sửa lỗi theo phong cách Phản xạ đã cải thiện đáng kể tỷ lệ vượt qua mã hóa theo điểm chuẩn nào?
HumanEval là một điểm chuẩn tạo mã và cho phép tác nhân gỡ lỗi qua nhiều lần thử đã nâng cao tỷ lệ vượt qua cao hơn hiệu suất một lần.
Đâu là rủi ro mở thực sự với các tác nhân tự điều chỉnh?
Nếu không có quy tắc dừng tốt, nhân viên có thể tiếp tục sửa lại các câu trả lời đúng, lãng phí tính toán và đôi khi làm giảm chất lượng đầu ra.