Tiếp theoHướng dẫn tiếp theo
Điểm chuẩn của đại lý mã hóa và băng ghế dự bị SWE
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Đánh giá các tác tử AI có nghĩa là đo lường mức độ một hệ thống nhiều bước đạt được mục tiêu trong các bối cảnh thực tế.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Điều đó bao gồm việc nó có hoàn thành tác vụ hay không, con đường nó đi có hợp lý hay không, nó có sử dụng công cụ đúng cách hay không, chi phí là bao nhiêu và nó có duy trì sự an toàn hay không. Các tác tử hoạt động qua nhiều bước và có các tác dụng phụ, vì vậy việc kiểm tra một câu trả lời duy nhất so với tham chiếu là không đủ, và các đánh giá tốt thường chạy tác tử trong một môi trường được kiểm soát và kiểm tra trạng thái cuối cùng.
Agent evaluation looks at several things. Task success asks whether the goal was actually achieved, ideally checked by looking at the environment afterward: tests pass, the right record exists, the file has the right contents. Trajectory quality asks whether the steps were reasonable, without loops, pointless calls or lucky guesses. Tool-use correctness checks whether the agent picked the right tools with valid arguments and handled errors. Cost and latency track tokens, calls and wall-clock time. Safety checks whether the agent avoided harmful or unauthorized actions and resisted prompt injection. Environment-based benchmarks have become a leading approach. SWE-bench, from Princeton researchers, asks agents to resolve real GitHub issues and checks the results with the project's tests, and SWE-bench Verified is a human-checked subset. WebArena provides self-hosted websites for browsing tasks. OSWorld tests agents operating full computer desktops. GAIA poses questions that need multi-step research and tools. The tau-bench suite simulates users and domain policies, and it introduced a pass^k metric that asks whether an agent succeeds on every one of k repeated attempts. Grading uses three main kinds of checks: code-based checks on outcomes, which are precise and cheap; model-based graders that score transcripts against a rubric, which are flexible but need to be checked against human judgment; and human review, which is the most trustworthy and the slowest. A common mistake is to trust public leaderboards alone. Benchmarks can leak into training data, become saturated, or fail to resemble your own workload. Another mistake is treating one run as the truth, since agents are nondeterministic and small differences in success rate can be noise. Teams get the most value from a private evaluation set built from their own real tasks and failures, run repeatedly and tracked over time.
Một nhóm tác tử lập điểm chấm điểm mỗi lần thử dựa trên việc các bài kiểm thử ẩn trong kho lưu trữ có vượt qua sau khi tác tử áp dụng bản vá, giống như SWE-bench, thay vì phán xét xem sự khác biệt có trông đúng hay không.
Một tác tử dịch vụ khách hàng chạy đối đầu với các người dùng mô phỏng và cơ sở dữ liệu đặt chỗ giả lập. Người chấm điểm kiểm tra xem trạng thái cơ sở dữ liệu cuối cùng có khớp với kết quả đúng và tác tử có tuân thủ chính sách hoàn tiền hay không.
Một nhóm kỹ thuật chạy mỗi tác vụ năm lần và báo cáo tần suất tác tử thành công trong cả năm lần, điều này phơi bày hành vi không ổn định mà tỷ lệ thành công của một lần chạy duy nhất sẽ che giấu.
Một công ty thêm một bộ công cụ an toàn trong đó các tác vụ bao gồm một chỉ thị được cài đặt sẵn để xóa tệp hoặc rò rỉ dữ liệu, và nó tính một lần chạy vốn thành công là thất bại nếu tác tử đã tuân theo.
Khi các tác tử đảm nhận các tác vụ dài hơn, các đánh giá đang chuyển hướng sang các chân trời dài hơn, các môi trường thực tế hơn, và các thước đo về độ tin cậy và chi phí cũng như khả năng đỉnh cao. Sự bão hòa và ô nhiễm của các chuẩn đánh giá có khả năng tiếp tục thúc đẩy các nhà phát triển tạo ra các tác vụ mới và dựa nhiều hơn vào các bộ kiểm thử riêng tư, cụ thể theo lĩnh vực. Các đánh giá về an toàn và bảo mật, bao gồm khả năng chống lại việc tiêm lời nhắc, đang nhận được nhiều sự chú ý hơn khi các tác tử được cấp quyền truy cập vào các hệ thống thực. Không có tiêu chuẩn thống nhất nào để chấm điểm hành vi tác tử mở, vì vậy việc kết hợp các kiểm tra kết quả, các người chấm điểm mô hình được hiệu chuẩn và đánh giá của con người có khả năng sẽ tiếp tục là thực hành phổ biến.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Đánh giá các tác tử AI có nghĩa là đo lường mức độ một hệ thống nhiều bước đạt được mục tiêu trong các bối cảnh thực tế. Điều đó bao gồm việc nó có hoàn thành tác vụ hay không, con đường nó đi có hợp lý hay không, nó có sử dụng công cụ đúng cách hay không, chi phí là bao nhiêu và nó có duy trì sự an toàn hay không. Các tác tử hoạt động qua nhiều bước và có các tác dụng phụ, vì vậy việc kiểm tra một câu trả lời duy nhất so với tham chiếu là không đủ, và các đánh giá tốt thường chạy tác tử trong một môi trường được kiểm soát và kiểm tra trạng thái cuối cùng.
Hành động nhiều bước sẽ thay đổi môi trường, vì vậy bạn cần kiểm tra xem điều gì đã thực sự xảy ra và diễn ra như thế nào chứ không chỉ văn bản cuối cùng.
Kiểm tra dựa trên môi trường, ở đây là kiểm tra của dự án, đánh giá xem bản sửa lỗi có thực sự hiệu quả hay không.
Yêu cầu thành công trong tất cả k lần thử sẽ đo lường tính nhất quán, điều này quan trọng đối với các tác nhân được triển khai cho người dùng thực.
Kiểm tra quỹ đạo đánh giá đường đi đã đi, nắm bắt các vòng lặp và lãng phí mà chỉ kiểm tra kết quả đã bỏ lỡ.
Công cụ chấm điểm mô hình rất linh hoạt nhưng cần được kiểm tra dựa trên đánh giá của con người và theo dõi sự thiên vị mang tính hệ thống.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Điểm chuẩn của đại lý mã hóa và băng ghế dự bị SWE
kỹ thuật