HƯỚNG DẪN KỸ THUẬT

Đánh giá các tác nhân AI

Đánh giá các tác tử AI có nghĩa là đo lường mức độ một hệ thống nhiều bước đạt được mục tiêu trong các bối cảnh thực tế.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của việc đánh giá các tác tử AI
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Điều đó bao gồm việc nó có hoàn thành tác vụ hay không, con đường nó đi có hợp lý hay không, nó có sử dụng công cụ đúng cách hay không, chi phí là bao nhiêu và nó có duy trì sự an toàn hay không. Các tác tử hoạt động qua nhiều bước và có các tác dụng phụ, vì vậy việc kiểm tra một câu trả lời duy nhất so với tham chiếu là không đủ, và các đánh giá tốt thường chạy tác tử trong một môi trường được kiểm soát và kiểm tra trạng thái cuối cùng.

Lặn sâu

Agent evaluation looks at several things. Task success asks whether the goal was actually achieved, ideally checked by looking at the environment afterward: tests pass, the right record exists, the file has the right contents. Trajectory quality asks whether the steps were reasonable, without loops, pointless calls or lucky guesses. Tool-use correctness checks whether the agent picked the right tools with valid arguments and handled errors. Cost and latency track tokens, calls and wall-clock time. Safety checks whether the agent avoided harmful or unauthorized actions and resisted prompt injection. Environment-based benchmarks have become a leading approach. SWE-bench, from Princeton researchers, asks agents to resolve real GitHub issues and checks the results with the project's tests, and SWE-bench Verified is a human-checked subset. WebArena provides self-hosted websites for browsing tasks. OSWorld tests agents operating full computer desktops. GAIA poses questions that need multi-step research and tools. The tau-bench suite simulates users and domain policies, and it introduced a pass^k metric that asks whether an agent succeeds on every one of k repeated attempts. Grading uses three main kinds of checks: code-based checks on outcomes, which are precise and cheap; model-based graders that score transcripts against a rubric, which are flexible but need to be checked against human judgment; and human review, which is the most trustworthy and the slowest. A common mistake is to trust public leaderboards alone. Benchmarks can leak into training data, become saturated, or fail to resemble your own workload. Another mistake is treating one run as the truth, since agents are nondeterministic and small differences in success rate can be noise. Teams get the most value from a private evaluation set built from their own real tasks and failures, run repeatedly and tracked over time.

Triển khai trong thế giới thực

Một nhóm tác tử lập điểm chấm điểm mỗi lần thử dựa trên việc các bài kiểm thử ẩn trong kho lưu trữ có vượt qua sau khi tác tử áp dụng bản vá, giống như SWE-bench, thay vì phán xét xem sự khác biệt có trông đúng hay không.

Một tác tử dịch vụ khách hàng chạy đối đầu với các người dùng mô phỏng và cơ sở dữ liệu đặt chỗ giả lập. Người chấm điểm kiểm tra xem trạng thái cơ sở dữ liệu cuối cùng có khớp với kết quả đúng và tác tử có tuân thủ chính sách hoàn tiền hay không.

Một nhóm kỹ thuật chạy mỗi tác vụ năm lần và báo cáo tần suất tác tử thành công trong cả năm lần, điều này phơi bày hành vi không ổn định mà tỷ lệ thành công của một lần chạy duy nhất sẽ che giấu.

Một công ty thêm một bộ công cụ an toàn trong đó các tác vụ bao gồm một chỉ thị được cài đặt sẵn để xóa tệp hoặc rò rỉ dữ liệu, và nó tính một lần chạy vốn thành công là thất bại nếu tác tử đã tuân theo.

Tương lai của việc đánh giá các tác tử AI

Khi các tác tử đảm nhận các tác vụ dài hơn, các đánh giá đang chuyển hướng sang các chân trời dài hơn, các môi trường thực tế hơn, và các thước đo về độ tin cậy và chi phí cũng như khả năng đỉnh cao. Sự bão hòa và ô nhiễm của các chuẩn đánh giá có khả năng tiếp tục thúc đẩy các nhà phát triển tạo ra các tác vụ mới và dựa nhiều hơn vào các bộ kiểm thử riêng tư, cụ thể theo lĩnh vực. Các đánh giá về an toàn và bảo mật, bao gồm khả năng chống lại việc tiêm lời nhắc, đang nhận được nhiều sự chú ý hơn khi các tác tử được cấp quyền truy cập vào các hệ thống thực. Không có tiêu chuẩn thống nhất nào để chấm điểm hành vi tác tử mở, vì vậy việc kết hợp các kiểm tra kết quả, các người chấm điểm mô hình được hiệu chuẩn và đánh giá của con người có khả năng sẽ tiếp tục là thực hành phổ biến.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Chi phí và ngân sách. Các quyết định về kiến ​​trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
  • Quyết định rõ ràng hơn. Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
  • Kiểm soát chất lượng. Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.

coi chừng

  • Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
  • Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
  • Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.

Các bước tiếp theo

  1. Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
  2. Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
  3. Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
  4. Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra Đánh giá các tác tử AI

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Đánh giá các tác tử AI là gì?

Đánh giá các tác tử AI có nghĩa là đo lường mức độ một hệ thống nhiều bước đạt được mục tiêu trong các bối cảnh thực tế. Điều đó bao gồm việc nó có hoàn thành tác vụ hay không, con đường nó đi có hợp lý hay không, nó có sử dụng công cụ đúng cách hay không, chi phí là bao nhiêu và nó có duy trì sự an toàn hay không. Các tác tử hoạt động qua nhiều bước và có các tác dụng phụ, vì vậy việc kiểm tra một câu trả lời duy nhất so với tham chiếu là không đủ, và các đánh giá tốt thường chạy tác tử trong một môi trường được kiểm soát và kiểm tra trạng thái cuối cùng.

Tại sao việc kiểm tra một câu trả lời cuối cùng thường không đủ đối với các đại lý?

Hành động nhiều bước sẽ thay đổi môi trường, vì vậy bạn cần kiểm tra xem điều gì đã thực sự xảy ra và diễn ra như thế nào chứ không chỉ văn bản cuối cùng.

SWE-bench đánh giá liệu một nhân viên có giải quyết được vấn đề hay không?

Kiểm tra dựa trên môi trường, ở đây là kiểm tra của dự án, đánh giá xem bản sửa lỗi có thực sự hiệu quả hay không.

Số liệu kiểu pass^k đo lường điều gì?

Yêu cầu thành công trong tất cả k lần thử sẽ đo lường tính nhất quán, điều này quan trọng đối với các tác nhân được triển khai cho người dùng thực.

Yếu tố nào sẽ gắn cờ một nhân viên thành công nhưng phải thực hiện 50 bước cho một công việc gồm 5 bước?

Kiểm tra quỹ đạo đánh giá đường đi đã đi, nắm bắt các vòng lặp và lãng phí mà chỉ kiểm tra kết quả đã bỏ lỡ.

Điểm yếu được biết đến của hệ thống chấm điểm dựa trên mô hình là gì?

Công cụ chấm điểm mô hình rất linh hoạt nhưng cần được kiểm tra dựa trên đánh giá của con người và theo dõi sự thiên vị mang tính hệ thống.

Tiếp tục học hỏi

Hướng dẫn liên quan

Đã chọn thêm hướng dẫn cho chủ đề này

Nhận chứng chỉ AI miễn phíMột khóa học và kỳ thi ngắn miễn phí. Không tốn phí, không cần thẻ. Khoảng 2,5 giờ.Bắt đầu miễn phí →