HƯỚNG DẪN AI về ngôn ngữ

Các chất phụ và cách ly bối cảnh

Tác nhân phụ là một phiên bản mô hình riêng biệt mà tác nhân AI chính bắt đầu xử lý một tác vụ phụ tập trung.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của các chất phụ và cách ly bối cảnh
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Nó có cửa sổ ngữ cảnh mới của riêng mình và chỉ gửi lại một kết quả cô đọng. Điều này giữ cho bối cảnh của tác nhân chính ngắn gọn và đúng chủ đề, đồng thời cho phép công việc độc lập chạy song song, với chi phí là các mã thông báo bổ sung và rủi ro là các chi tiết quan trọng bị mất trong quá trình chuyển giao.

Lặn sâu

Các mô hình ngôn ngữ hoạt động trong một cửa sổ ngữ cảnh hạn chế và chất lượng thường giảm khi cửa sổ đó chứa đầy kết quả tìm kiếm, nội dung tệp và đầu ra của công cụ cũ, ngay cả trước khi đạt đến giới hạn cứng. Các đại lý phụ giải quyết vấn đề này bằng cách phân chia công việc. Tác nhân chính, đôi khi được gọi là người điều phối hoặc người lãnh đạo, viết mô tả nhiệm vụ và bắt đầu tác nhân phụ với bối cảnh rõ ràng, thường có bộ công cụ hẹp hơn. Tác nhân phụ khám phá, gọi các công cụ và lý do, sau đó gửi lại bản tóm tắt. Chỉ bản tóm tắt đó mới đi vào bối cảnh của tác nhân chính. Các mô hình xuất hiện trong các sản phẩm thực tế. Ví dụ: Claude Code cho phép người dùng xác định các tác nhân phụ bằng các hướng dẫn và quyền công cụ của riêng họ, đồng thời một số tác nhân nghiên cứu và mã hóa gửi công việc khám phá cho các nhân viên song song. Anthropic đã viết về một hệ thống nghiên cứu đa tác nhân, trong đó một tác nhân chính chạy song song các tác nhân phụ. Nó báo cáo lợi nhuận từ các câu hỏi nghiên cứu rộng rãi và mức sử dụng mã thông báo cao hơn nhiều so với một đại lý duy nhất. Sự đánh đổi là có thật. Chi phí tăng lên do mỗi tác nhân phụ tải lại các hướng dẫn và lặp lại một số thao tác khám phá. Sự phối hợp trở nên khó khăn hơn: các tác nhân phụ song song không thể nhìn thấy công việc của nhau, vì vậy chúng có thể trùng lặp nỗ lực hoặc đưa ra những lựa chọn không tương thích. Đó là một vấn đề cụ thể khi các nhiệm vụ được liên kết chặt chẽ với nhau, chẳng hạn như khi viết các phần khác nhau của một đoạn mã. Thông tin bị mất vì bản tóm tắt bỏ đi thông tin chi tiết mà tác nhân chính có thể cần và tác nhân phụ chỉ biết những gì mô tả nhiệm vụ của nó đã nói với nó. Một quan niệm sai lầm là nhiều đại lý hơn luôn có nghĩa là kết quả tốt hơn. Một số người thực hành lập luận rằng đối với công việc được liên kết chặt chẽ, một tác nhân duy nhất có bối cảnh được quản lý tốt sẽ đáng tin cậy hơn. Các tác nhân phụ hoạt động tốt nhất với các nhiệm vụ mang tính độc lập, nặng về đọc và dễ tóm tắt: tìm kiếm, khảo sát, kiểm tra và thu thập.

Triển khai trong thế giới thực

Một tác nhân mã hóa được yêu cầu sửa lỗi sẽ khởi động một tác nhân phụ để tìm kiếm một kho lưu trữ lớn cho mọi người gọi hàm. Tác nhân phụ đọc hàng chục tệp và trả về danh sách vị trí dài 10 dòng, do đó ngữ cảnh của tác nhân chính không bao giờ chứa đầy nội dung tệp.

Một trợ lý nghiên cứu bắt đầu ba tác nhân phụ cùng một lúc, mỗi tác vụ phụ cho mỗi câu hỏi phụ, mỗi tác vụ sẽ tự tìm kiếm trên web. Sau đó, đại lý chính sẽ kết hợp các bản tóm tắt ngắn gọn của họ thành một báo cáo.

Thiết lập đánh giá mã chỉ cung cấp cho tác nhân phụ sự khác biệt và danh sách kiểm tra đánh giá. Bởi vì nó chưa nhìn thấy lý do trước đó của tác nhân chính nên nó ít có khả năng chia sẻ các giả định của tác nhân đó về lý do tại sao mã lại đúng.

Một nhóm phát hiện ra rằng một đại lý phụ chỉ được yêu cầu 'kiểm tra các bài kiểm tra' đã chạy lại toàn bộ bộ phần mềm và báo cáo các lỗi không liên quan. Họ khắc phục bằng cách cung cấp cho tác nhân phụ tệp kiểm tra chính xác, mục tiêu và định dạng mà họ muốn quay lại.

Tương lai của các chất phụ và cách ly bối cảnh

Các tác nhân phụ đang trở thành một tính năng tiêu chuẩn của các tác nhân nghiên cứu và mã hóa, với sự hỗ trợ ngày càng tăng cho các định nghĩa tùy chỉnh, quyền cho từng tác nhân phụ và thực thi song song. Các câu hỏi mở bao gồm cách chuyển trạng thái chia sẻ phong phú hơn giữa các tác nhân mà không khiến bối cảnh trở lại cồng kềnh và cách tự động quyết định khi nào việc phân chia nhiệm vụ có đáng giá hay không. Cửa sổ ngữ cảnh lớn hơn và quản lý ngữ cảnh tốt hơn, chẳng hạn như tóm tắt tự động, có thể làm giảm nhu cầu về tác nhân phụ trong một số trường hợp. Sự cô lập cũng có những lợi ích riêng, bao gồm góc nhìn mới mẻ, công việc song song và quyền hạn chặt chẽ hơn, do đó, mô hình này có thể vẫn hữu ích.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Tốc độ và tỷ lệ. Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
  • Truy cập và tiếp cận. Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
  • Quyết định rõ ràng hơn. Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.

coi chừng

  • Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
  • Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
  • Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.

Các bước tiếp theo

  1. Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
  2. Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
  3. Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
  4. Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Subagents and Context Isolation quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Subagent và cách ly bối cảnh là gì?

Tác nhân phụ là một phiên bản mô hình riêng biệt mà tác nhân AI chính bắt đầu xử lý một tác vụ phụ tập trung. Nó có cửa sổ ngữ cảnh mới của riêng mình và chỉ gửi lại một kết quả cô đọng. Điều này giữ cho bối cảnh của tác nhân chính ngắn gọn và đúng chủ đề, đồng thời cho phép công việc độc lập chạy song song, với chi phí là các mã thông báo bổ sung và rủi ro là các chi tiết quan trọng bị mất trong quá trình chuyển giao.

Điều gì chủ yếu phân biệt tác nhân phụ với tác nhân chính?

Cách ly bối cảnh là tính năng xác định. Các chi tiết hoạt động của tác nhân phụ nằm ngoài ngữ cảnh chính và chỉ có phần tóm tắt của nó quay trở lại.

Tại sao cửa sổ ngữ cảnh lấp đầy có thể là một vấn đề ngay cả trước giới hạn cứng của nó?

Một lượng lớn kết quả tìm kiếm và nội dung tệp cũ có thể làm suy yếu sự chú ý của mô hình đối với những vấn đề quan trọng hiện nay.

Nhiệm vụ nào phù hợp nhất cho một đại lý phụ?

Việc tìm kiếm mang tính độc lập, cần đọc nhiều và dễ tóm tắt, đó là nơi các tác nhân phụ hoạt động tốt nhất.

Nguồn mất thông tin chính của các đại lý phụ là gì?

Thông tin bị mất theo cả hai hướng: việc chuyển giao giới hạn những gì tác nhân phụ biết và bản tóm tắt giới hạn những gì phản hồi.

Tại sao việc thiết lập nhiều tác nhân thường tốn nhiều token hơn?

Mọi tác nhân phụ đều bắt đầu mới, do đó, hoạt động thiết lập chung và khám phá chồng chéo sẽ được thanh toán nhiều lần.