Tiếp theoHướng dẫn tiếp theo
Bối cảnh dài so với RAG
Ngôn ngữ AI
HƯỚNG DẪN AI về ngôn ngữ
Tác nhân phụ là một phiên bản mô hình riêng biệt mà tác nhân AI chính bắt đầu xử lý một tác vụ phụ tập trung.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Nó có cửa sổ ngữ cảnh mới của riêng mình và chỉ gửi lại một kết quả cô đọng. Điều này giữ cho bối cảnh của tác nhân chính ngắn gọn và đúng chủ đề, đồng thời cho phép công việc độc lập chạy song song, với chi phí là các mã thông báo bổ sung và rủi ro là các chi tiết quan trọng bị mất trong quá trình chuyển giao.
Các mô hình ngôn ngữ hoạt động trong một cửa sổ ngữ cảnh hạn chế và chất lượng thường giảm khi cửa sổ đó chứa đầy kết quả tìm kiếm, nội dung tệp và đầu ra của công cụ cũ, ngay cả trước khi đạt đến giới hạn cứng. Các đại lý phụ giải quyết vấn đề này bằng cách phân chia công việc. Tác nhân chính, đôi khi được gọi là người điều phối hoặc người lãnh đạo, viết mô tả nhiệm vụ và bắt đầu tác nhân phụ với bối cảnh rõ ràng, thường có bộ công cụ hẹp hơn. Tác nhân phụ khám phá, gọi các công cụ và lý do, sau đó gửi lại bản tóm tắt. Chỉ bản tóm tắt đó mới đi vào bối cảnh của tác nhân chính. Các mô hình xuất hiện trong các sản phẩm thực tế. Ví dụ: Claude Code cho phép người dùng xác định các tác nhân phụ bằng các hướng dẫn và quyền công cụ của riêng họ, đồng thời một số tác nhân nghiên cứu và mã hóa gửi công việc khám phá cho các nhân viên song song. Anthropic đã viết về một hệ thống nghiên cứu đa tác nhân, trong đó một tác nhân chính chạy song song các tác nhân phụ. Nó báo cáo lợi nhuận từ các câu hỏi nghiên cứu rộng rãi và mức sử dụng mã thông báo cao hơn nhiều so với một đại lý duy nhất. Sự đánh đổi là có thật. Chi phí tăng lên do mỗi tác nhân phụ tải lại các hướng dẫn và lặp lại một số thao tác khám phá. Sự phối hợp trở nên khó khăn hơn: các tác nhân phụ song song không thể nhìn thấy công việc của nhau, vì vậy chúng có thể trùng lặp nỗ lực hoặc đưa ra những lựa chọn không tương thích. Đó là một vấn đề cụ thể khi các nhiệm vụ được liên kết chặt chẽ với nhau, chẳng hạn như khi viết các phần khác nhau của một đoạn mã. Thông tin bị mất vì bản tóm tắt bỏ đi thông tin chi tiết mà tác nhân chính có thể cần và tác nhân phụ chỉ biết những gì mô tả nhiệm vụ của nó đã nói với nó. Một quan niệm sai lầm là nhiều đại lý hơn luôn có nghĩa là kết quả tốt hơn. Một số người thực hành lập luận rằng đối với công việc được liên kết chặt chẽ, một tác nhân duy nhất có bối cảnh được quản lý tốt sẽ đáng tin cậy hơn. Các tác nhân phụ hoạt động tốt nhất với các nhiệm vụ mang tính độc lập, nặng về đọc và dễ tóm tắt: tìm kiếm, khảo sát, kiểm tra và thu thập.
Một tác nhân mã hóa được yêu cầu sửa lỗi sẽ khởi động một tác nhân phụ để tìm kiếm một kho lưu trữ lớn cho mọi người gọi hàm. Tác nhân phụ đọc hàng chục tệp và trả về danh sách vị trí dài 10 dòng, do đó ngữ cảnh của tác nhân chính không bao giờ chứa đầy nội dung tệp.
Một trợ lý nghiên cứu bắt đầu ba tác nhân phụ cùng một lúc, mỗi tác vụ phụ cho mỗi câu hỏi phụ, mỗi tác vụ sẽ tự tìm kiếm trên web. Sau đó, đại lý chính sẽ kết hợp các bản tóm tắt ngắn gọn của họ thành một báo cáo.
Thiết lập đánh giá mã chỉ cung cấp cho tác nhân phụ sự khác biệt và danh sách kiểm tra đánh giá. Bởi vì nó chưa nhìn thấy lý do trước đó của tác nhân chính nên nó ít có khả năng chia sẻ các giả định của tác nhân đó về lý do tại sao mã lại đúng.
Một nhóm phát hiện ra rằng một đại lý phụ chỉ được yêu cầu 'kiểm tra các bài kiểm tra' đã chạy lại toàn bộ bộ phần mềm và báo cáo các lỗi không liên quan. Họ khắc phục bằng cách cung cấp cho tác nhân phụ tệp kiểm tra chính xác, mục tiêu và định dạng mà họ muốn quay lại.
Các tác nhân phụ đang trở thành một tính năng tiêu chuẩn của các tác nhân nghiên cứu và mã hóa, với sự hỗ trợ ngày càng tăng cho các định nghĩa tùy chỉnh, quyền cho từng tác nhân phụ và thực thi song song. Các câu hỏi mở bao gồm cách chuyển trạng thái chia sẻ phong phú hơn giữa các tác nhân mà không khiến bối cảnh trở lại cồng kềnh và cách tự động quyết định khi nào việc phân chia nhiệm vụ có đáng giá hay không. Cửa sổ ngữ cảnh lớn hơn và quản lý ngữ cảnh tốt hơn, chẳng hạn như tóm tắt tự động, có thể làm giảm nhu cầu về tác nhân phụ trong một số trường hợp. Sự cô lập cũng có những lợi ích riêng, bao gồm góc nhìn mới mẻ, công việc song song và quyền hạn chặt chẽ hơn, do đó, mô hình này có thể vẫn hữu ích.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Tác nhân phụ là một phiên bản mô hình riêng biệt mà tác nhân AI chính bắt đầu xử lý một tác vụ phụ tập trung. Nó có cửa sổ ngữ cảnh mới của riêng mình và chỉ gửi lại một kết quả cô đọng. Điều này giữ cho bối cảnh của tác nhân chính ngắn gọn và đúng chủ đề, đồng thời cho phép công việc độc lập chạy song song, với chi phí là các mã thông báo bổ sung và rủi ro là các chi tiết quan trọng bị mất trong quá trình chuyển giao.
Cách ly bối cảnh là tính năng xác định. Các chi tiết hoạt động của tác nhân phụ nằm ngoài ngữ cảnh chính và chỉ có phần tóm tắt của nó quay trở lại.
Một lượng lớn kết quả tìm kiếm và nội dung tệp cũ có thể làm suy yếu sự chú ý của mô hình đối với những vấn đề quan trọng hiện nay.
Việc tìm kiếm mang tính độc lập, cần đọc nhiều và dễ tóm tắt, đó là nơi các tác nhân phụ hoạt động tốt nhất.
Thông tin bị mất theo cả hai hướng: việc chuyển giao giới hạn những gì tác nhân phụ biết và bản tóm tắt giới hạn những gì phản hồi.
Mọi tác nhân phụ đều bắt đầu mới, do đó, hoạt động thiết lập chung và khám phá chồng chéo sẽ được thanh toán nhiều lần.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Bối cảnh dài so với RAG
Ngôn ngữ AI