Tiếp theoHướng dẫn tiếp theo
Hỗn hợp độ sâu
Ngôn ngữ AI
HƯỚNG DẪN AI về ngôn ngữ
Tập hợp hỗn hợp các tác nhân
Hỗn hợp các tác nhân (MoA) là một kỹ thuật trong đó một số mô hình ngôn ngữ soạn thảo câu trả lời và sau đó mô hình tổng hợp kết hợp các ý tưởng tốt nhất của họ thành một câu trả lời được cải tiến.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
It lets a team of open models rival or beat a single top-tier model.
Lặn sâu
Được giới thiệu trong một bài báo năm 2024 của Together AI, Mixture-of-Agents tổ chức nhiều LLM thành các lớp. Trong lớp đầu tiên, một số mô hình 'người đề xuất', mỗi mô hình sẽ trả lời lời nhắc một cách độc lập. Sau đó, đầu ra của chúng được nối và chuyển sang lớp tiếp theo, nơi các mô hình sẽ phản hồi lại, hiện được điều chỉnh dựa trên tất cả các bản nháp trước đó. Sau một hoặc nhiều vòng như vậy, mô hình 'tổng hợp' cuối cùng sẽ tổng hợp mọi thứ thành một câu trả lời duy nhất. Cái nhìn sâu sắc cốt lõi, mà các tác giả gọi là 'tính cộng tác của LLM', là các mô hình tạo ra phản hồi tốt hơn khi được hiển thị câu trả lời của các đồng nghiệp, ngay cả những câu trả lời không hoàn hảo. Trên điểm chuẩn AlpacaEval 2.0, một MoA được xây dựng hoàn toàn từ các mô hình nguồn mở được cho là đã vượt qua điểm số của GPT-4 Omni, chứng tỏ rằng việc tổng hợp cẩn thận các mô hình đa dạng, rẻ hơn có thể đánh bại một hệ thống biên giới duy nhất.
Triển khai trong thế giới thực
Kết hợp ba mô hình trò chuyện mở khác nhau làm người đề xuất, sau đó sử dụng công cụ tổng hợp mạnh mẽ để tạo ra một câu trả lời hỗ trợ khách hàng tinh tế.
Tăng điểm theo hướng dẫn trên các điểm chuẩn kiểu AlpacaEval chỉ sử dụng các mô hình nguồn mở.
Kết hợp các đề xuất mã đa dạng từ một số mô hình thành một triển khai chức năng duy nhất, mạnh mẽ hơn.
Chạy một quy trình trọng lượng mở đạt chất lượng vượt trội để triển khai chú trọng đến quyền riêng tư trong đó dữ liệu không thể rời khỏi máy chủ của công ty.
Tương lai của việc tổng hợp hỗn hợp các tác nhân
Mong đợi sự tổng hợp theo phong cách MoA sẽ lan rộng khi suy luận trở nên rẻ hơn và các khung điều phối hoàn thiện. Hướng nghiên cứu bao gồm tìm hiểu xem những người đề xuất nào đáng tin cậy cho mỗi truy vấn (định tuyến), giảm hình phạt về độ trễ bằng cách chạy song song những người đề xuất và loại bỏ sớm những người đề xuất yếu, đồng thời kết hợp MoA với các tác nhân sử dụng công cụ để trình tổng hợp hợp nhất không chỉ văn bản mà cả hành động và bằng chứng được truy xuất. Khi các mô hình mở sinh sôi nảy nở, việc kết hợp chúng một cách thông minh sẽ trở thành một con đường ngày càng thiết thực để đạt được chất lượng hàng đầu mà không cần đến một mô hình khổng lồ nào.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Tốc độ và tỷ lệ. Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
- Truy cập và tiếp cận. Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
- Quyết định rõ ràng hơn. Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
coi chừng
- Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
- Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
- Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Các bước tiếp theo
- Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
- Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
- Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
- Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Mixture-of-Agents Aggregation quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
What is Mixture-of-Agents Aggregation?
Hỗn hợp các tác nhân (MoA) là một kỹ thuật trong đó một số mô hình ngôn ngữ soạn thảo câu trả lời và sau đó mô hình tổng hợp kết hợp các ý tưởng tốt nhất của họ thành một câu trả lời được cải tiến. Nó cho phép một nhóm gồm các mô hình mở cạnh tranh hoặc đánh bại một mô hình cấp cao nhất.
Trong Hỗn hợp tác nhân, vai trò của mô hình tổng hợp là gì?
Trình tổng hợp đọc tất cả các câu trả lời của ứng viên và tạo ra một câu trả lời hợp nhất, chất lượng cao hơn.
Tài sản quan trọng nào của LLM mà bài báo MoA dựa vào?
Các tác giả nhận thấy rằng các mô hình cải thiện câu trả lời của họ khi dựa trên các bản phác thảo của các mô hình khác, ngay cả những bản nháp không hoàn hảo.
MoA khác với biểu quyết đa số đơn giản như thế nào?
Không giống như bỏ phiếu, MoA không chỉ chọn một câu trả lời hiện có; nó tạo ra một phản ứng mới mẻ làm hài lòng các ứng viên.
Tại sao sự đa dạng giữa các mô hình đề xuất lại có giá trị trong MoA?
Những người đề xuất đa dạng bao quát được nhiều cơ sở hơn, mang lại cho người tổng hợp một tập hợp ý tưởng phong phú hơn để hợp nhất và các lỗi cần lọc.
Chi phí thực tế chính của phương pháp MoA là gì?
Mỗi lớp sẽ thêm nhiều cuộc gọi LLM hơn, vì vậy MoA đánh đổi thêm thời gian và điện toán để cải thiện chất lượng câu trả lời.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này