Tập hợp hỗn hợp các tác nhân
Hỗn hợp các tác nhân (MoA) là một kỹ thuật trong đó một số mô hình ngôn ngữ soạn thảo câu trả lời và sau đó mô hình tổng hợp kết hợp các ý tưởng tốt nhất của họ thành một câu trả lời được cải tiến.
Tổng quan
It lets a team of open models rival or beat a single top-tier model.
Lặn sâu
Được giới thiệu trong một bài báo năm 2024 của Together AI, Mixture-of-Agents tổ chức nhiều LLM thành các lớp. Trong lớp đầu tiên, một số mô hình 'người đề xuất', mỗi mô hình sẽ trả lời lời nhắc một cách độc lập. Sau đó, đầu ra của chúng được nối và chuyển sang lớp tiếp theo, nơi các mô hình sẽ phản hồi lại, hiện được điều chỉnh dựa trên tất cả các bản nháp trước đó. Sau một hoặc nhiều vòng như vậy, mô hình 'tổng hợp' cuối cùng sẽ tổng hợp mọi thứ thành một câu trả lời duy nhất. Cái nhìn sâu sắc cốt lõi, mà các tác giả gọi là 'tính cộng tác của LLM', là các mô hình tạo ra phản hồi tốt hơn khi được hiển thị câu trả lời của các đồng nghiệp, ngay cả những câu trả lời không hoàn hảo. Trên điểm chuẩn AlpacaEval 2.0, một MoA được xây dựng hoàn toàn từ các mô hình nguồn mở được cho là đã vượt qua điểm số của GPT-4 Omni, chứng tỏ rằng việc tổng hợp cẩn thận các mô hình đa dạng, rẻ hơn có thể đánh bại một hệ thống biên giới duy nhất.
Hiểu biết kỹ thuật
MoA khác với bỏ phiếu đa số đơn giản: thay vì chọn một câu trả lời, trình tổng hợp sẽ đọc tất cả các câu trả lời của ứng viên dưới dạng ngữ cảnh và tạo ra một bản tổng hợp mới, kết hợp các điểm mạnh và lọc lỗi. Sự đa dạng giữa những người đề xuất sẽ giúp ích, vì vậy việc kết hợp các nhóm mô hình khác nhau là rất có giá trị. Cấu trúc được phân lớp, giống như một mạng sâu trong đó các 'nơ-ron' của mỗi lớp là toàn bộ lệnh gọi LLM. Sự đánh đổi là độ trễ và chi phí: mỗi lớp nhân số lượng lệnh gọi suy luận, do đó MoA dành nhiều điện toán hơn để nâng cao chất lượng.
Tác động chiến lược
Tốc độ và tỷ lệ
Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
Truy cập và tiếp cận
Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
Quyết định rõ ràng hơn
Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
Tương lai của việc tổng hợp hỗn hợp các tác nhân
Mong đợi sự tổng hợp theo phong cách MoA sẽ lan rộng khi suy luận trở nên rẻ hơn và các khung điều phối hoàn thiện. Hướng nghiên cứu bao gồm tìm hiểu xem những người đề xuất nào đáng tin cậy cho mỗi truy vấn (định tuyến), giảm hình phạt về độ trễ bằng cách chạy song song những người đề xuất và loại bỏ sớm những người đề xuất yếu, đồng thời kết hợp MoA với các tác nhân sử dụng công cụ để trình tổng hợp hợp nhất không chỉ văn bản mà cả hành động và bằng chứng được truy xuất. Khi các mô hình mở sinh sôi nảy nở, việc kết hợp chúng một cách thông minh sẽ trở thành một con đường ngày càng thiết thực để đạt được chất lượng hàng đầu mà không cần đến một mô hình khổng lồ nào.
Triển khai trong thế giới thực
Kết hợp ba mô hình trò chuyện mở khác nhau làm người đề xuất, sau đó sử dụng công cụ tổng hợp mạnh mẽ để tạo ra một câu trả lời hỗ trợ khách hàng tinh tế.
Tăng điểm theo hướng dẫn trên các điểm chuẩn kiểu AlpacaEval chỉ sử dụng các mô hình nguồn mở.
Kết hợp các đề xuất mã đa dạng từ một số mô hình thành một triển khai chức năng duy nhất, mạnh mẽ hơn.
Chạy một quy trình trọng lượng mở đạt chất lượng vượt trội để triển khai chú trọng đến quyền riêng tư trong đó dữ liệu không thể rời khỏi máy chủ của công ty.
Rủi ro & lan can
Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Lộ trình thực hiện
Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Hỗn hợp độ sâu
Câu hỏi thường gặp
What is Mixture-of-Agents Aggregation?
Hỗn hợp các tác nhân (MoA) là một kỹ thuật trong đó một số mô hình ngôn ngữ soạn thảo câu trả lời và sau đó mô hình tổng hợp kết hợp các ý tưởng tốt nhất của họ thành một câu trả lời được cải tiến. Nó cho phép một nhóm gồm các mô hình mở cạnh tranh hoặc đánh bại một mô hình cấp cao nhất.
Trong Hỗn hợp tác nhân, vai trò của mô hình tổng hợp là gì?
Trình tổng hợp đọc tất cả các câu trả lời của ứng viên và tạo ra một câu trả lời hợp nhất, chất lượng cao hơn.
Tài sản quan trọng nào của LLM mà bài báo MoA dựa vào?
Các tác giả nhận thấy rằng các mô hình cải thiện câu trả lời của họ khi dựa trên các bản phác thảo của các mô hình khác, ngay cả những bản nháp không hoàn hảo.
MoA khác với biểu quyết đa số đơn giản như thế nào?
Không giống như bỏ phiếu, MoA không chỉ chọn một câu trả lời hiện có; nó tạo ra một phản ứng mới mẻ làm hài lòng các ứng viên.
Tại sao sự đa dạng giữa các mô hình đề xuất lại có giá trị trong MoA?
Những người đề xuất đa dạng bao quát được nhiều cơ sở hơn, mang lại cho người tổng hợp một tập hợp ý tưởng phong phú hơn để hợp nhất và các lỗi cần lọc.
Chi phí thực tế chính của phương pháp MoA là gì?
Mỗi lớp sẽ thêm nhiều cuộc gọi LLM hơn, vì vậy MoA đánh đổi thêm thời gian và điện toán để cải thiện chất lượng câu trả lời.