Pengagregatan Campuran-Ejen
Mixture-of-Agents (MoA) ialah teknik di mana beberapa model bahasa mendraf jawapan dan kemudian model agregator menggabungkan idea terbaik mereka menjadi satu respons yang lebih baik.
Gambaran keseluruhan
It lets a team of open models rival or beat a single top-tier model.
Menyelam dalam
Diperkenalkan dalam kertas kerja 2024 daripada Together AI, Mixture-of-Agents menyusun berbilang LLM ke dalam lapisan. Dalam lapisan pertama, beberapa model 'pencadang' masing-masing menjawab gesaan secara bebas. Keluaran mereka kemudiannya digabungkan dan diserahkan ke lapisan seterusnya, di mana model sekali lagi bertindak balas, kini dikondisikan pada semua draf sebelumnya. Selepas satu atau lebih pusingan sedemikian, model 'agregator' terakhir mensintesis semuanya menjadi satu jawapan. Wawasan teras, yang penulis panggil sebagai 'kolaboratif LLM', ialah model menghasilkan respons yang lebih baik apabila ditunjukkan jawapan rakan sebaya, malah yang tidak sempurna. Pada penanda aras AlpacaEval 2.0, MoA yang dibina sepenuhnya daripada model sumber terbuka dilaporkan mengatasi markah GPT-4 Omni, menunjukkan bahawa pengagregatan berhati-hati pelbagai model yang lebih murah boleh mengalahkan sistem sempadan tunggal.
Wawasan Teknikal
MoA berbeza daripada pengundian majoriti mudah: daripada memilih satu jawapan, pengagregat membaca semua respons calon sebagai konteks dan menjana sintesis baharu, menggabungkan kekuatan dan ralat penapisan. Kepelbagaian antara pencadang membantu, jadi mencampurkan keluarga model yang berbeza adalah berharga. Strukturnya berlapis, seperti rangkaian dalam di mana setiap 'neuron' lapisan adalah panggilan LLM keseluruhan. Tukar ganti ialah kependaman dan kos: setiap lapisan mendarabkan bilangan panggilan inferens, jadi MoA membelanjakan lebih banyak pengiraan untuk meningkatkan kualiti.
Kesan Strategik
Kelajuan dan skala
Aliran kerja bahasa boleh bergerak lebih pantas tanpa mengorbankan konsistensi.
Akses dan capai
Ia meluaskan akses merentas bahasa dan gaya komunikasi.
Keputusan yang lebih jelas
Pasukan boleh menghabiskan lebih banyak masa untuk membuat pertimbangan manakala automasi mengendalikan pengulangan.
Masa Depan Pengagregatan Campuran Ejen
Jangkakan pengagregatan gaya MoA merebak apabila inferens menjadi lebih murah dan rangka kerja orkestrasi matang. Arahan penyelidikan termasuk mempelajari pencadang untuk mempercayai setiap pertanyaan (permintaan), mengurangkan penalti kependaman dengan menjalankan pencadang secara selari dan mencantas yang lemah lebih awal, dan menggabungkan MoA dengan ejen yang menggunakan alat supaya pengagregat menggabungkan bukan sahaja teks tetapi tindakan dan bukti yang diperoleh. Apabila model terbuka berkembang biak, menggabungkannya secara bijak menjadi laluan yang semakin praktikal kepada kualiti peringkat sempadan tanpa satu model gergasi.
Pelaksanaan Dunia Sebenar
Menggabungkan tiga model sembang terbuka yang berbeza sebagai pencadang, kemudian menggunakan agregator yang kuat untuk menghasilkan satu balasan sokongan pelanggan yang digilap.
Meningkatkan markah mengikut arahan pada penanda aras gaya AlpacaEval menggunakan model sumber terbuka sahaja.
Menggabungkan cadangan kod yang pelbagai daripada beberapa model ke dalam satu pelaksanaan fungsi yang lebih mantap.
Menjalankan saluran paip wajaran terbuka yang menghampiri kualiti sempadan untuk penggunaan sensitif privasi di mana data tidak boleh meninggalkan pelayan syarikat.
Risiko & Pengawal
Fakta halusinasi boleh memasukkan laporan, aliran sokongan atau hasil penyelidikan secara senyap-senyap.
Sensitiviti segera boleh mencipta hasil yang tidak konsisten merentas permintaan yang serupa.
Data teks sensitif mungkin terdedah jika kawalan akses lemah.
Hala Tuju Pelaksanaan
Tentukan format output, nada dan standard kualiti sebelum pelancaran.
Respons asas dengan sumber yang dipercayai apabila ketepatan penting.
Simpan pusat pemeriksaan semakan manusia untuk output berkepentingan tinggi.
Jejaki corak kegagalan dan latih semula gesaan atau aliran kerja dengan kerap.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
Campuran Kedalaman
Soalan lazim
What is Mixture-of-Agents Aggregation?
Mixture-of-Agents (MoA) ialah teknik di mana beberapa model bahasa mendraf jawapan dan kemudian model agregator menggabungkan idea terbaik mereka menjadi satu respons yang lebih baik. Ia membolehkan satu pasukan model terbuka menyaingi atau mengalahkan satu model peringkat teratas.
Dalam Mixture-of-Agents, apakah peranan model agregator?
Agregator membaca semua jawapan calon dan menghasilkan satu jawapan yang bersatu dan berkualiti tinggi.
Apakah sifat utama LLM yang bergantung kepada kertas MoA?
Pengarang memerhatikan bahawa model menambah baik jawapan mereka apabila dikondisikan pada draf model lain, malah yang tidak sempurna.
Bagaimanakah MoA berbeza daripada pengundian majoriti mudah?
Tidak seperti mengundi, MoA tidak hanya memilih satu jawapan sedia ada; ia menjana respons baharu yang menggabungkan calon.
Mengapakah kepelbagaian antara model pencadang bernilai dalam MoA?
Pencadang yang pelbagai merangkumi lebih banyak asas, memberikan agregator set idea yang lebih kaya untuk digabungkan dan ralat untuk ditapis.
Apakah kos praktikal utama pendekatan MoA?
Setiap lapisan menambah lebih banyak panggilan LLM, jadi MoA memperdagangkan pengiraan dan masa tambahan untuk kualiti jawapan yang lebih baik.