Adapo-ti-Agents Aggregation
Adapọ-ti-Agents (MoA) jẹ ilana kan nibiti ọpọlọpọ awọn awoṣe ede ṣe awọn idahun ati lẹhinna awoṣe alaropo da awọn imọran ti o dara julọ wọn sinu esi ilọsiwaju kan.
Akopọ
It lets a team of open models rival or beat a single top-tier model.
Jin Dive
Agbekale ninu iwe 2024 lati Apapọ AI, Adapọ-ti-Agents ṣeto ọpọlọpọ LLM sinu awọn fẹlẹfẹlẹ. Ni ipele akọkọ, ọpọlọpọ awọn awoṣe 'olupese' kọọkan ni ominira dahun ibeere naa. Awọn abajade wọn lẹhinna ni isomọ ati fifun si ipele atẹle, nibiti awọn awoṣe tun dahun, ni bayi ni ilodi si lori gbogbo awọn iyaworan ti tẹlẹ. Lẹhin ọkan tabi diẹ ẹ sii iru awọn iyipo, awoṣe 'alakopọ' ipari kan ṣe akopọ ohun gbogbo sinu idahun kan. Imọye pataki, eyiti awọn onkọwe n pe ni 'ifowosowopo ti LLMs', ni pe awọn awoṣe ṣe agbejade awọn idahun to dara julọ nigbati o ba han awọn idahun awọn ẹlẹgbẹ, paapaa awọn alaipe. Lori ala AlpacaEval 2.0, MoA ti a ṣe patapata lati awọn awoṣe orisun-ìmọ ti a royin ti kọja Dimegilio GPT-4 Omni, ti n ṣe afihan pe iṣọra iṣọra ti oniruuru, awọn awoṣe din owo le lu eto aala kan.
Imọ-imọ-ẹrọ
MoA yato si idibo to poju ti o rọrun: dipo yiyan idahun kan, alaropọ ka gbogbo awọn idahun oludije bi ọrọ-ọrọ ati ṣe agbekalẹ iṣelọpọ tuntun, awọn agbara idapọmọra ati awọn aṣiṣe sisẹ. Oniruuru laarin awọn onimọran ṣe iranlọwọ, nitorinaa dapọ awọn idile awoṣe oriṣiriṣi jẹ iwulo. Eto naa jẹ siwa, bii nẹtiwọọki ti o jinlẹ nibiti ‘awọn neuronu’ Layer kọọkan jẹ gbogbo awọn ipe LLM. Iṣowo-pipa jẹ lairi ati idiyele: Layer kọọkan n ṣe isodipupo nọmba awọn ipe ifọkansi, nitorinaa MoA n na iṣiro diẹ sii lati gbe didara soke.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti Adapọ-ti-Agents Aggregation
Reti ikojọpọ ara MoA lati tan kaakiri bi itọkasi ti n din owo ati awọn ilana orchestration ti dagba. Awọn itọnisọna iwadii pẹlu kikọ ẹkọ eyiti awọn oludamoran lati gbekele fun ibeere kan (itọpa), idinku ijiya lairi nipasẹ ṣiṣe awọn oludamoran ni afiwe ati gige awọn alailagbara ni kutukutu, ati apapọ MoA pẹlu awọn aṣoju lilo ohun elo ki alapejọ fuses kii ṣe ọrọ nikan ṣugbọn awọn iṣe ati ẹri ti a gba pada. Bii awọn awoṣe ṣiṣi ti n pọ si, iṣakojọpọ wọn ni oye di ọna ilowo ti o pọ si si didara ipele aala laisi awoṣe omiran kan.
Real-World imuse
Apapọ awọn awoṣe iwiregbe ṣiṣi oriṣiriṣi mẹta bi awọn oludamoran, lẹhinna lilo alaropo to lagbara lati ṣe agbejade idahun atilẹyin alabara didan kan.
Igbega itọnisọna-awọn ikun atẹle lori awọn ala-ara AlpacaEval ni lilo awọn awoṣe orisun ṣiṣi nikan.
Ṣiṣepọ awọn aba koodu oniruuru lati awọn awoṣe pupọ sinu ẹyọkan, imuse iṣẹ ti o lagbara diẹ sii.
Nṣiṣẹ opo gigun ti epo-iwọn-iwọn ti o sunmọ didara aala fun imuṣiṣẹ aṣiri-ipamọ nibiti data ko le fi awọn olupin ile-iṣẹ kan silẹ.
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Adalu ti awọn ijinle
Awọn ibeere ti a beere nigbagbogbo
What is Mixture-of-Agents Aggregation?
Adapọ-ti-Agents (MoA) jẹ ilana kan nibiti ọpọlọpọ awọn awoṣe ede ṣe awọn idahun ati lẹhinna awoṣe alaropo da awọn imọran ti o dara julọ wọn sinu esi ilọsiwaju kan. O jẹ ki ẹgbẹ kan ti awọn awoṣe ṣiṣi orogun tabi lu awoṣe oke-ipele kan.
Ni Mixture-of-Agents, kini ipa ti awoṣe alaropo?
Akopọ naa ka gbogbo awọn idahun oludije ati ṣe ipilẹṣẹ ọkan ti o dapọ, idahun didara ga julọ.
Ohun-ini bọtini ti LLM wo ni iwe MoA gbarale?
Awọn onkọwe ṣe akiyesi pe awọn awoṣe mu awọn idahun wọn pọ si nigbati o ba ni ilodi si awọn apẹrẹ awọn awoṣe miiran, paapaa awọn alaipe.
Bawo ni MOA ṣe yatọ si ibo to poju ti o rọrun?
Ko dabi idibo, MoA ko kan yan idahun kan ti o wa tẹlẹ; o ṣe agbejade esi tuntun ti o dapọ awọn oludije.
Kini idi ti oniruuru laarin awọn awoṣe igbero ṣe pataki ni MoA?
Awọn onimọran oriṣiriṣi bo ilẹ diẹ sii, fifun alakopọ ni eto awọn imọran ti o pọ si lati dapọ ati awọn aṣiṣe lati ṣe àlẹmọ.
Kini idiyele iwulo akọkọ ti ọna MoA?
Layer kọọkan ṣe afikun awọn ipe LLM diẹ sii, nitorinaa MoA ṣe iṣowo iṣiro afikun ati akoko fun ilọsiwaju didara idahun.