Lugha AI MWONGOZO

Mchanganyiko-wa-Mawakala

Mchanganyiko-wa-Mawakala (MoA) ni mbinu ambapo modeli kadhaa za lugha hutayarisha majibu na kisha kielelezo cha kijumlishi huunganisha mawazo yao bora katika jibu moja lililoboreshwa.

Sikiliza mwongozo huuInaonyeshwa na AI · ~2 min

Katika ukurasa huudk 2 kusoma
  1. Muhtasari
  2. Dive ya kina
  3. Utekelezaji wa Ulimwengu Halisi
  4. Mustakabali wa Ujumlisho wa Mchanganyiko-wa-Mawakala
  5. Kuiweka katika vitendo
  6. Endelea Kuchunguza
  7. Maswali yanayoulizwa mara kwa mara

Muhtasari

It lets a team of open models rival or beat a single top-tier model.

Dive ya kina

Ilianzishwa katika karatasi ya 2024 kutoka Pamoja AI, Mchanganyiko-wa-Mawakala hupanga LLM nyingi katika tabaka. Katika safu ya kwanza, mifano kadhaa ya 'mpendekezaji' kila moja hujibu haraka haraka. Matokeo yao huunganishwa na kukabidhiwa kwa safu inayofuata, ambapo mifano hujibu tena, ambayo sasa imewekewa rasimu zote za awali. Baada ya raundi moja au zaidi kama hizo, kielelezo cha mwisho cha 'kikusanya jumla' husanikisha kila kitu kuwa jibu moja. Ufahamu wa kimsingi, ambao waandishi wanauita 'ushirikiano wa LLMs', ni kwamba miundo hutoa majibu bora zaidi yanapoonyeshwa majibu ya wenzao, hata yale yasiyo kamilifu. Kwenye benchmark ya AlpacaEval 2.0, MoA iliyojengwa kutoka kwa miundo huria iliyoripotiwa ilipita alama ya GPT-4 Omni, kuonyesha kwamba ujumlisho wa makini wa miundo mbalimbali na ya bei nafuu inaweza kushinda mfumo mmoja wa mipaka.

Utekelezaji wa Ulimwengu Halisi

Inachanganya miundo mitatu tofauti ya gumzo la wazi kama wapendekezaji, kisha kutumia kikokoteni thabiti kutoa jibu moja lililoboreshwa la usaidizi kwa mteja.

Kukuza alama za kufuata maagizo kwenye alama za mtindo wa AlpacaEval kwa kutumia miundo ya chanzo huria pekee.

Kuchanganya mapendekezo mbalimbali ya misimbo kutoka kwa miundo kadhaa hadi katika utekelezaji mmoja, thabiti zaidi wa utendaji kazi.

Kuendesha bomba la uzani wazi ambalo linakaribia ubora wa mipaka kwa uwekaji nyeti wa faragha ambapo data haiwezi kuondoka kwenye seva za kampuni.

Mustakabali wa Ujumlisho wa Mchanganyiko-wa-Mawakala

Tarajia ujumlishaji wa mtindo wa MoA kuenea kadri makisio yanavyopungua na mifumo ya uimbaji kukomaa. Maelekezo ya utafiti yanajumuisha kujifunza ni wapendekezaji wapi wategemee kwa kila hoja (kuelekeza), kupunguza adhabu ya kusubiri muda kwa kuendesha wapendekezaji sambamba na kupogoa walio dhaifu mapema, na kuchanganya MoA na mawakala wanaotumia zana ili kikusanya kukusanya si tu maandishi bali vitendo na ushahidi uliopatikana. Miundo iliyo wazi inapoongezeka, kuziunganisha kwa akili kunakuwa njia inayozidi kutumika ya ubora wa kiwango cha mpaka bila modeli moja kubwa.

Kuiweka katika vitendo

Kwa nini ni muhimu

  • Kasi na kiwango. Mitiririko ya kazi ya lugha inaweza kusonga kwa kasi zaidi bila kuacha uthabiti.
  • Kufikia na kufikia. Inapanua ufikiaji katika lugha na mitindo ya mawasiliano.
  • Maamuzi ya wazi zaidi. Timu zinaweza kutumia muda mwingi kufanya uamuzi huku otomatiki ikishughulikia marudio.

Jihadharini na

  • Mambo ya ukweli yanaweza kuingiza ripoti kwa utulivu, mitiririko ya usaidizi, au matokeo ya utafiti.
  • Usikivu wa haraka unaweza kuunda matokeo yasiyolingana katika maombi sawa.
  • Data nyeti ya maandishi inaweza kufichuliwa ikiwa vidhibiti vya ufikiaji ni dhaifu.

Hatua zinazofuata

  1. Bainisha umbizo la towe, toni na viwango vya ubora kabla ya kusambaza.
  2. Majibu ya msingi na vyanzo vinavyoaminika wakati wowote usahihi ni muhimu.
  3. Weka ukaguzi wa ukaguzi wa kibinadamu kwa matokeo ya juu.
  4. Fuatilia mifumo ya kushindwa na fundisha tena vidokezo au mtiririko wa kazi mara kwa mara.

Endelea Kuchunguza

Jarida halali

Pata taarifa ya kila siku ya AI

Hadithi tatu za AI zilizothibitishwa kila asubuhi ya wiki, zimetengenezwa kwa Kiingereza rahisi. Bila malipo daima, hakuna matangazo.

Barua pepe moja kila siku ya wiki. Jiondoe kwa bonyeza moja. Hatutauza au kushiriki anwani yako.

Jijaribu mwenyewe

Take the Mixture-of-Agents Aggregation quiz

Maoni ya haraka juu ya kila jibu, na cheti kinachoweza kushirikishwa na kitambulisho kinachoweza kuthibitishwa baada ya kupita kozi.

Anza chemsha bongo

Changia elimu ya AI bila malipo. AI Understanding ni 501(c)(3) isiyo na faida — hakuna matangazo, hakuna kizuizi cha malipo, daima. Toa mchango

Maswali yanayoulizwa mara kwa mara

What is Mixture-of-Agents Aggregation?

Mchanganyiko-wa-Mawakala (MoA) ni mbinu ambapo modeli kadhaa za lugha hutayarisha majibu na kisha kielelezo cha kijumlishi huunganisha mawazo yao bora katika jibu moja lililoboreshwa. Huruhusu timu ya wanamitindo walio wazi kushindana au kushinda muundo mmoja wa kiwango cha juu.

Katika Mchanganyiko-wa-Mawakala, ni nini jukumu la kielelezo cha mkusanyiko?

Kijumlishi husoma majibu yote ya mtahiniwa na kutoa jibu moja lililounganishwa, la ubora wa juu.

Je, karatasi ya MoA inategemea mali gani muhimu ya LLMs?

Waandishi wanaona kuwa modeli huboresha majibu yao wakati zimewekwa kwenye rasimu za mifano mingine, hata isiyo kamili.

Je, MoA inatofautiana vipi na upigaji kura wa walio wengi?

Tofauti na upigaji kura, MoA haichagui jibu moja lililopo tu; hutoa jibu jipya linalowachanganya watahiniwa.

Kwa nini tofauti kati ya mifano ya wapendekezaji ni muhimu katika MoA?

Wapendekezaji mbalimbali hufunika msingi zaidi, na kumpa kikusanya mkusanyiko seti tajiri ya mawazo ya kuunganisha na makosa kuchuja.

Je, gharama kuu ya vitendo ya mbinu ya MoA ni ipi?

Kila safu huongeza simu zaidi za LLM, kwa hivyo MoA hubadilisha hesabu ya ziada na wakati ili kuboresha ubora wa majibu.