Heerkulka iyo Muunada
Heerkulka iyo muunadaynta ayaa ah garaacyada xakameynaya sida 'random' ama 'ammaan' ee erey bixinta qaabka luqadda uu yahay.
Dulmar
They decide whether you get the same predictable answer every time or fresh, varied phrasing.
quusid qoto dheer
Tallaabo kasta, qaabka luqaddu si toos ah uma soo saarayo kelmad - waxay soo saartaa dhibco ('logit') calaamad kasta oo erayadeeda ah, taas oo softmax u beddesho qaybinta suurtogalka ah. Muunad-qaadiddu waa sida calaamadda xigta looga xusho qaybintaas. Heerkulka ayaa dib u qaabeeya qaybinta ka hor inta aan la dooran: heerkulka hooseeya ayaa ka dhigaya doorashooyinka ugu sarreeya, sidaas darteed wax soo saarka ayaa diiradda saaraya oo lagu celin karaa; Heerkulka sare ayaa simay, taas oo u oggolaanaysa calaamado aan suurtagal ahayn inay simbiriirixan u galaan noocyo badan (iyo khaladaad badan). Laba filtarrada caanka ah ayaa marka hore cidhiidhiya barkadda. Top-k waxa ay ilaalisaa oo kaliya calaamadaha ixtimaalka ugu sareeya. Samaynta sare-p, ama nukleus sampling, waxa ay haysaa calaamada ugu yar ee ixtimaalkahoodu ay ku daraan p (dheh 0.9), markaa barkadu way koraan marka moodelku aanu hubin wuuna yaraadaa marka ay isku kalsoon tahay. Si wada jir ah goobahan ayaa ka dhigaya isku halaynta lidka ku ah hal-abuurka.
Aragtida Farsamada
Heerkulka wuxuu u shaqeeyaa isagoo u qaybinaya logit kasta T ka hor softmax: itimaalka wuxuu u dhigmaa exp(logit / T). T ka hooseeya 1 waxay soo saartaa godadka si ay calaamadda sare u xukunto; T ee ka sarreeya 1 waxay yaraynaysaa nusqaamaha waxayna fidisaa qaybinta. Marka uu T u dhaw yahay 0 qaabku waxa uu noqonayaa hunguri wax ku ool ah, isaga oo had iyo jeer qaata calaamadda ugu macquulsan. Top-k waxay u xirtaa musharraxa tiro go'an, halka top-p ay dejiso isugeynta-ixtimaalka goynta, sidaa darteed tirinta musharraxa waxay la qabsanaysaa sida uu ugu kalsoon yahay moodalku tallaabadaas.
Saamaynta Istiraatijiyadeed
Xawaaraha iyo miisaanka
Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta.
Helitaanka iyo gaarsiinta
Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta.
Go'aamo cad
Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta.
Mustaqbalka Heerkulka iyo Saamaynta
Koontarooladani waa kuwo xasiloon oo si fiican loo fahmay, markaa ficilku waxa uu ku jiraa khaladaad ka caqli badan iyo noocyo cusub. Filo qorshayaal badan oo la qabsiga sida min-p (kaas oo cabbiraya goynta ilaa heerka sare ee suurtogalnimada) iyo heerkulka firfircoon ee isbeddelaya jiilka dhexe. Qalabaynta ayaa si isa soo taraysa si toos ah u dooran doonta hawl kasta -ku hooseeya koodka iyo soo saarista, ka sarreeya maskax-dhisidda - si aanay isticmaalayaashu gacanta ugu hagaajin. Fikradda udub-dhexaadka ah waa ay sii jirtaa: muunad qaadistu waa furaha fudud, xoogga badan ee u dhexeeya saxnaanta go'aaminta iyo kala duwanaanta hal-abuurka.
Dhaqangelinta Adduunka-dhabta ah
Dejinta heerkulka u dhow 0 jiilka koodka ama soo saarista xogta, halkaas oo aad rabto isla jawaabta saxda ah mar kasta
Kor u qaadida heerkulka ilaa 0.8-1.0 si loo abuuro magacyo, halkudhigyo, ama fikrado sheeko si loo helo doorashooyin kala duwan
Isticmaalka top-p agagaarka 0.9 si moodelku muunad ka soo qaado keladaha ugu macquulsan oo keliya kana fogeeyo calaamado yaab leh
Codsashada top-k ee musharraxiinta iyo ka hortagga erayada dhif iyo naadir ah, ee mawduuca ka baxsan inay ka soo muuqdaan jawaabta macaamiisha
Khatarta & Dariiqyada Ilaalada
Xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, taageerada socodka, ama natiijooyinka cilmi-baarista.
Dareenka degdega ahi wuxuu abuuri karaa natiijooyin aan iswaafaqayn codsiyada la midka ah.
Xogta qoraalka xasaasiga ah ayaa laga yaabaa in la kashifo haddii kontaroolada gelitaanka ay daciif yihiin.
Qorshe Hawleedka Dhaqangelinta
Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin.
Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay.
Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare.
Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah.
Sii wad Sahaminta
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Temperature and Sampling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hagaha xiga
Nukliyeerka iyo Muunada Top-k
Su'aalaha soo noqnoqda
What is Temperature and Sampling?
Heerkulka iyo muunadaynta ayaa ah garaacyada xakameynaya sida 'random' ama 'ammaan' ee erey bixinta qaabka luqadda uu yahay. Waxay go'aansadaan haddii aad hesho jawaab la saadaalin karo mar kasta ama mid cusub, jumlado kala duwan.
Muxuu kor u qaadida heerkulka ka qabtaa wax soo saarka moodeelka?
Heerkulka sare waxa uu balaadhiyaa qaybinta ixtimaalka, sidaa awgeed calaamado aad u yar ayaa la soo qaadaa marar badan, taas oo soo saarta wax soo saar kala duwan (iyo khatar badan).
Sidee buu shaybaarka top-p (nucleus) uga duwan yahay sambalda top-k?
Top-p waxay la qabsataa musharraxa ay dejisay itimaalka isugaynta, halka top-k ay had iyo jeer hayso tiro go'an oo calaamado sare ah.
Makaan ahaan, muxuu heerkulku runtii ku sameeyaa saadka?
Heerkulka wuxuu u qaybiyaa logit kasta T ka hor softmax; T ka hooseeya 1 waxay soo saartaa qaybinta, T ka sarreeya 1 wuu sii fidiyaa.
Soo saarista koodka ama soo saarida xogta habaysan, goobtee ayaa inta badan ugu fiican?
Hawlaha u baahan saxnaanta iyo ku celcelinta waxay isticmaalaan heerkul aad u hooseeya sidaa darteed moodalku wuxuu si kalsooni leh u dooranayaa calaamadaha saxda ah ee ugu macquulsan.
Maxaa ku dhacaya heerkul si wax ku ool ah 0?
Heerkulka eber u dhow, qaybintu aad bay u fiiqan tahay in calaamadda ixtimaalka ugu sarreeya had iyo jeer la doorto - dejinta hunguriga.