Ntuziaka AI asụsụ

Nucleus na Top-k Sampling

Nucleus (top-p) na top-k sampling bụ ụzọ ngbanwe nke na-agbakwunye enweghị usoro a na-achịkwa na ọgbọ ederede site na ịmachi akara nke enwere ike ịhọrọ.

Nchịkọta

Nucleus (top-p) na top-k sampling bụ ụzọ ngbanwe nke na-agbakwunye enweghị usoro a na-achịkwa na ọgbọ ederede site na ịmachi akara nke enwere ike ịhọrọ. Ha dị mkpa n'ihi na ha na-eme ka ide AI nwee mmetụta nke okike ma dị iche iche kama ịmegharị ma ọ bụ roboti.

Nucleus na Top-k Sampling bụ akụkụ nke nchịkọta asụsụ-AI a na-eji agụ, mepụta, nhazi, na gbanwee ederede na okwu n'ọ̀tụ̀tụ̀.

Ime miri emi

Ụdị asụsụ na-ewepụta nkesa ihe gbasara nke puru omume n'okwu ya dum n'usoro ọ bụla. Nlele anya ozugbo site na ya nwere ike nweta akara ngosi dị egwu, nke nwere ike ịdị ala; mgbe niile na-ewere top token (anyaukwu) na-amịpụta dull, ugboro ugboro loops. Top-k sampling na-edozi nke a site n'idebe naanị akara puru omume k (sị k=40), imezigharị, na nlele n'etiti ha. Nucleus sampling, nke Holtzman et al webatara. na 2019, kama na-edobe akara ngosi kacha nta nke ikike mkpokọta ha karịrị p (dịka ọmụmaatụ, 0.9) - 'nucleus'. Isi uru bụ na ntọala a na-ebelata mgbe ihe nlereanya nwere ntụkwasị obi ma gbasaa mgbe ọ na-ejighị n'aka, na-emegharị n'ike. A na-ejikọta ha abụọ na oke okpomọkụ nke na-amụba ma ọ bụ gbasaa nkesa tupu ịlele.

Nghọta nka nka

Ọdịiche dị oke mkpa bụ nke edobere na mbelata ngbanwe. Top-k na-edobe akara ngosi k, nke nwere ike ịdị ole na ole mgbe ọtụtụ nhọrọ nwere ezi uche, ma ọ bụ gụnyere junk mgbe naanị di na nwunye nwere ezi uche. Top-p na-edobe ọnụọgụ ọnụọgụ - naanị akara zuru oke iji kpuchie oke nke puru omume p - yabụ ọ na-akụda ọdụ ogologo a na-apụghị ịdabere na ya ma na-akwanyere etu nkesa ahụ si gbakọọ ma ọ bụ kwụ ọtọ. Okpomọkụ (nke na-abụkarị 0.7-1.0) na-eweghachite logits tupu usoro ọ bụla: ụkpụrụ dị ala na-etinye uche na puru omume, ụkpụrụ dị elu na-agbasa ya.

Ịmụta Nucleus na Top-k Sampling

Nucleus (top-p) na top-k sampling bụ ụzọ ngbanwe nke na-agbakwunye enweghị usoro a na-achịkwa na ọgbọ ederede site na ịmachi akara nke enwere ike ịhọrọ. Ha dị mkpa n'ihi na ha na-eme ka ide AI nwee mmetụta nke okike ma dị iche iche kama ịmegharị ma ọ bụ roboti. Nucleus na Top-k Sampling bụ akụkụ nke nchịkọta asụsụ-AI a na-eji agụ, mepụta, nhazi, na gbanwee ederede na okwu n'ọ̀tụ̀tụ̀. Iji wuo nghọta miri emi, na-emeso Nucleus na Top-k Sampling dị ka ihe nlereanya na-arụ ọrụ, ọ bụghị otu njirimara: kọwaa ihe ndị a chọrọ, dokwuo anya echiche, ma kewaa ihe usoro ahụ nwere ike ime nke ọma na ihe ka na-achọ mkpebi ndị ọkachamara.

Na omume, otu ndị siri ike na-eji Nucleus na Top-k Sampling imewe na-akpali, iweghachite, na nyochaa loops dị ka otu usoro nkwurịta okwu agbakwunyere. Ha na-edepụta njirisi ịga nke ọma nke ọma, nwalee megide data ziri ezi yana usoro ọrụ, yana na-atụgharị dabere na usoro ọdịda ahụrụ karịa karịa mmeri otu oge. Nke a bụ ebe nghọta usoro ihe atụ na-atụgharị ghọọ ike na-adịgide adịgide n'ofe ngwaahịa, amụma na arụmọrụ.

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike. N'otu oge ahụ, eziokwu ndị nwere mgbagwoju anya nwere ike tinye nwayọ nwayọ tinye akụkọ, ntinye nkwado, ma ọ bụ nsonaazụ nyocha. Ụzọ kachasị na-agbanwe agbanwe bụ ijikọ ọsọ nnwale na ịdọ aka ná ntị ọchịchị: ndị na-anya ụgbọ elu, ijide ihe akaebe, bipụta ndekọ mkpebi, na na-aga n'ihu na-emelite nchekwa dị ka omume nlereanya, atụmanya ndị ọrụ, na ihe iwu chọrọ.

Mmetụta atụmatụ

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike.

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi.

Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi.

Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ọdịnihu nke Nucleus na Top-k Sampling

Nchọpụta nke dabere na nlele ugbu a bụ ihe ndabara maka nkata na ngwaọrụ okike, nyocha na-aga n'ihu na-emezigharị ya: ụzọ dị ka nlele ụdị, min-p, na eta/epsilon sampling ebumnuche iji mezie ọdụ ọdụ ahụ nke ọma karịa p ma ọ bụ k. Na-atụ anya ngbanwe ngbanwe ka ọ bụrụ ịmatakwu ihe ndị gbara ya gburugburu na ọbụna mụta, na-akpachi anya na-akpaghị aka maka azịza eziokwu yana ịtọghe maka ịtụgharị uche. Ka ụdịdị na-akawanye mma, njikwa nleba anya nke ọma ka dị mkpa maka ịhazi ntụkwasị obi, ụdị dị iche iche, na ibelata ihe nhụsianya.

Mmejuputa n'ezie n'ụwa

Chatbots na-eji top-p gburugburu 0.9 iji nọgide na-aza azịza dị iche iche ma na-adakọ ọnụ na mkparịta ụka.

Ndị na-enyere aka ide ihe okike na-ebuli okpomọkụ na p iji chepụta echiche akụkọ dị iche iche

Ngwa-ọgbọ koodu na-eweda ọnọdụ okpomọkụ yana k maka mkpebi siri ike karị, snippets ziri ezi

Ndị ọrụ API na-emegharị top_p na top_k paramita iji jikwaa ka mpụta ihe nlereanya si dị egwu

Usoro mmejuputa

Nucleus na Top-k Sampling na omume

Chatbots na-eji top-p gburugburu 0.9 iji dobe nzaghachi dị iche iche ma na-adakọ ọnụ na mkparịta ụka.

Ndị na-akparịta ụka na-eji top-p gburugburu 0.9 iji nọgide na-aza ajụjụ dịgasị iche iche ma na-agbanwe agbanwe na mkparịta ụka Otu na-enwetakarị nsonaazụ kacha mma ma ọ bụrụ na ha akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka ikpe ikpe, ma soro ma uru mmepụta yana ụgwọ njehie n'ime oge.

Nucleus na Top-k Sampling na omume

Ndị na-enyere aka ide ihe okike na-ebuli okpomọkụ na p iji chepụta echiche akụkọ dị iche iche.

Ndị na-enyere aka ịde ihe okike na-ebuli okpomọkụ na p iji chepụta echiche akụkọ dị iche iche Otu dị iche iche na-enweta nsonaazụ kacha mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka ikpe ikpe, ma soro ma uru nrụpụta na ụgwọ njehie na oge.

Nucleus na Top-k Sampling na omume

Ngwa-ọgbọ koodu na-eweda ọnọdụ okpomọkụ yana k maka mkpebi siri ike karị, snippets ziri ezi.

Usoro-ọgbọ ngwaọrụ eweda okpomọkụ na k maka ndị ọzọ deterministic, ziri ezi snippets Otu na-emekarị na-enweta mma pụta mgbe ha na-akọwa àgwà ọnụ ụzọ n'ihu, na-na mmadụ escalation ụzọ maka onu ikpe, na soro ma arụpụtaghị uru na njehie na-eri na oge.

Nucleus na Top-k Sampling na omume

Ndị ọrụ API na-emegharị top_p na top_k paramita iji jikwaa ka mpụta ihe nlereanya si dị egwu.

Ndị ọrụ API na-ege ntị top_p na top_k paramita iji chịkwaa ka mpụta ihe nlereanya si dị egwu Otu dị iche iche na-enweta nsonaazụ kacha mma mgbe ha kọwapụta ọnụ ụzọ dị mma n'ihu, na-edobe ụzọ ịrị elu mmadụ maka ikpe ọnụ, ma soro ma uru nrụpụta yana ụgwọ njehie ka oge na-aga.

Ihe ize ndụ & okporo ụzọ nche

!

Eziokwu ndị e chepụtara echepụta nwere ike jiri nwayọ tinye akụkọ, nkwado nkwado, ma ọ bụ nsonaazụ nyocha.

!

Mmetụta ngwa ngwa nwere ike ịmepụta nsonaazụ na-ekwekọghị ekwekọ n'ofe arịrịọ ndị yiri ya.

!

Enwere ike ikpughe data ederede nwere mmetụta ma ọ bụrụ na njikwa ohere adịghị ike.

Map mmejuputa

1

Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị.

Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

2

Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa.

Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

3

Debe ebe nleba anya mmadụ maka mpụta dị elu.

Debe ebe nleba anya mmadụ maka mpụta dị elu. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

4

Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile.

Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

Nọgide na-eme nchọpụta