Ntuziaka AI asụsụ

GloVe Global Vectors

GloVe (Global Vectors for Word Representation) bụ usoro ntinye Stanford nke 2014 nke na-amụta vectors okwu ozugbo site na ọnụ ọgụgụ na-emekọ ọnụ zuru ụwa ọnụ n'ofe corpus dum, kama site na windo amụma mpaghara.

Nchịkọta

GloVe (Global Vectors for Word Representation) bụ usoro ntinye Stanford nke 2014 nke na-amụta vectors okwu ozugbo site na ọnụ ọgụgụ na-emekọ ọnụ zuru ụwa ọnụ n'ofe corpus dum, kama site na windo amụma mpaghara. Ọ na-ejikọta ike ọnụ ọgụgụ nke ụzọ dabere na ọnụ ọgụgụ na geometry vector bara uru nke Word2Vec.

GloVe Global Vectors bụ akụkụ nke nchịkọta asụsụ-AI a na-eji agụ, mepụta, nhazi, na gbanwee ederede na okwu n'ọ̀tụ̀tụ̀.

Ime miri emi

GloVe, nke Jeffrey Pennington, Richard Socher, na Christopher Manning mepụtara na Stanford na 2014, na-ewulite nnukwu matrix na-agụta ugboro ole okwu ọ bụla na-emekọ ọnụ na okwu ọ bụla ọzọ n'ime windo gburugburu n'ofe akụkụ ahụ dum. Nghọta ya bụ isi bụ na oke nke ihe gbasara omume na-emekọ ihe, ọ bụghị ọnụ ọgụgụ raw, na-ebu ihe ọ pụtara: maka okwu "ice" na "steam," oke P ( siri ike | ice) / P ( siri ike | uzuoku ) buru ibu, ebe P (gas |...) na-atụgharị ya. GloVe na-azụ vectors ka ntụpọ ntụpọ nke okwu abụọ vector dị ka logarithm nke ọnụ ọgụgụ ha na-emekọ ọnụ. Nsonaazụ bụ ntinye na-ejide ma ndekọ ọnụ ọgụgụ corpus zuru ụwa ọnụ yana usoro ntụnyere ahịrị nke Word2Vec mere ka ama ama, na-emekarị asọmpi na myiri okwu yana akara ntule.

Nghọta nka nka

GloVe na-ebelata mfu obere-squares dị arọ ebe nke ọ bụla (okwu i, okwu j) ụzọ abụọ na-enye f(X_ij) ugboro mperi squared n'etiti (vector_i · vector_j + biases) na log(X_ij). Ọrụ ịdị arọ f na-egbochi mmetụta nke ụzọ abụọ na-adịkarịkarị dị ka "nke" na "nke" ma na-eleghara ọnụ ọgụgụ efu anya, ya mere, ihe omume na-adịghị ahụkebe ma na-enye ihe ọmụma anaghị ekpochapụ mmiri. N'ihi na ọ na-emepụta matriks agụọbu agbakọọ, ọzụzụ bụ n'ezie matriks factorization kama ibu amụma n'ịntanetị.

Mastering GloVe Global Vectors

GloVe (Global Vectors for Word Representation) bụ usoro ntinye Stanford nke 2014 nke na-amụta vectors okwu ozugbo site na ọnụ ọgụgụ na-emekọ ọnụ zuru ụwa ọnụ n'ofe corpus dum, kama site na windo amụma mpaghara. Ọ na-ejikọta ike ọnụ ọgụgụ nke ụzọ dabere na ọnụ ọgụgụ na geometry vector bara uru nke Word2Vec. GloVe Global Vectors bụ akụkụ nke nchịkọta asụsụ-AI a na-eji agụ, mepụta, nhazi, na gbanwee ederede na okwu n'ọ̀tụ̀tụ̀. Iji wulite nghọta miri emi, mesoo GloVe Global Vectors dị ka ihe nlere anya na-arụ ọrụ, ọ bụghị otu njirimara: kọwapụta nsonaazụ achọrọ, dokwuo anya echiche, kewaa ihe sistemụ ahụ nwere ike ime nke ọma na ihe ka chọrọ mkpebi ndị ọkachamara.

Na omume, otu ndị siri ike na-eji GloVe Global Vectors chepụta mkpali, iweghachi, na nyocha loops dị ka otu usoro nkwurịta okwu agbakwunyere. Ha na-edepụta njirisi ịga nke ọma nke ọma, nwalee megide data ziri ezi yana usoro ọrụ, yana na-atụgharị dabere na usoro ọdịda ahụrụ karịa karịa mmeri otu oge. Nke a bụ ebe nghọta usoro ihe atụ na-atụgharị ghọọ ike na-adịgide adịgide n'ofe ngwaahịa, amụma na arụmọrụ.

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike. N'otu oge ahụ, eziokwu ndị nwere mgbagwoju anya nwere ike tinye nwayọ nwayọ tinye akụkọ, ntinye nkwado, ma ọ bụ nsonaazụ nyocha. Ụzọ kachasị na-agbanwe agbanwe bụ ijikọ ọsọ nnwale na ịdọ aka ná ntị ọchịchị: ndị na-anya ụgbọ elu, ijide ihe akaebe, bipụta ndekọ mkpebi, na na-aga n'ihu na-emelite nchekwa dị ka omume nlereanya, atụmanya ndị ọrụ, na ihe iwu chọrọ.

Mmetụta atụmatụ

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike.

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi.

Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi.

Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ọdịnihu nke GloVe Global Vectors

Dị ka Word2Vec, GloVe na-emepụta vectors na-enweghị ihe ọ bụla ma ọ bụrụ na etinyere ihe ngbanwe ọnọdụ maka ọrụ ọgbara ọhụrụ. Stanford's pretrained GloVe vector (nke a zụrụ na Wikipedia, Gigaword, na Crawl A na-ahụkarị) ka na-anọgide na-abụ usoro ebudatara n'ọtụtụ ebe maka nyocha, ihe nleba anya, na ngwa nwere ikike. Ntụnye echiche ya, na-egosi na ọnụ ọgụgụ zuru ụwa ọnụ na ụzọ ndị dabere na amụma nwere njikọ chiri anya, na-aga n'ihu na-akọwa otú ndị nchọpụta si eche echiche banyere ihe ntinye n'ezie na-amụta.

Mmejuputa n'ezie n'ụwa

Vectors a zụrụ azụ nke Stanford (dịka 6B na 840B token set) ejiri dị ka njirimara ntinye maka ọrụ NLP na-enweghị atụ.

Na-eje ozi dị ka oyi akwa na-etinye n'ime klaasị mmetụta na sistemụ njirimara aha

Benchmarking myiri okwu na ọrụ ntụnyere Word2Vec na nyocha agụmakwụkwọ

Nchịkọta akwụkwọ na nyocha isiokwu ebe ntinye ngwa ngwa, nke a zụrụ azụ, ntinye na-enweghị ọnọdụ zuru ezu.

Usoro mmejuputa

GloVe Global Vectors na omume

Stanford's budata vector pretrained (dịka 6B na 840B token sets) ejiri dị ka njirimara ntinye maka ọrụ NLP na-enweghị atụ.

Stanford's downloadable pretrained vectors (dịka 6B na 840B token sets) ejiri dị ka njirimara ntinye maka ọtụtụ ọrụ NLP Otu na-enwetakwa nsonaazụ kacha mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, debe ụzọ mmụba mmadụ maka ikpe ọnụ, ma soro ma uru nrụpụta yana ụgwọ njehie na oge.

GloVe Global Vectors na omume

Na-eje ozi dị ka oyi akwa na-etinye n'ime klaasị mmetụta na sistemụ njirimara aha.

Ije ozi dị ka oyi akwa agbakwunyere na ngalaba mmetụta mmetụta na sistemụ njirimara aha aha Otu dị iche iche na-enweta nsonaazụ kacha mma mgbe ha kọwapụtara ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka oke ikpe, ma soro ma uru nrụpụta yana ụgwọ njehie n'ime oge.

GloVe Global Vectors na omume

Benchmarking myiri okwu na ọrụ ntụnyere Word2Vec na nyocha agụmakwụkwọ.

Benchmarking okwu-yiri na ọrụ ntụnyere n'akụkụ Word2Vec na nyocha agụmakwụkwọ Otu dị iche iche na-enweta nsonaazụ kacha mma mgbe ha kọwapụtara ọnụ ụzọ dị mma n'ihu, debe ụzọ nkwalite mmadụ maka ikpe ọnụ, wee soro ma uru nrụpụta yana ụgwọ njehie n'ime oge.

GloVe Global Vectors na omume

Nchịkọta akwụkwọ na nyocha isiokwu ebe ntinye ngwa ngwa, nke a zụrụ azụ, ntinye na-enweghị ihe ọ bụla zuru oke.

Nchịkọta akwụkwọ nchịkọta na nyocha isiokwu ebe ngwa ngwa, nke a zụrụ azụ, ntinye na-enweghị ihe ọ bụla na-ezuru otu ìgwè na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-edebe ụzọ ịrị elu mmadụ maka ikpe ikpe, ma soro ma uru mmepụta na ụgwọ njehie na oge.

Ihe ize ndụ & okporo ụzọ nche

!

Eziokwu ndị e chepụtara echepụta nwere ike jiri nwayọ tinye akụkọ, nkwado nkwado, ma ọ bụ nsonaazụ nyocha.

!

Mmetụta ngwa ngwa nwere ike ịmepụta nsonaazụ na-ekwekọghị ekwekọ n'ofe arịrịọ ndị yiri ya.

!

Enwere ike ikpughe data ederede nwere mmetụta ma ọ bụrụ na njikwa ohere adịghị ike.

Map mmejuputa

1

Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị.

Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

2

Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa.

Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

3

Debe ebe nleba anya mmadụ maka mpụta dị elu.

Debe ebe nleba anya mmadụ maka mpụta dị elu. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

4

Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile.

Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

Nọgide na-eme nchọpụta