Ntuziaka AI asụsụ

Ngwa ngwa ngwa ngwa ngwa mgbakwunye

FastText bụ usoro 2016 Facebook AI nke na-anọchi anya okwu ọ bụla dị ka akpa nke agwa n-gram, ya mere ọ nwere ike wulite vectors ọbụna maka okwu ọ na-ahụtụbeghị n'oge ọzụzụ.

Nchịkọta

FastText bụ usoro 2016 Facebook AI nke na-anọchi anya okwu ọ bụla dị ka akpa nke agwa n-gram, ya mere ọ nwere ike wulite vectors ọbụna maka okwu ọ na-ahụtụbeghị n'oge ọzụzụ. Ụzọ obere okwu a kacha mma n'asụsụ bara ụba nke ọdịdị ọdịdị, typos, na okwu ndị na-adịghị ahụkebe ebe Word2Vec na GloVe dara.

Ngwa ngwa ngwa ngwa ngwa ngwa mgbakwunye bụ akụkụ nke asụsụ-AI tojupụtara eji agụ, mepụta, nhazi, ma gbanwee ederede na okwu n'ọ̀tụ̀tụ̀.

Ime miri emi

FastText, nke Facebook AI Research (Bojanowski, Grave, Joulin, Mikolov) mepụtara na 2016, na-agbatị ihe nlereanya Skip-Gram site n'imebi okwu ọ bụla n'ime n-gram agwa. Okwu "ebe" nwere n-gram nke ogologo 3 na-aghọ <wh, wh, her, ere, re> gbakwunyere akara okwu zuru oke, ebe akara nkuku na-aka akara oke okwu. Vector nke okwu bụ nchikota vector n-gram ya. Nke a pụtara FastText nwere ike ịdepụta vector maka okwu na-apụ apụ dị ka "enweghị ike ikweta" site na mkpụrụ okwu subword a ma ama, ọ na-ejidekwa morphology na-ekerịta, ya mere "na-agba ọsọ," "onye na-agba ọsọ," na "na-agba ọsọ" na-ejikọta ya. Otu oru ngo a na-ebufekwa ngwa ngwa nkesa ederede linear ziri ezi (ụdị "fastText" a na-elekọta) ejiri maka ọrụ dị ka njirimara asụsụ na mkpado n'ogo buru ibu.

Nghọta nka nka

A na-awụnye n-gram agwa ọ bụla n'ime tebụl ịwụ nwere oke ma kenye vector nke ya; Nnọchite anya okwu bụ nchikota nke ihe mejupụtara ya n-gram vectors, zụrụ ya n'otu ebumnobi Skip-gram na-adịghị mma dịka Word2Vec. Nkesa nke mkpụrụokwu subword n'ofe okwu bụ ihe kpatara morphology na-ebufe yana ihe kpatara na okwu ndị a na-adịghị ahụ anya ka ji bụrụ ihe ezi uche dị na ya. Nkewa nke a na-elekọta na-eji ụdị akpa-nke njirimara nwere softmax hierarchical, na-eme ya ngwa ngwa na CPUs.

Ịkwado Mgbakwunye Subword FastText

FastText bụ usoro 2016 Facebook AI nke na-anọchi anya okwu ọ bụla dị ka akpa nke agwa n-gram, ya mere ọ nwere ike wulite vectors ọbụna maka okwu ọ na-ahụtụbeghị n'oge ọzụzụ. Ụzọ obere okwu a kacha mma n'asụsụ bara ụba nke ọdịdị ọdịdị, typos, na okwu ndị na-adịghị ahụkebe ebe Word2Vec na GloVe dara. Ngwa ngwa ngwa ngwa ngwa ngwa mgbakwunye bụ akụkụ nke asụsụ-AI tojupụtara eji agụ, mepụta, nhazi, ma gbanwee ederede na okwu n'ọ̀tụ̀tụ̀. Iji wuo nghọta miri emi, na-emeso FastText Subword Embeddings dị ka ihe nlereanya na-arụ ọrụ, ọ bụghị otu njirimara: kọwaa nsonaazụ achọrọ, dokwuo anya echiche, ma kewaa ihe sistemụ nwere ike ime nke ọma na ihe ka na-achọ mkpebi ndị ọkachamara.

Na omume, ndị otu siri ike na-eji FastText Subword Embeddings chepụta mkpali, iweghachite, na nyocha loops dị ka otu usoro nkwurịta okwu agbakwunyere. Ha na-edepụta njirisi ịga nke ọma nke ọma, nwalee megide data ziri ezi yana usoro ọrụ, yana na-atụgharị dabere na usoro ọdịda ahụrụ karịa karịa mmeri otu oge. Nke a bụ ebe nghọta usoro ihe atụ na-atụgharị ghọọ ike na-adịgide adịgide n'ofe ngwaahịa, amụma na arụmọrụ.

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike. N'otu oge ahụ, eziokwu ndị nwere mgbagwoju anya nwere ike tinye nwayọ nwayọ tinye akụkọ, ntinye nkwado, ma ọ bụ nsonaazụ nyocha. Ụzọ kachasị na-agbanwe agbanwe bụ ijikọ ọsọ nnwale na ịdọ aka ná ntị ọchịchị: ndị na-anya ụgbọ elu, ijide ihe akaebe, bipụta ndekọ mkpebi, na na-aga n'ihu na-emelite nchekwa dị ka omume nlereanya, atụmanya ndị ọrụ, na ihe iwu chọrọ.

Mmetụta atụmatụ

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike.

Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi.

Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi.

Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.

Ọdịnihu nke ntinye okwu Subword FastText

Echiche subword FastText gosipụtara na ntọala: ndị na-agbanwe ọgbara ọhụrụ na-eji usoro ndị metụtara ya dị ka Byte-Pair Encoding na WordPiece tokenization iji jikwaa ntinye ọ bụla na-enweghị okwu edobere. Facebook weputara vector FastText a zụrụ azụ maka asụsụ 157, na-edobe ya ka ọ bụrụ ntọala maka asụsụ ọtụtụ asụsụ na NLP dị ala ebe nnukwu ụdị na-agaghị ekwe omume. Dị ka obere na ngwaọrụ na ihu ụdị na-enweta mkpa, FastText obere akara ukwu na ọsọ CPU na-eme ka ọ dị mkpa maka nhazi ederede mmepụta.

Mmejuputa n'ezie n'ụwa

Na-emepụta vectors maka mkpụrụokwu ndị ezighi ezi ma ọ bụ nke a na-ahụtụbeghị mbụ dị ka "ezigbo" ma ọ bụ aha ngwaahịa ọhụrụ

Vectors a zụrụ azụ nke Facebook mepere asụsụ 157 maka ọchụchọ na mkpado ọtụtụ asụsụ.

Nchọpụta asụsụ dị elu yana nhazi spam/isiokwu na CPU na-enweghị GPU

Ijikwa asụsụ bara ọgaranya dị ka Finnish ma ọ bụ Turkish ebe okwu nwere ọtụtụ ụdị

Usoro mmejuputa

Ngwa ngwa ngwa ngwa ngwa agbakwunyere na omume

Na-emepụta vectors maka mkpụrụokwu ezighi ezi ma ọ bụ nke a na-ahụtụbeghị mbụ dị ka "ezigbo" ma ọ bụ aha ngwaahịa ọhụrụ.

Ịmepụta vectors maka okwu ndị a ezighi ezi ma ọ bụ nke a na-ahụtụbeghị mbụ dị ka "ezigbo" ma ọ bụ aha ngwaahịa ọhụrụ Otu dị iche iche na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka ikpe ikpe, ma soro ma uru nrụpụta na ụgwọ njehie na oge.

Ngwa ngwa ngwa ngwa ngwa agbakwunyere na omume

Vectors mepere emepe nke Facebook na-ekpuchi asụsụ 157 maka ọchụchọ na mkpado ọtụtụ asụsụ.

Vectors mepere emepe nke Facebook na-ekpuchi asụsụ 157 maka ịchọ asụsụ ọtụtụ asụsụ na mkpado Otu dị iche iche na-enwetakarị nsonaazụ kacha mma mgbe ha kọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka oke ikpe, ma soro ma uru nrụpụta yana ọnụ ahịa njehie ka oge na-aga.

Ngwa ngwa ngwa ngwa ngwa agbakwunyere na omume

Nchọpụta asụsụ dị elu yana nhazi spam/isiokwu na CPU na-enweghị GPU.

Nchọpụta asụsụ dị elu na ọkwa spam / isiokwu na CPU na-enweghị otu GPU na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ dịkwuo elu maka ikpe ikpe, ma soro ma uru nrụpụta na ụgwọ njehie na oge.

Ngwa ngwa ngwa ngwa ngwa agbakwunyere na omume

Ijikwa asụsụ bara ọgaranya dị ka Finnish ma ọ bụ Turkish ebe okwu nwere ọtụtụ ụdị.

Ijikwa asụsụ ndị bara ọgaranya dị ka Finnish ma ọ bụ Turkish ebe okwu na-ewere ọtụtụ ụdị mgbanwe Otu dị iche iche na-enweta nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka ikpe ikpe, ma soro ma uru nrụpụta na ụgwọ njehie n'ime oge.

Ihe ize ndụ & okporo ụzọ nche

!

Eziokwu ndị e chepụtara echepụta nwere ike jiri nwayọ tinye akụkọ, nkwado nkwado, ma ọ bụ nsonaazụ nyocha.

!

Mmetụta ngwa ngwa nwere ike ịmepụta nsonaazụ na-ekwekọghị ekwekọ n'ofe arịrịọ ndị yiri ya.

!

Enwere ike ikpughe data ederede nwere mmetụta ma ọ bụrụ na njikwa ohere adịghị ike.

Map mmejuputa

1

Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị.

Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

2

Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa.

Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

3

Debe ebe nleba anya mmadụ maka mpụta dị elu.

Debe ebe nleba anya mmadụ maka mpụta dị elu. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

4

Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile.

Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.

Nọgide na-eme nchọpụta