FastText Subword ifibọ
FastText jẹ ọna 2016 Facebook AI ti o duro fun ọrọ kọọkan bi apo ti awọn ohun kikọ n-grams, nitorinaa o le kọ awọn olutọpa paapaa fun awọn ọrọ ti ko rii lakoko ikẹkọ.
Akopọ
Ọ̀nà ọ̀rọ̀ abẹ́lẹ̀ yìí tayọ ní àwọn èdè ọlọ́rọ̀ nípa ẹ̀mí, typos, àti àwọn ọ̀rọ̀ tó ṣọ̀wọ́n níbi tí Word2Vec àti GloVe ti kùnà.
Jin Dive
FastText, ni idagbasoke nipasẹ Facebook AI Iwadi (Bojanowski, Grave, Joulin, Mikolov) ni 2016, fa awoṣe Skip-Gram nipasẹ fifọ ọrọ kọọkan sinu awọn n-grams ohun kikọ. Ọrọ naa "nibo" pẹlu n-grams ti ipari 3 di <wh, wh, her, ere, re> pẹlu aami ọrọ kikun, nibiti awọn biraketi igun ṣe samisi awọn aala ọrọ. Fekito ọrọ kan ni apao ti n-gram fekito rẹ. Eyi tumọ si FastText le ṣajọ fekito kan fun ọrọ ita-ọrọ bi “aigbagbọ” lati awọn ege ọrọ-ọrọ ti o faramọ, ati pe o gba mofoloji ti o pin, nitorinaa “nṣiṣẹ,” “olusare,” ati “awọn nṣiṣẹ” ni ibatan nipa ti ara. Ise agbese kan naa tun gbejade iyara, iyasọtọ ọrọ laini deede (“fastText” ipo abojuto) ti a lo fun awọn iṣẹ ṣiṣe bii idanimọ ede ati fifi aami le ni iwọn nla.
Imọ-imọ-ẹrọ
Ohun kikọ kọọkan n-gram ti wa ni hashed sinu kan ti o wa titi-iwọn garawa tabili ati ki o sọtọ awọn oniwe-ara fekito; Aṣoju ọrọ kan jẹ apao awọn olutọpa n-gram ti o jẹ idawọle, ti a kọ pẹlu iṣapẹẹrẹ odi-iṣapẹrẹ Skip-Gram kanna bi Word2Vec. Pínpín awọn paramita ọrọ-apakan kọja awọn ọrọ ni idi ti awọn gbigbe morphology ati idi ti awọn ọrọ ti a ko rii tun gba awọn ipadasọna oye. Alasọtọ ti o ni abojuto nlo awoṣe apo-ti-ẹya kan ti o jọra pẹlu softmax logalomomoise, ṣiṣe ni iyara pupọ lori awọn CPUs.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti Awọn ifibọ Subword FastText
Ero Subword FastText safihan ipilẹ: awọn oluyipada ode oni lo awọn ilana ti o jọmọ bii Byte-Pair Encoding ati WordPiece tokenization lati mu eyikeyi igbewọle laisi fokabulari ti o wa titi. Facebook ṣe idasilẹ awọn adaṣe FastText ti a ti kọkọ tẹlẹ fun awọn ede 157, ti o jẹ ki o lọ-si ipilẹṣẹ fun multilingual and low-source NLP nibiti awọn awoṣe nla ko ṣe iwulo. Bii ẹrọ kekere ati awọn awoṣe eti ṣe jèrè pataki, Ifẹsẹtẹ kekere ti FastText ati iyara Sipiyu jẹ ki o wulo fun isọdi ọrọ iṣelọpọ.
Real-World imuse
Ṣiṣẹda awọn olupilẹṣẹ fun awọn ọrọ ti a ko ri tabi ti a ko rii tẹlẹ bi “otitọ” tabi awọn orukọ ọja tuntun
Facebook's ìmọ-orisun vectors ti o bo awọn ede 157 fun wiwa ọpọlọpọ ede ati fifi aami si
Idanimọ ede iyara-giga ati àwúrúju / isọdi koko lori Sipiyu laisi GPU kan
Mimu awọn ede ọlọrọ morphologically bi Finnish tabi Tọki nibiti awọn ọrọ ti mu ọpọlọpọ awọn fọọmu inflected
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the FastText Subword Embeddings quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Awọn ifibọ Aṣoju Matryoshka
Awọn ibeere ti a beere nigbagbogbo
Kí ni FastText Subword ifibọ?
FastText jẹ ọna 2016 Facebook AI ti o duro fun ọrọ kọọkan bi apo ti awọn ohun kikọ n-grams, nitorinaa o le kọ awọn olutọpa paapaa fun awọn ọrọ ti ko rii lakoko ikẹkọ. Ọ̀nà ọ̀rọ̀ abẹ́lẹ̀ yìí tayọ ní àwọn èdè ọlọ́rọ̀ nípa ẹ̀mí, typos, àti àwọn ọ̀rọ̀ tó ṣọ̀wọ́n níbi tí Word2Vec àti GloVe ti kùnà.
Bawo ni FastText ṣe aṣoju ọrọ kan?
FastText decomposes kọọkan ọrọ sinu ohun kikọ n-grams ati akopọ wọn vectors lati dagba awọn ọrọ ká asoju.
Idiwọn pataki wo ti Word2Vec ati GloVe ni FastText bori?
Nitori FastText ṣajọ awọn oluka lati awọn ege ọrọ-ọrọ, o le kọ aṣoju fun awọn ọrọ ti ko rii ni ikẹkọ.
Fun ọrọ naa "nibo" pẹlu awọn ohun kikọ 3 n-grams, eyiti o jẹ n-gram ti o wulo (pẹlu awọn ami aala)?
"nibo" ti nmu trigrams bi <wh, whe, her, ere, re>, pẹlu kikun ọrọ tokini; "whe" jẹ ọkan ninu wọn.
Kini ibi-afẹde ikẹkọ ipilẹ wo ni awoṣe ifisinu FastText kọ lori?
FastText faagun Skip-Gram pẹlu ipinnu iṣapẹẹrẹ odi, nfi ọrọ-kekere n-gram vectors kun.
Kini idi ti FastText wulo paapaa fun awọn ede bii Finnish tabi Tọki?
Awọn ede ti o ni imọ-ijinlẹ ṣe agbejade ọpọlọpọ awọn fọọmu ọrọ; pínpín subword vectors jẹ ki FastText so wọn nipa ti ara.