Word2Vec Skip-gram iyo CBOW
Word2Vec waa farsamo 2013 ah oo ka timidGoogle taas oo barta ereyada cufan iyaga oo saadaaliya ereyada deriskooda, u beddela luqadda joomatari halkaas oo kelmado isku mid ah ay wada fariistaan.
Dulmar
It made the famous "king - man + woman ≈ queen" analogy possible and kicked off the modern embedding era.
quusid qoto dheer
Word2Vec, oo uu soo bandhigay Tomas Mikolov iyo asxaabtiisa Google sanadka 2013, waxay bartaa vector (sida caadiga ah 100-300 lambar) kelmad kasta iyadoo la tababarayo shabakad laba lakab oo neerfaha ah oo gacmeed daaqad macno toosan. Waxay ku timaadaa laba dhadhan. CBOW (Boorsada Erayada Joogta ah) waxay qaadataa ereyada ku xeeran oo waxay saadaalisaa ereyga dhexe ee maqan, iyadoo celcelis ahaan isku dhafka macnaha guud. Skip-Gram waxa uu rogaa tan: waxa ay qaadanaysaa ereyga dhexe oo isku dayaya in uu saadaaliyo erey kasta oo ku xeeran. Qaabku waligiis dan kama gelin hawsha saadaasha lafteeda; hadafku waa matrixka miisaanka ay ku baranayso jidka, kuwaas oo safafkoodu noqdaan ereyga vectors. Erayada ka soo muuqda jawi isku mid ah waxa ay ku dhamaadaan faleebo isku mid ah, iyaga oo macnahooda ka soo qaadaya dhacdooyin isku mid ah.
Aragtida Farsamada
Tababbarka softmax buuxa ee ereybixin aad u weyn aad buu u gaabiyaa, sidaa darteed Word2Vec waxay isticmaashaa tabaha sida muunad taban, taas oo dib u habaynaysa saadaasha sida kala-soocidda binary: kala saar ereyga macnaha guud ee sacab muggeed oo ereyo "negative" ah oo random ah. Waxa kale oo ay hoos u dhigtaa ereyada soo noqnoqda sida "the" waxayna adeegsataa qaybinta unigram-kor loo qaaday-0.75 si ay u soo qaadato diidmo. CBOW wuu ka dhakhso badan yahay oo wuu u fiican yahay ereyada soo noqnoqda; Skip-Gram oo leh muunad taban ayaa gacanta ku haysa kelmado naadir ah iyo kuwa yaryar oo si fiican u shaqeeya.
Saamaynta Istiraatijiyadeed
Xawaaraha iyo miisaanka
Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta.
Helitaanka iyo gaarsiinta
Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta.
Go'aamo cad
Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta.
Mustaqbalka Word2Vec Skip-gram iyo CBOW
Waxyaalaha la isku dhejiyo sida Word2Vec ayaa si weyn loogu beddelay moodooyinka macnaha guud (ELMo, BERT, Transformers) kuwaas oo siinaya kelmad noocyo kala duwan oo ku xiran jumlada, xallinta dhibaatada polysemy halkaasoo "bangi" leeyahay hal vector go'an. Haddana Word2Vec waxay ku adkaysataa meesha xawaaraha, fudaydka, iyo tarjumaada arrintu: nidaamyada talada, raadinta, iyo aasaaska waxbarida. Fikradda udub-dhexaadka ah, macnahaas oo ka soo baxaya tirakoobyada dhacdooyinka wada-dhacyada, ayaa weli ah saldhigga fikradda ee dhammaan noocyada luqadda casriga ah.
Dhaqangelinta Adduunka-dhabta ah
Spotify iyo Airbnb waxay habeeyeen Skip-Gram si ay u bartaan gundhigga heesaha iyo liisaska ("item2vec") ee taxanaha kalfadhiga isticmaalaha ee talooyinka
Awood raadinta semantic iyo ballaadhinta isku midka ah si weydiinta "laptop" waxay sidoo kale dusha ka saartaa "buugga xusuus-qorka" iyo "computer"
Helitaanka isu-egyada iyo xidhiidhada qoraalka, sida lammaane-wadanka (Paris waxay u socotaa Faransiiska sida Tokyo ay Japan u tahay)
Bilaabidda lakabka wax gelinta ee dhuumaha waaweyn ee NLP ee falanqaynta dareenka iyo soocidda dukumeentiga xogta xaddidan
Khatarta & Dariiqyada Ilaalada
Xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, taageerada socodka, ama natiijooyinka cilmi-baarista.
Dareenka degdega ahi wuxuu abuuri karaa natiijooyin aan iswaafaqayn codsiyada la midka ah.
Xogta qoraalka xasaasiga ah ayaa laga yaabaa in la kashifo haddii kontaroolada gelitaanka ay daciif yihiin.
Qorshe Hawleedka Dhaqangelinta
Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin.
Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay.
Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare.
Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah.
Sii wad Sahaminta
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Word2Vec Skip-Gram and CBOW quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hagaha xiga
Shabakadda Jidadka Wayn oo ka gudub Xidhiidhada
Su'aalaha soo noqnoqda
What is Word2Vec Skip-Gram and CBOW?
Word2Vec waa farsamo 2013 ah oo ka timidGoogle taas oo barta ereyada cufan iyaga oo saadaaliya ereyada deriskooda, u beddela luqadda joomatari halkaas oo kelmado isku mid ah ay wada fariistaan. Waxay ka dhigtay isu ekaysigii caanka ahaa ee "boqor - nin + naag ≈ boqorad" suurgal ah waxayna bilawday waagii casriga ahaa ee wax la isku dhejiyay.
Muxuu saadaalinayaa nashqada Skip-Gram?
Skip-Gram waxa uu qaataa hal kelmad oo udub dhexaad ah waxana uu isku dayaa in uu saadaaliyo mid kasta oo ka mid ah ereyada ku hareeraysan, lidka ku ah CBOW.
Waa maxay natiijada dhabta ah ee waxtarka leh ee tababarka qaabka Word2Vec?
Hawsha saadaalintu waa uun hab lagu dhammeeyo; hadafku waa jaantuska miisaanka la bartay oo safkiisu noqonayaan ereyada cufan.
Waa maxay sababta Word2Vec u isticmaasho muunad taban?
Muunad taban ayaa dhibka u qaabaysa sida kala saarista laba-geesoodka ah oo ka soo horjeeda dhawr kelmadood oo random ah, iyada oo ka fogaanaysa kharash badan oo tobanaan kun oo erey ah.
Waa kuwee kala duwanaanshaha Word2Vec ee guud ahaan si fiican uga shaqeeya kelmado naadir ah iyo xog-ururin yar?
Skip-Gram oo leh muunadayn taban waxay u janjeertaa inay si fiican u qabato ereyada dhifka ah, halka CBOW uu aad u dheereeyo oo uu doorbido ereyada soo noqnoqda.
Waa maxay hantida caanka ah ee Word2Vec vectors ee lagu muujiyay "boqor - nin + naag ≈ boqorad"?
Vectors Word2Vec waxay dejiyaan cilaaqaadka si isu-egyada semantic lagu xalliyo isku-dar iyo kala-goyn fudud.