Nlereanya Asụsụ
Ịmegharị asụsụ bụ ọrụ dị mfe aghụghọ n'ụzọ aghụghọ nke ịkọ okwu ma ọ bụ akara na-abịa na-esote, nyere ederede ruo ugbu a.
Nchịkọta
This single objective, scaled up massively, is what produces today's powerful chatbots and writing assistants.
Ime miri emi
Na isi ya, ụdị asụsụ na-ekenye ohere maka usoro ederede. N'inyere ngwa ngwa 'isi obodo France bụ', ọ na-eme atụmatụ ka akara ngosi ọ bụla ga-ekwe omume bụ, yana 'Paris' kwesịrị akara nke ukwuu. Ụdị asụsụ mbụ bụ n-gram statistical nke na-agụ naanị ugboro ole usoro okwu pụtara, mana ha gbara mgba na ogologo okwu na nkebiokwu ndị a na-adịghị ahụ anya. Ụdị asụsụ akwara dochie anya ịgụta ọnụ na ihe ngosi mmụta, na ihe nrụzigharị mgbanwe site na 2017 na-ahapụ ụdị ka ha gaa ogologo ogologo ederede nke ọma. A zụrụ ụdị asụsụ nnukwu asụsụ ọgbara ọhụrụ dị ka ezinụlọ GPT na nnukwu ederede corpora nwere otu ebumnobi: buru amụma ihe na-esote. N'ụzọ dị ịrịba ama, ime nke a na-eme ka ihe nlereanya ahụ banye n'ụtọ ụtọ asụsụ, eziokwu, usoro ntụgharị uche, na ụdị, n'ihi na ịkọ ederede n'ụzọ ziri ezi chọrọ ịghọta ya. Ọgbọ na-arụ ọrụ site na ibu amụma ugboro ugboro na-esote wee nyeghachi ya azụ.
Nghọta nka nka
Ọtụtụ ụdị asụsụ ọgbara ọhụrụ bụ ndị na-akpaghasị onwe ha: ha na-etinye ohere nke ahịrịokwu n'ime ngwaahịa nke puru omume na-esote, na-ebu amụma otu akara n'otu oge aka ekpe gaa n'aka nri. Ọzụzụ na-ebelata mfu-entropy, nke na-akwụghachi ụgwọ inye ohere dị elu na akara na-esote na ederede ọzụzụ. Nke a na-ahụ maka onwe ya, akara ndị ahụ na-abịa n'efu site na ederede n'onwe ya, n'ihi ya, ọ dịghị nkọwa mmadụ chọrọ. N'oge ọgbọ, usoro nlere anya dị ka okpomọkụ, top-k, na top-p (nucleus) na-achịkwa ahịa n'etiti mmepụta amụma na mmepụta ihe.
Mmetụta atụmatụ
Ọsọ na ọnụ ọgụgụ
Usoro ọrụ asụsụ nwere ike ịga ngwa ngwa n'achụghị nkwụsi ike.
Nweta na iru
Ọ na-agbasawanye ohere n'ofe asụsụ na ụdị nzikọrịta ozi.
Mkpebi doro anya
Ndị otu nwere ike itinyekwu oge na ikpe ebe akpaaka na-ejikwa nkwughachi.
Ọdịnihu nke Nhazi Asụsụ
Amụma akara na-esote egosila na ọ dị ike nke ukwuu, na iwu ịchafụ na-egosi na ụdị ndị buru ibu na ọtụtụ data na-aga n'ihu na-emewanye ike, n'agbanyeghị uru na-eji nwayọ na data dị elu na-adị ụkọ. Oke ahụ na-atụgharị gaa n'echiche, windo ndị dị ogologo ogologo, yana ụzọ ọzụzụ gachara, dị ka mmụta nkwado sitere na nzaghachi mmadụ nke na-akpụzi omume mgbe emechara ụkpụrụ ntọala. Na-atụ anya ka a na-aga n'ihu ịgwakọta ụdị asụsụ na ngwaọrụ, iweghachite, na ntinye multimodal, ebe ebumnobi bu amụma ga-esote ga-abụ ntọala ihe niile agbakwunyere.
Mmejuputa n'ezie n'ụwa
Mezue akpaaka na ahụigodo ekwentị gị ma ọ bụ email na-atụ aro okwu na-esote ka ị na-apịpị
Mkparịta ụka nkata dị ka ChatGPT na-ewepụta azịza nke ọma site n'ibu amụma ugboro ugboro na akara na-esote.
Ndị ndezi koodu dị ka GitHub Copilot na-ebu amụma ahịrị koodu na-esote site na gburugburu
Sistemụ njirimara okwu na-eji ụdị asụsụ ịhọrọ ederede kacha ezi uche dị na ya n'etiti nhọrọ ndị yiri ụda
Ihe ize ndụ & okporo ụzọ nche
Eziokwu ndị e chepụtara echepụta nwere ike jiri nwayọ tinye akụkọ, nkwado nkwado, ma ọ bụ nsonaazụ nyocha.
Mmetụta ngwa ngwa nwere ike ịmepụta nsonaazụ na-ekwekọghị ekwekọ n'ofe arịrịọ ndị yiri ya.
Enwere ike ikpughe data ederede nwere mmetụta ma ọ bụrụ na njikwa ohere adịghị ike.
Map mmejuputa
Kọwaa usoro mmepụta, ụda, na ụkpụrụ ịdịmma tupu ibugharị.
Weghachite nzaghachi site na isi mmalite ntụkwasị obi mgbe ọ bụla izi ezi dị mkpa.
Debe ebe nleba anya mmadụ maka mpụta dị elu.
Sochie ụkpụrụ ọdịda ma na-azụghachi mkpali ma ọ bụ usoro ọrụ mgbe niile.
Nọgide na-eme nchọpụta
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Language Modeling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Ntuziaka na-esote
Nlezigharị Asụsụ Masked
Ajụjụ a na-ajụkarị
What is Language Modeling?
Ịmegharị asụsụ bụ ọrụ dị mfe aghụghọ n'ụzọ aghụghọ nke ịkọ okwu ma ọ bụ akara na-abịa na-esote, nyere ederede ruo ugbu a. Otu ebumnobi a, gbagoro nke ukwuu, bụ ihe na-emepụta nkata nkata na ndị enyemaka ide ihe siri ike taa.
Gịnị bụ isi ọrụ ụdị asụsụ na-arụ?
Ụdị asụsụ na-atụle ihe gbasara puru omume nke na-abịa n'ihu n'usoro, ọgbọ na-arụkwa ọrụ site na ịkọ amụma ugboro ugboro na itinye akara na-esote.
Kedu ihe bụ isi mmachi nke ụdị asụsụ n-gram mbụ?
Ụdị N-gram dabere n'ịgụ usoro okwu dị nkenke, ya mere, ha ejikwa okwu dị ogologo na-adịghị mma ma daa na nkebiokwu ndị ha na-ahụtụbeghị.
Kedu ihe kpatara eji akpọ ọzụzụ ụdị asụsụ 'nke onwe'?
Ihe nrịbama na-esote ziri ezi adịlarị na ederede, yabụ ihe nlereanya ahụ na-emepụta ebumnuche nke ya na-enweghị nkọwa akwụkwọ ntuziaka.
Kedu ihe 'autoregressive' pụtara maka ụdị asụsụ?
Ụdị autoregressive na-emepụta akara ederede site na token, na-eme ka amụma ọhụrụ ọ bụla dị na ihe niile emepụtara ugbu a.
Kedu ọrụ mfu a na-ejikarị azụ ụdị asụsụ?
Ọzụzụ na-ebelata cross-entropy, na-akwụghachi ihe nlereanya maka ikenye ohere dị elu na akara na-esote nke a hụrụ na ederede ọzụzụ.