Xiga xigaHagaha xiga
Shuruucda Cabbiraadda Shabakadda Neural
Aasaaska
Tilmaamaha aasaasiga ah
Aragtida Kernel Tangent Neural
Kernel-ka Neural Tangent Kernel (NTK) waa qalab xisaabeed oo muujinaya in shabakadaha neerfaha ee aan dhammaadka lahayn ay u dhaqmaan sida hab gaar ah, habka kernel go'an inta lagu jiro tababarka.
Dhageyso hagahanAI-waa laga sheekeeyay · ~2 min
Boggaan2 daqiiqo akhri
Dulmar
It matters because it turns mysterious deep learning into something with closed-form, analyzable equations.
quusid qoto dheer
Waxaa soo bandhigay Jacot, Gabriel, iyo Hongler sanadka 2018, aragtida NTK waxay daraaseysaa waxa dhaca sida lakabyada shabakadu ay noqdaan kuwo aan xad lahayn. Xadkaas, tababarka leh farcanka gradient wuxuu joogsadaa inuu ahaado safar aan toos ahayn oo duurjoog ah: xuduudaha shabakadu waxay si dhib yar uga guuraan bilowgooda random ( nidaamka 'tababarka caajiska ah'), iyo shaqada ay xisaabiso waxay u horumartaa si toos ah, oo ay maamusho kernel joogto ah inta lagu jiro tababarka. Kernel-kaas - wax soo saarka gudaha ee gradients marka la eego cabbirada - waa NTK. Sababtoo ah dib-u-celinta kernel-ka ayaa leh xalal sax ah, waxaad saadaalin kartaa wax soo saarka shabakadda la tababaray adiga oo aan si dhab ah u tababarin. NTK waxa uu sharaxay sababta shabakadaha aadka loo cabbiray ay ugu habboonaan karaan xogta haddana ay guud ahaan isu beddelayaan, waxayna ku xidhaa barashada qoto dheer tobannaan sano oo hababka kernel-ka si fiican loo fahmay iyo geeddi-socodka Gaussian.
Dhaqangelinta Adduunka-dhabta ah
Saadaasha dhaq-dhaqaaqa tababbarka shabakada balaadhan si loo gorfeeyo si loo doorto heerarka waxbarashada iyada oo aan la marin tijaabo qaali ah
Isticmaalka cabbirada NTK-ku-salaysan si aad ugu qiimeyso naqshadaha musharraxiinta si raqiis ah inta lagu jiro raadinta qaab dhismeedka neerfaha
Sharaxaada aragti ahaan sababta shabakadaha xad-dhaafka ah ay isugu biiraan lumitaanka tababbarka eber oo ay wali guud ahaan u noqdaan
Naqshadeynta qiyaasaha kernel-ka (NTK-ku dhiirigeliyay geeddi-socodka Gaussian) ee hawlaha leh xog yar halkaas oo qiyaasaha hubin la'aanta saxda ah ay muhiim tahay
Mustaqbalka Aragtida Kernel Tangent Neural
NTK waa laf-dhabarta aragti-barashada qoto dheer ee casriga ah, laakiin shabakadaha dhabta ah ee dhabta ah waxay bartaan sifooyin - wax sawirka kernel-ka go'an uu tabayo. Cilmi baaristu hadda waxay diiradda saartaa farqiga u dhexeeya habdhaqanka 'NTK' caajiska ah iyo nidaamka 'waxbarasho' qani ah', iyo adeegsiga NTK si loo saadaaliyo waxqabadka qaab dhismeedka, hagista raadinta qaab dhismeedka neerfaha, iyo guud ahaan isku xidhka. Filo aragtiyaha isku-dhafka ah ee qabta marka shabakadaha u dhaqmaan sida kernels marka loo eego marka ay si dhab ah u bartaan matalaadda.
Ku dhaqangelinta
Maxay muhiim u tahay
- Go'aamo cad. Waxay kaa caawinaysaa inaad kala saartid sheegashooyinka farsamada cad iyo luqadda suuq-geynta.
- Qiimaha iyo miisaaniyada. Waxaad waydiin kartaa su'aalo fulineed oo wanaagsan ka hor inta aadan lacag ama waqti bixin.
- Kooxda iyo socodka shaqada. Kooxaha fahamka la wadaago waxay sameeyaan wax soo saar, siyaasad, iyo go'aano waxbarasho oo wanaagsan.
Iska ilaali
- Kooxo kala duwan ayaa laga yaabaa inay isla erey u isticmaalaan si kala duwan, marka hore u qeex baaxadda.
- Tilmaamaha ayaa u ekaan kara kuwo xooggan halka waxqabadka dhabta ah ee dunidu aanu sinnayn.
- In la iska indho tiro tayada xogta iyo qorshayaasha qiimayntu waxay inta badan abuurtaa natiijooyin jilicsan.
Tallaabooyinka xiga
- Ka bilow qeexidda luqadda cad ee natiijada aad u baahan tahay.
- Dooro hal cabbir guusha iyo hal xaalad guuldarro ka hor tijaabada.
- Ku orod duuliye yar oo wata xogta matale, ee ma aha bandhig muuqaal ah.
- Qor meesha Aragtida Kernel Tangent Neural ay caawiso iyo meelaha hababka fudud ay ka fiican yihiin.
Sii wad Sahaminta
Warqad bilaash ah
Hel warbixinta maalinlaha ah ee AI
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Take the Neural Tangent Kernel Theory quiz
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Su'aalaha soo noqnoqda
What is Neural Tangent Kernel Theory?
Kernel-ka Neural Tangent Kernel (NTK) waa qalab xisaabeed oo muujinaya in shabakadaha neerfaha ee aan dhammaadka lahayn ay u dhaqmaan sida hab gaar ah, habka kernel go'an inta lagu jiro tababarka. Muhiim ayay u tahay sababtoo ah waxay u rogtaa barasho qoto dheer oo dahsoon oo ay u beddesho shay leh qaab xiran, isla'egyo la lafo-guro.
Xadka aan dhammaadka lahayn, sidee buu u dhaqmaa Kernel Tangent Neural inta lagu jiro tababarka?
Natiijadii dhexe ee NTK waa in xadka ballaca aan dhammaadka lahayn uu kernelku isugu yimaado qiime go'an oo uu si joogto ah u ahaado inta lagu guda jiro tababarka hoos-u-dhaca.
Waa maxay NTK xisaab ahaan?
NTK waa K(x,x') = ⟨∇θ f(x), ∇θ f(x')⟩, wax soo saarka gudaha ee gradients ee wax soo saarka marka la eego cabbirrada.
Yaa keenay Kernel Tangent Neural?
NTK waxaa lagu soo bandhigay warqad 2018 Arthur Jacot, Franck Gabriel, iyo Clément Hongler.
Waa maxay nidaamka 'tababarka caajisnimada'?
Tababarka caajiska ah, xuduudaha shabakadaha ballaadhan waxay ku dhow yihiin qiyamkooda hore iyo wax soo saarku waxay u koraan si toos ah, taas oo ah ta ka dhigaysa falanqaynta kernel-ka go'an mid ansax ah.
Sababtoo ah NTK waxay yaraynaysaa tababarka dib u noqoshada kernel, maxaa suurtogal noqon kara?
Dib-u-celinta Kernel waxay leedahay xalal qaabaysan, sidaa darteed xadka NTK mid ayaa si lafo-gur ah u saadaalin kara wax-soo-saarka shabakadda ee tababaran.
Sii wad waxbarashada
Tilmaamaha la xidhiidha
Tilmaamayaal badan ayaa loo doortay mawduucan