Dubawa
Jadawalin ƙimar koyo yana canza girman mataki yayin horo maimakon riƙe shi a tsaye. Samun daidai sau da yawa shine babban lefa guda ɗaya don ko samfurin yana haɗuwa da sauri kuma ya kai daidaitattun daidaito.
Jadawalin ƙimar koyo wani shingen gini ne na fasaha wanda ke shafar ingancin ƙira, farashin kayayyakin more rayuwa, jinkiri, da aminci a sikeli.
Zurfafa nutsewa
Adadin koyo yana sarrafa yadda babban mataki mai ingantawa ke ɗaukar kowane sabuntawa. Maɗaukaki da haɓaka horo; yayi kasa sosai kuma yana rarrafe ko ya makale. Jadawalin yana daidaita wannan ƙimar akan lokaci. Girke-girke na yau da kullun na yau da kullun yana biye da lalacewa: fara kusa da sifili kuma ku tashi sama da matakai na ɗari ko dubunnan na farko (don haka da wuri, gradients masu surutu ba sa busa ma'aunin nauyi), sannan a hankali raguwa. Shahararrun sifofi masu lalacewa sun haɗa da ruɓar mataki (saukar da sifili a zamanin da aka saita), lalatar fa'ida, da raɗaɗin cosine, wanda a hankali yana bin lanƙwasa rabin cosine zuwa kusa da sifili. Jadawalin Cosine tare da dumin layi na layi yanzu sun zama daidaitattun don horar da manyan nau'ikan harshe, yayin da tsarin zagayowar lokaci da tsarin zagayowar guda ɗaya na iya haɓaka ƙaramin horo na samfuri.
Fahimtar Fasaha
Abubuwan da ke da zafi saboda masu inganta haɓakawa kamar Adam suna da ƙididdige ƙididdiga na lokaci na biyu a cikin matakan farko; ƙaramin koyo yana guje wa lalata ma'aunin nauyi kafin waɗannan ƙididdigan su daidaita. Cosine annealing ya saita lr = lr_min + 0.5 * (lr_max - lr_min) * (1 + cos(pi * t / T)), yana ba da ci gaba cikin sauri da wuri da kankanin, matakan daidaitawa kusa da ƙarshe. Wasu jadawali suna ƙara sake kunnawa mai dumi, suna tsallen ƙimar baya sama don tserewa ƙarami mai kaifi.
Jagoran Jadawalin Yawan Koyo
Jadawalin ƙimar koyo yana canza girman mataki yayin horo maimakon riƙe shi a tsaye. Samun daidai sau da yawa shine babban lefa guda ɗaya don ko samfurin yana haɗuwa da sauri kuma ya kai daidaitattun daidaito. Jadawalin ƙimar koyo wani shingen gini ne na fasaha wanda ke shafar ingancin ƙira, farashin kayayyakin more rayuwa, jinkiri, da aminci a sikeli. Don gina zurfin fahimta, bi da Jadawalin Ƙimar Koyo azaman samfurin aiki, ba fasali ɗaya ba: ayyana sakamakon da ake so, fayyace zato, da raba abin da tsarin zai iya yi da dogaro daga abin da har yanzu ke buƙatar yanke hukunci na ƙwararru.
A aikace, ƙungiyoyi masu ƙarfi da ke amfani da Jadawalin ƙimar Ilmantarwa suna haɓaka gine-gine, bayanai, da zaɓin abubuwan more rayuwa tare da dogaro da farashi. Suna rubuta ƙayyadaddun ƙa'idodin nasara, gwaji akan bayanan gaskiya da gudanawar aiki, da jujjuyawar bisa ga tsarin gazawar da aka lura maimakon cin nasara na lokaci ɗaya. Wannan shine inda fahimtar ka'idar ta juya zuwa iyawa mai dorewa a cikin samfura, manufofi, da ayyuka.
Hukunce-hukuncen gine-gine suna haifar da aiki da tsadar aiki na shekaru. A lokaci guda, Haɓaka ma'auni ɗaya na iya ɓoye manyan raunin tsarin. Hanyar da ta fi dacewa ita ce haɗa saurin gwaji tare da horon gudanarwa: gudanar da matukin jirgi, kama shaida, buga rajistan ayyukan yanke shawara, da ci gaba da sabunta abubuwan tsaro kamar yadda halayen ƙira, tsammanin mai amfani, da buƙatun tsari ke tasowa.
Dabarun Tasiri
Hukunce-hukuncen gine-gine suna haifar da aiki da tsadar aiki na shekaru.
Hukunce-hukuncen gine-gine suna haifar da aiki da tsadar aiki na shekaru. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Ilimin fasaha yana taimaka wa ƙungiyoyi su zaɓi tari mai kyau, ba kawai sabon abu ba.
Ilimin fasaha yana taimaka wa ƙungiyoyi su zaɓi tari mai kyau, ba kawai sabon abu ba. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Zaɓuɓɓukan injiniya mafi kyau suna rage abin dogaro a cikin samarwa.
Zaɓuɓɓukan injiniya mafi kyau suna rage abin dogaro a cikin samarwa. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Aiwatar da Gaskiyar Duniya
Dumi-dumin layi tare da lalata cosine da ake amfani da su lokacin da ake horar da ƙirar yaren canji.
Rushewar mataki wanda ke sauke ƙimar koyo 10x a zamanin 30, 60, da 90 lokacin horar da masu rarraba hoto akan ImageNet.
Manufar sake zagayowar sau ɗaya a cikin fast.ai don horar da abin ƙira zuwa daidaito mai kyau a cikin ƴan lokuta kaɗan.
Cosine annealing tare da dumi sake kunnawa don guje wa ƙarancin asara mai kaifi lokaci-lokaci da haɓaka haɓakawa.
Hanyoyin Aiwatarwa
Jadawalin Matsayin Koyo a aikace
Dumi-dumin layi tare da lalata cosine da ake amfani da su lokacin da ake horar da ƙirar yaren canji.
Dumi-dumin layi tare da lalata cosine da ake amfani da su lokacin da ake horar da samfuran harsunan canji Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ingantattun ƙofofin gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'i, da bin duk nasarorin samarwa da ƙimar kuskure akan lokaci.
Jadawalin Matsayin Koyo a aikace
Rushewar mataki wanda ke sauke ƙimar koyo 10x a zamanin 30, 60, da 90 lokacin horar da masu rarraba hoto akan ImageNet.
Rushewar mataki wanda ya sauke ƙimar koyo 10x a zamanin 30, 60, da 90 lokacin horar da masu rarraba hoto akan Ƙungiyoyin ImageNet yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da kuma bin diddigin nasarorin samarwa da ƙimar kuskure akan lokaci.
Jadawalin Matsayin Koyo a aikace
Manufar sake zagayowar sau ɗaya a cikin fast.ai don horar da abin ƙira zuwa daidaito mai kyau a cikin ƴan lokuta kaɗan.
Manufar sake zagayowar sau ɗaya a cikin fast.ai don horar da ƙima zuwa daidaito mai kyau a cikin ƴan ƴan zamanin Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'i, da bin diddigin nasarorin samarwa da ƙimar kuskure akan lokaci.
Jadawalin Matsayin Koyo a aikace
Cosine annealing tare da dumi sake kunnawa don guje wa ƙarancin asara mai kaifi lokaci-lokaci da haɓaka haɓakawa.
Cosine annealing tare da dumi sake kunnawa don guje wa kaifi asara kadan lokaci-lokaci da kuma inganta gama gari Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'in gefe, da bin duk nasarorin samarwa da ƙimar kuskure akan lokaci.
Hatsari & Tsare-tsare
Haɓaka ma'auni ɗaya na iya ɓoye manyan raunin tsarin.
Sau da yawa ana raina kayan more rayuwa da kuma kuɗin kulawa.
Tsaro da gibin lura na iya girma yayin da tsarin ke ƙara haɓaka.
Taswirar Hanya
Ƙayyade latency, inganci, da maƙasudin farashi kafin aiwatarwa.
Ƙayyade latency, inganci, da maƙasudin farashi kafin aiwatarwa. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Alamar ma'auni a ƙarƙashin ainihin kaya da yanayin bayanai.
Alamar ma'auni a ƙarƙashin ainihin kaya da yanayin bayanai. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Kula da kayan aiki don kurakurai, ɗigo, da tasirin mai amfani.
Kula da kayan aiki don kurakurai, ɗigo, da tasirin mai amfani. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Shirya bijirowa da hanyoyin mayar da martani kafin sikeli.
Shirya bijirowa da hanyoyin mayar da martani kafin sikeli. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.