አጠቃላይ እይታ
የስቶካስቲክ ክብደት አማካኝ (SWA) የመጨረሻውን ቅጽበታዊ እይታ ብቻ ከማስቀመጥ ይልቅ በስልጠና ዘግይቶ ከብዙ ነጥቦች የአምሳያው ክብደት ቀላል አማካይ ይወስዳል። ይህ ርካሽ ብልሃት ብዙውን ጊዜ ሞዴሉን ወደ ጠፍጣፋ እና ሰፋ ያለ የኪሳራ ገጽታ ክልል ውስጥ ያደርገዋል ፣ ይህም በማይታየው መረጃ ላይ በተሻለ ሁኔታ አጠቃላይ የማድረግ አዝማሚያ አለው።
የስቶካስቲክ ክብደት አማካኝ የሞዴል ጥራትን፣ የመሠረተ ልማት ወጪን፣ መዘግየትን እና አስተማማኝነትን የሚነካ ቴክኒካል ግንባታ ነው።
ጥልቅ ዳይቭ
በ2018 በአይዝማይሎቭ፣ ዊልሰን እና ባልደረቦች የተዋወቀው SWA በቋሚ ወይም ሳይክሊካል የመማሪያ ፍጥነት ያለው SGD ወደ አንድ ነጥብ እንደማይመጣ ምልከታውን ይጠቀማል - በሰፊ እና ጠፍጣፋ ሸለቆ ዳርቻ ዙሪያ ይንሰራፋል። ከእነዚያ ጫጫታ ካላቸው የማቆሚያ ነጥቦች አንዱን ከመምረጥ ይልቅ፣ SWA መጠነኛ የሆነ ከፍተኛ (ብዙውን ጊዜ ቋሚ ወይም ሳይክል) ለመጨረሻዎቹ ዘመናት የመማሪያ ፍጥነትን ያካሂዳል እና የሚጎበኟቸውን ክብደቶች በተለይም በእያንዳንዱ ዘመን። አማካይ ክብደቶች ወደ ጠፍጣፋው ክልል መሃል ተቀምጠዋል። ባች-ኖርማላይዜሽን ስታቲስቲክስ ለተወሰኑ ክብደቶች ስለሚሰሉ፣ኤስዋኤ በመረጃው ላይ አንድ ተጨማሪ ማለፍን ይፈልጋል የBN ማስኬጃ ዘዴዎችን እና ለአማካይ ሞዴል ልዩነቶችን እንደገና ለማስላት። ዋጋው በመሠረቱ ነፃ ነው፣ እና ትክክለኛነት በምስል ክላሲፋየሮች እና ከዚያም በላይ ወጥ ናቸው።
ቴክኒካዊ ግንዛቤ
SWA የሩጫ አማካኝ w_SWA = (n·w_SWA + w_i)/(n+1) እያንዳንዱን ዑደት አዘምኗል፣ የቀጥታ SGD ሞዴል ግን በአንጻራዊ ትልቅ የመማሪያ ፍጥነት ማሰስን ይቀጥላል። የክብደት ቦታ አማካኝ የተግባር ቦታ ላይ ያለ ስብስብን ይገመታል ነገር ግን በምርጫ አንድ ሞዴል ያስከፍላል እንጂ ብዙ አይደለም። ዋናው ዘዴ ጠፍጣፋ ሚኒማ ለክብደት መዛባቶች ጠንካራ በመሆናቸው የስልጠና/የሙከራ መጥፋት ንጣፎች ተስተካክለው ይቆያሉ፣ ይህም የአጠቃላይ ክፍተቱን ይቀንሳል።
የስቶካስቲክ ክብደት አማካኝነትን መቆጣጠር
የስቶካስቲክ ክብደት አማካኝ (SWA) የመጨረሻውን ቅጽበታዊ እይታ ብቻ ከማስቀመጥ ይልቅ በስልጠና ዘግይቶ ከብዙ ነጥቦች የአምሳያው ክብደት ቀላል አማካይ ይወስዳል። ይህ ርካሽ ብልሃት ብዙውን ጊዜ ሞዴሉን ወደ ጠፍጣፋ እና ሰፋ ያለ የኪሳራ ገጽታ ክልል ውስጥ ያደርገዋል ፣ ይህም በማይታየው መረጃ ላይ በተሻለ ሁኔታ አጠቃላይ የማድረግ አዝማሚያ አለው። የስቶካስቲክ ክብደት አማካኝ የሞዴል ጥራትን፣ የመሠረተ ልማት ወጪን፣ መዘግየትን እና አስተማማኝነትን የሚነካ ቴክኒካል ግንባታ ነው። ጥልቅ ግንዛቤን ለመገንባት፣ Stochastic Weight Averagingን እንደ ኦፕሬሽን ሞዴል፣ አንድ ባህሪ ሳይሆን፡ የሚፈለጉትን ውጤቶች ይግለጹ፣ ግምቶችን ያብራሩ፣ እና ስርዓቱ የባለሙያዎችን ፍርድ ከሚያስፈልገው ነገር በአስተማማኝ ሁኔታ መለየት።
በተግባር፣ Stochastic Weight Averagingን የሚጠቀሙ ጠንካራ ቡድኖች አርክቴክቸርን፣ መረጃን እና የመሠረተ ልማት ምርጫዎችን ከአስተማማኝነት እና ከወጪ ጋር ያሻሽላሉ። ግልጽ የስኬት መስፈርቶችን ይመዘግባሉ፣ በተጨባጭ መረጃ እና የስራ ፍሰቶች ላይ ይፈትሻሉ፣ እና የአንድ ጊዜ ቤንችማርክ ከማሸነፍ ይልቅ በተስተዋሉ የውድቀት ቅጦች ላይ ተመስርተው ይደግማሉ። ይህ የንድፈ ሃሳባዊ ግንዛቤ በምርት፣ ፖሊሲ እና ኦፕሬሽኖች ላይ ወደ ዘላቂ አቅም የሚቀየርበት ነው።
የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ. በተመሳሳይ ጊዜ፣ አንድ ቤንችማርክን ማሻሻል ሰፋ ያሉ የስርዓት ድክመቶችን መደበቅ ይችላል። በጣም ጠንካራው አካሄድ የሙከራ ፍጥነትን ከአስተዳደር ዲሲፕሊን ጋር ማጣመር ነው፡ አብራሪዎችን ማስኬድ፣ ማስረጃን መያዝ፣ የውሳኔ ምዝግብ ማስታወሻዎችን ማተም እና የሞዴል ባህሪ፣ የተጠቃሚ የሚጠበቁ እና የቁጥጥር መስፈርቶች ሲዳብሩ ጥበቃዎችን ያለማቋረጥ ማዘመን ነው።
ስልታዊ ተጽእኖ
የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ.
የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ. ከፍተኛ ጥራት ባለው ማሰማራት ውስጥ፣ ይህ ወደሚለካ የአሠራር ደንቦች፣ የባለቤትነት ወሰኖች እና ተደጋጋሚ የግምገማ ሥነ ሥርዓቶች ይተረጎማል ስለዚህ ቡድኖች አሻሚነትን ከማስፋት ይልቅ በራስ መተማመንን ሊጨምሩ ይችላሉ።
የቴክኒክ ትምህርት ቡድኖች አዲሱን ብቻ ሳይሆን ትክክለኛውን ቁልል እንዲመርጡ ይረዳል።
የቴክኒክ ትምህርት ቡድኖች አዲሱን ብቻ ሳይሆን ትክክለኛውን ቁልል እንዲመርጡ ይረዳል። ከፍተኛ ጥራት ባለው ማሰማራት ውስጥ፣ ይህ ወደሚለካ የአሠራር ደንቦች፣ የባለቤትነት ወሰኖች እና ተደጋጋሚ የግምገማ ሥነ ሥርዓቶች ይተረጎማል ስለዚህ ቡድኖች አሻሚነትን ከማስፋት ይልቅ በራስ መተማመንን ሊጨምሩ ይችላሉ።
የተሻሉ የምህንድስና ምርጫዎች በምርት ውስጥ አስተማማኝነት ክስተቶችን ይቀንሳሉ.
የተሻሉ የምህንድስና ምርጫዎች በምርት ውስጥ አስተማማኝነት ክስተቶችን ይቀንሳሉ. ከፍተኛ ጥራት ባለው ማሰማራት ውስጥ፣ ይህ ወደሚለካ የአሠራር ደንቦች፣ የባለቤትነት ወሰኖች እና ተደጋጋሚ የግምገማ ሥነ ሥርዓቶች ይተረጎማል ስለዚህ ቡድኖች አሻሚነትን ከማስፋት ይልቅ በራስ መተማመንን ሊጨምሩ ይችላሉ።
የእውነተኛ-ዓለም አተገባበር
የResNet እና የDenseNet ምስል ክላሲፋየሮችን በCIFAR እና ImageNet ላይ ያለ ምንም ተጨማሪ የፍተሻ ወጪ ማሳደግ።
SWAG (SWA-Gaussian) ከአንድ የሥልጠና ሩጫ ለደህንነት-ስሜታዊ ትንበያዎች የተስተካከለ እርግጠኛ አለመሆን ግምቶችን በማምረት ላይ።
EMA-of-weights የናሙና አውታርን በማረጋጋት በስርጭት ምስል ጀነሬተሮች ውስጥ እንደ የተረጋጋ ስርጭት።
እንደገና ሳይሰለጥኑ ጥንካሬን ለማሻሻል ብዙ በጥሩ ሁኔታ የተስተካከሉ የፍተሻ ነጥቦችን በአማካይ በማዘጋጀት 'ሞዴል ሾርባዎችን' መገንባት።
የትግበራ ቅጦች
Stochastic ክብደት አማካኝ በተግባር
የResNet እና የDenseNet ምስል ክላሲፋየሮችን በCIFAR እና ImageNet ላይ ያለ ምንም ተጨማሪ የፍተሻ ወጪ ማሳደግ።
የResNet እና የDenseNet ምስል ክላሲፋፋየሮችን በሲአይኤፍአር እና ኢሜጅኔት ላይ ያለ ምንም ተጨማሪ የፍተሻ ወጪ ማሳደግ ቡድኖች ብዙውን ጊዜ የጥራት ደረጃዎችን ፊት ለፊት ሲገልጹ የተሻለ ውጤት ያገኛሉ፣ ለዳር ጉዳዮች የሰው ልጅ መሻሻል መንገድን ሲይዙ እና ሁለቱንም የምርታማነት ትርፍ እና የስህተት ወጪዎችን በጊዜ ሂደት ይከታተላሉ።
Stochastic ክብደት አማካኝ በተግባር
SWAG (SWA-Gaussian) ከአንድ የሥልጠና ሩጫ ለደህንነት-ስሜታዊ ትንበያዎች የተስተካከለ እርግጠኛ አለመሆን ግምቶችን በማምረት ላይ።
SWAG (SWA-Gaussian) ከአንድ የሥልጠና ሩጫ ለደህንነት-ነክ የሆኑ ትንበያዎች የተስተካከለ እርግጠኛ አለመሆን ግምቶችን በማምረት ቡድኖች ብዙውን ጊዜ የጥራት ደረጃዎችን ከፊት ሲገልጹ የተሻለ ውጤት ያገኛሉ፣ ለዳር ጉዳዮች የሰው ልጅ መሻሻል መንገድን ይጠብቃሉ፣ እና ሁለቱንም የምርታማነት ግኝቶችን እና የስህተት ወጪዎችን በጊዜ ሂደት ይከታተላሉ።
Stochastic ክብደት አማካኝ በተግባር
EMA-of-weights የናሙና አውታርን በማረጋጋት በስርጭት ምስል ጀነሬተሮች ውስጥ እንደ የተረጋጋ ስርጭት።
EMA-of-weights የናሙና አውታርን በማረጋጋት በስርጭት ምስል ጀነሬተሮች ውስጥ እንደ የተረጋጋ ስርጭት ቡድኖች ብዙውን ጊዜ የጥራት ደረጃዎችን ከፊት ሲገልጹ የተሻለ ውጤት ያገኛሉ ፣ለጫፍ ጉዳዮች የሰውን እድገት መንገድ ሲይዙ እና ሁለቱንም የምርታማነት ግኝቶችን እና የስህተት ወጪዎችን በጊዜ ሂደት ይከታተላሉ።
Stochastic ክብደት አማካኝ በተግባር
እንደገና ሳይሰለጥኑ ጥንካሬን ለማሻሻል ብዙ በጥሩ ሁኔታ የተስተካከሉ የፍተሻ ነጥቦችን በአማካይ በማዘጋጀት 'ሞዴል ሾርባዎችን' መገንባት።
ብዙ በጥሩ ሁኔታ የተስተካከሉ የፍተሻ ነጥቦችን በአማካይ በመገንባት 'ሞዴል ሾርባዎችን' መገንባት ቡድኖች ደጋግመው ሳይሰለጥኑ ጥንካሬን ለማሻሻል ብዙውን ጊዜ የተሻሉ ውጤቶችን ያገኛሉ የጥራት ደረጃዎችን ፊት ለፊት ሲገልጹ ፣ ለጫፍ ጉዳዮች የሰውን እድገት መንገድ ሲይዙ እና ሁለቱንም የምርታማነት ትርፍ እና የስህተት ወጪዎችን በጊዜ ሂደት መከታተል።
አደጋዎች እና የጥበቃ መንገዶች
አንድ ቤንችማርክን ማሳደግ ሰፋ ያሉ የስርዓት ድክመቶችን ሊደብቅ ይችላል።
የመሠረተ ልማት እና የጥገና ወጪዎች ብዙ ጊዜ ዝቅተኛ ናቸው.
ስርዓቶች ይበልጥ ውስብስብ ሲሆኑ የደህንነት እና የታዛቢነት ክፍተቶች ሊያድጉ ይችላሉ።
የትግበራ ፍኖተ ካርታ
ከመተግበሩ በፊት የቆይታ፣ የጥራት እና የወጪ ግቦችን ይግለጹ።
ከመተግበሩ በፊት የቆይታ፣ የጥራት እና የወጪ ግቦችን ይግለጹ። እያንዳንዱን እርምጃ እንደማስረጃ በር ያዙት፡ መመዘኛዎቹ ካልተሟሉ፣ መልቀቅን ለአፍታ አቁም፣ ክፍተቱን ይዝጉ እና ከዚያ ብቻ አጠቃቀምን ያስፋፉ።
ቤንችማርክ በእውነተኛ ጭነት እና የውሂብ ሁኔታዎች።
ቤንችማርክ በእውነተኛ ጭነት እና የውሂብ ሁኔታዎች። እያንዳንዱን እርምጃ እንደማስረጃ በር ያዙት፡ መመዘኛዎቹ ካልተሟሉ፣ መልቀቅን ለአፍታ አቁም፣ ክፍተቱን ይዝጉ እና ከዚያ ብቻ አጠቃቀምን ያስፋፉ።
ለስህተቶች፣ ተንሸራታች እና የተጠቃሚ ተጽእኖ የመሳሪያ ክትትል።
ለስህተቶች፣ ተንሸራታች እና የተጠቃሚ ተጽእኖ የመሳሪያ ክትትል። እያንዳንዱን እርምጃ እንደማስረጃ በር ያዙት፡ መመዘኛዎቹ ካልተሟሉ፣ መልቀቅን ለአፍታ አቁም፣ ክፍተቱን ይዝጉ እና ከዚያ ብቻ አጠቃቀምን ያስፋፉ።
ከመጠኑ በፊት የመመለሻ እና የአደጋ ምላሽ መንገዶችን ያዘጋጁ።
ከመጠኑ በፊት የመመለሻ እና የአደጋ ምላሽ መንገዶችን ያዘጋጁ። እያንዳንዱን እርምጃ እንደማስረጃ በር ያዙት፡ መመዘኛዎቹ ካልተሟሉ፣ መልቀቅን ለአፍታ አቁም፣ ክፍተቱን ይዝጉ እና ከዚያ ብቻ አጠቃቀምን ያስፋፉ።