Stochastic ክብደት አማካኝ መመሪያ

አጠቃላይ እይታ

This cheap trick often lands the model in a flatter, wider region of the loss landscape, which tends to generalize noticeably better on unseen data.

ጥልቅ ዳይቭ

በ2018 በአይዝማይሎቭ፣ ዊልሰን እና ባልደረቦች የተዋወቀው SWA በቋሚ ወይም ሳይክሊካል የመማሪያ ፍጥነት ያለው SGD ወደ አንድ ነጥብ እንደማይመጣ ምልከታውን ይጠቀማል - በሰፊ እና ጠፍጣፋ ሸለቆ ዳርቻ ዙሪያ ይንሰራፋል። ከእነዚያ ጫጫታ ካላቸው የማቆሚያ ነጥቦች አንዱን ከመምረጥ ይልቅ፣ SWA መጠነኛ የሆነ ከፍተኛ (ብዙውን ጊዜ ቋሚ ወይም ሳይክል) ለመጨረሻዎቹ ዘመናት የመማሪያ ፍጥነትን ያካሂዳል እና የሚጎበኟቸውን ክብደቶች በተለይም በእያንዳንዱ ዘመን። አማካይ ክብደቶች ወደ ጠፍጣፋው ክልል መሃል ተቀምጠዋል። ባች-ኖርማላይዜሽን ስታቲስቲክስ ለተወሰኑ ክብደቶች ስለሚሰሉ፣ኤስዋኤ በመረጃው ላይ አንድ ተጨማሪ ማለፍን ይፈልጋል የBN ማስኬጃ ዘዴዎችን እና ለአማካይ ሞዴል ልዩነቶችን እንደገና ለማስላት። ዋጋው በመሠረቱ ነፃ ነው፣ እና ትክክለኛነት በምስል ክላሲፋየሮች እና ከዚያም በላይ ወጥ ናቸው።

ቴክኒካዊ ግንዛቤ

SWA የሩጫ አማካኝ w_SWA = (n·w_SWA + w_i)/(n+1) እያንዳንዱን ዑደት አዘምኗል፣ የቀጥታ SGD ሞዴል ግን በአንጻራዊ ትልቅ የመማሪያ ፍጥነት ማሰስን ይቀጥላል። የክብደት ቦታ አማካኝ የተግባር ቦታ ላይ ያለ ስብስብን ይገመታል ነገር ግን በምርጫ አንድ ሞዴል ያስከፍላል እንጂ ብዙ አይደለም። ዋናው ዘዴ ጠፍጣፋ ሚኒማ ለክብደት መዛባቶች ጠንካራ በመሆናቸው የስልጠና/የሙከራ መጥፋት ንጣፎች ተስተካክለው ይቆያሉ፣ ይህም የአጠቃላይ ክፍተቱን ይቀንሳል።

ስልታዊ ተጽእኖ

ወጪ እና በጀት

የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ.

ግልጽ ውሳኔዎች

የቴክኒክ ትምህርት ቡድኖች አዲሱን ብቻ ሳይሆን ትክክለኛውን ቁልል እንዲመርጡ ይረዳል።

የጥራት ቁጥጥር

የተሻሉ የምህንድስና ምርጫዎች በምርት ውስጥ አስተማማኝነት ክስተቶችን ይቀንሳሉ.

የስቶካስቲክ ክብደት አማካኝ የወደፊት ዕጣ

SWA እንደ SWA-Gaussian (SWAG) ያሉ ልዩነቶችን ለርካሽ የቤኤሺያን አለመረጋጋት ፈጥሯል፣ እና አማካኝ ሃሳቡ አሁን በስፋት በስርጭት ሞዴሎች ውስጥ በሰፊው ጥቅም ላይ የሚውሉ ገላጭ ተንቀሳቃሽ አማካኝ ዘዴዎችን ይደግፋል፣ በራስ ቁጥጥር የሚደረግ ትምህርት እና ትልቅ ሞዴል ቅድመ ስልጠና። በአማካኝ ክብደት በስልጠና የምግብ አዘገጃጀት ውስጥ ነባሪ 'ነጻ ምሳ' ሆኖ እንዲቆይ ይጠብቁ፣ በምርምር እራሱን ችሎ የሰለጠኑ ሞዴሎችን (ሞዴል ሾርባዎችን) በማዋሃድ እና ከጥሬ ትክክለኛነት ጋር ልኬትን ያሻሽላል።

የእውነተኛ-ዓለም አተገባበር

የResNet እና የDenseNet ምስል ክላሲፋየሮችን በCIFAR እና ImageNet ላይ ያለ ምንም ተጨማሪ የፍተሻ ወጪ ማሳደግ።

SWAG (SWA-Gaussian) ከአንድ የሥልጠና ሩጫ ለደህንነት-ስሜታዊ ትንበያዎች የተስተካከለ እርግጠኛ አለመሆን ግምቶችን በማምረት ላይ።

EMA-of-weights የናሙና አውታርን በማረጋጋት በስርጭት ምስል ጀነሬተሮች ውስጥ እንደ የተረጋጋ ስርጭት።

እንደገና ሳይሰለጥኑ ጥንካሬን ለማሻሻል ብዙ በጥሩ ሁኔታ የተስተካከሉ የፍተሻ ነጥቦችን በአማካይ በማዘጋጀት 'ሞዴል ሾርባዎችን' መገንባት።

አደጋዎች እና የጥበቃ መንገዶች

አንድ ቤንችማርክን ማሳደግ ሰፋ ያሉ የስርዓት ድክመቶችን ሊደብቅ ይችላል።

የመሠረተ ልማት እና የጥገና ወጪዎች ብዙ ጊዜ ዝቅተኛ ናቸው.

ስርዓቶች ይበልጥ ውስብስብ ሲሆኑ የደህንነት እና የታዛቢነት ክፍተቶች ሊያድጉ ይችላሉ።

የትግበራ ፍኖተ ካርታ

ከመተግበሩ በፊት የቆይታ፣ የጥራት እና የወጪ ግቦችን ይግለጹ።

ቤንችማርክ በእውነተኛ ጭነት እና የውሂብ ሁኔታዎች።

ለስህተቶች፣ ተንሸራታች እና የተጠቃሚ ተጽእኖ የመሳሪያ ክትትል።

ከመጠኑ በፊት የመመለሻ እና የአደጋ ምላሽ መንገዶችን ያዘጋጁ።

ማሰስዎን ይቀጥሉ

AI ቤንችማርኮች

ቴክኒካዊ አማራጮችን ሲያወዳድሩ ግምገማን በአግባቡ ይጠቀሙ።

መመሪያ ያንብቡ

የማጠናከሪያ ትምህርት

ወደ ቴክኒካዊ የሥልጠና ስልቶች በጥልቀት ይሂዱ።

መመሪያ ያንብቡ

Free newsletter

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Stochastic Weight Averaging quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

ቀጣይ መመሪያ

የክብደት ማስጀመር

ቀጣዩን መመሪያ ያንብቡ ሁሉንም ጥያቄዎች ያስሱ

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is Stochastic Weight Averaging?

የስቶካስቲክ ክብደት አማካኝ (SWA) የመጨረሻውን ቅጽበታዊ እይታ ብቻ ከማስቀመጥ ይልቅ በስልጠና ዘግይቶ ከብዙ ነጥቦች የአምሳያው ክብደት ቀላል አማካይ ይወስዳል። ይህ ርካሽ ብልሃት ብዙውን ጊዜ ሞዴሉን ወደ ጠፍጣፋ እና ሰፋ ያለ የኪሳራ ገጽታ ክልል ውስጥ ያደርገዋል ፣ ይህም በማይታየው መረጃ ላይ በተሻለ ሁኔታ አጠቃላይ የማድረግ አዝማሚያ አለው።

የስቶካስቲክ ክብደት አማካኝ ምን ማለት ነው?

SWA አማካኝ የሚለካው በመጨረሻው የሥልጠና ምዕራፍ ላይ በበርካታ የፍተሻ ቦታዎች ላይ የሚሰበሰቡትን የሞዴል መለኪያዎች (ክብደቶች) ነው እንጂ ትንበያ ወይም ቅልመት አይደለም።

ለምንድነው SWA አጠቃላይነትን የማሻሻል ዝንባሌ ያለው?

አማካኝ መፍትሄውን ወደ ጠፍጣፋው የኪሳራ ቦታ መሃል ያንቀሳቅሰዋል፣ እና ባቡሩ እና የፈተናው ኪሳራዎች የተስተካከሉ ስለሆኑ ጠፍጣፋ ዝቅተኛነት በተሻለ ሁኔታ አጠቃላይ ይሆናል።

የቡድን መደበኛነት ለሚጠቀሙ አውታረ መረቦች SWA ምን ተጨማሪ እርምጃ ይፈልጋል?

የ BN ስታቲስቲክስ በተወሰኑ ክብደቶች ላይ ስለሚወሰን አማካኙ ሞዴል የሩጫ መንገዶችን እና ልዩነቶችን እንደገና ለማስላት አንድ ተጨማሪ መረጃ ያስፈልገዋል።

በSWA አማካኝ ደረጃ ምን ዓይነት የመማር-ተመን ባህሪ በተለምዶ ጥቅም ላይ ይውላል?

SWA በመጠኑ ከፍተኛ የሆነ ቋሚ ወይም ሳይክሊካል የመማሪያ ፍጥነትን ይይዛል ስለዚህ SGD ነጥቦቹ አማካይ የሆኑትን ሰፊ ጠፍጣፋ ክልል ማሰስን ይቀጥላል።

የ SWA ዋጋ ከባህላዊ የN ሞዴሎች ስብስብ ጋር እንዴት ይነጻጸራል?

SWA ብዙ የፍተሻ ኬላዎችን ወደ አንድ አማካኝ የክብደት ስብስብ ይፈርሳል፣ ስለዚህ ኢንቬንሽን ዋጋ ከአንድ ሞዴል N ይልቅ አንድ አይነት ነው።