ቀጣይነት ያለው ትምህርት እና አስከፊ የመርሳት መመሪያ

አጠቃላይ እይታ

Its central obstacle is catastrophic forgetting: when a neural network learns a new task, gradient updates overwrite the weights that encoded earlier tasks, and old skills collapse.

ጥልቅ ዳይቭ

መደበኛ የነርቭ አውታሮች ሁሉም መረጃዎች በአንድ ጊዜ ይገኛሉ ብለው ያስባሉ. በገሃዱ ዓለም፣ መረጃ በቅደም ተከተል ይመጣል፣ እና በአዲስ ስራዎች ላይ በጥሩ ሁኔታ መስተካከል አሰቃቂ መርሳትን ያስከትላል - የቀደሙ ተግባራት አፈፃፀም ይቀንሳል ምክንያቱም የጋራ ክብደት እንደገና ስለሚፃፍ። ቀጣይነት ያለው ትምህርት መረጋጋትን (የድሮውን እውቀት ማቆየት) ከፕላስቲክነት (አዲስ እውቀትን መሳብ)፣ የጥንታዊው የመረጋጋት-ፕላስቲክ አጣብቂኝ ሚዛን ለመጠበቅ ይፈልጋል። ሶስት ዋና የመፍትሄ ቤተሰቦች አሉ፡ እንደ ላስቲክ የክብደት ማጠናከሪያ የመደበኛነት ዘዴዎች ለአሮጌ ስራዎች አስፈላጊ ናቸው ተብሎ በሚታሰበው የክብደት ለውጥ የሚቀጣ; ካለፉት ተግባራት ናሙናዎችን የሚያከማቹ ወይም የሚያመነጩ እና በስልጠና ወቅት የሚቋረጡ ዘዴዎችን እንደገና ማጫወት; እና በእያንዳንዱ ተግባር አዳዲስ መለኪያዎችን ወይም ሞጁሎችን የሚመድቡ የስነ-ህንፃ ዘዴዎች። ምንም ነጠላ ዘዴ ሙሉ ለሙሉ የሚፈታው የለም፣ እና ግምገማ የተግባር-፣ ጎራ- እና የክፍል-ጨማሪ መቼቶችን ያጠቃልላል።

ቴክኒካዊ ግንዛቤ

በአዲስ ተግባር ላይ ቀስ በቀስ መውረድ የጋራ ክብደቶችን ወደ አዲስ ምቹ ሁኔታ ስለሚያንቀሳቅስ እና ለአሮጌ ተግባራት ጥሩ በሆኑ ክልሎች አቅራቢያ ለመቆየት ምንም ገደብ ስለሌለው አስከፊ መርሳት ይፈጠራል። የላስቲክ ክብደት ማጠናከሪያ የእያንዳንዱን ክብደት አስፈላጊነት ይገምታል (በፊሸር መረጃ ማትሪክስ በኩል) እና ጠቃሚ ክብደቶችን ከአሮጌ እሴቶቻቸው አጠገብ የሚያስተላልፍ ኳድራቲክ ቅጣት ይጨምራል። ድጋሚ አጫውት የተከማቹ ወይም የተፈጠሩ አሮጌ ምሳሌዎችን ወደ አዲስ ባች በማቀላቀል የመጀመሪያውን የጋራ ስርጭት ይገመታል፣ ስለዚህ ቀስቶች ሁለቱንም አሮጌ እና አዲስ ስራዎችን ያንፀባርቃሉ፣ ይህም አጥፊ መፃፍን ይቀንሳል።

ስልታዊ ተጽእኖ

ግልጽ ውሳኔዎች

ግልጽ ቴክኒካዊ የይገባኛል ጥያቄዎችን ከገበያ ቋንቋ እንዲለዩ ያግዝዎታል።

ወጪ እና በጀት

ገንዘብን ወይም ጊዜን ከማጥፋትዎ በፊት የተሻሉ የትግበራ ጥያቄዎችን መጠየቅ ይችላሉ።

ቡድን እና የስራ ፍሰት

የጋራ ግንዛቤ ያላቸው ቡድኖች የተሻለ ምርት፣ ፖሊሲ እና የመማር ውሳኔዎችን ያደርጋሉ።

ቀጣይነት ያለው ትምህርት እና አስከፊ የመርሳት የወደፊት እጣ ፈንታ

ያለሙሉ እና ውድ ድጋሚ ስልጠና ትላልቅ ሞዴሎችን ወቅታዊ ለማድረግ ቀጣይነት ያለው ትምህርት ከጊዜ ወደ ጊዜ ወሳኝ ነው። ምርምር ወደ ፓራሜትር ቀልጣፋ ተከታታይ ዝመናዎች (አስማሚዎች፣ ሎአርኤ ሞጁሎች በአንድ ተግባር የተጨመሩ)፣ አመንጪ ሞዴሎችን በመጠቀም በተሻለ ሁኔታ መጫወት እና በመርሳት እና ያልተፈለገ መንሸራተትን በማስወገድ እውቀትን ወደ መሰረታዊ ሞዴሎች ወደሚያሻሽሉ ዘዴዎች እየገፋ ነው። በመሣሪያ ላይ ለሚማሩ የዕድሜ ልክ ወኪሎች ጥብቅ አገናኞችን ይጠብቁ፣ ግላዊነትን የሚጠብቅ ድጋሚ አጫውት ጥሬ መረጃን ከማጠራቀም የሚርቅ፣ እና ከተገቢው የተግባር ድንበሮች ይልቅ እውነተኛ እና ቋሚ ያልሆኑ የውሂብ ዥረቶችን በተሻለ ሁኔታ የሚያንፀባርቁ መለኪያዎችን ይጠብቁ።

የእውነተኛ-ዓለም አተገባበር

የቀደሙትን ሳይረሱ በየወሩ አዳዲስ የምርት ምድቦችን መማር ያለበት የተሰማራ የምስል ክላሲፋየር።

አጠቃላይ ትክክለኝነት ሳይጠፋ በጊዜ ሂደት ከተጠቃሚው ጋር የሚስማማ በመሣሪያ ላይ ግላዊነት ማላበስ (የቁልፍ ሰሌዳ ወይም የድምጽ ረዳት)።

ከዚህ ቀደም የተካኑትን እየያዙ አዳዲስ የማታለል ችሎታዎችን በቅደም ተከተል የሚያገኙ ሮቦቶች።

የቋንቋ ሞዴልን ከአዳዲስ እውነታዎች ወይም ጎራዎች ጋር በማዘመን አስማሚዎችን በመጠቀም የቀደሙ ችሎታዎች እንዲጠበቁ ማድረግ።

አደጋዎች እና የጥበቃ መንገዶች

የተለያዩ ቡድኖች ተመሳሳይ ቃል በተለያየ መንገድ ሊጠቀሙ ይችላሉ፣ ስለዚህ ወሰንን ቀደም ብለው ይግለጹ።

የገሃዱ ዓለም አፈጻጸም ያልተስተካከለ ሆኖ ሳለ ማመሳከሪያዎች ጠንካራ ሊመስሉ ይችላሉ።

የውሂብ ጥራት እና የግምገማ እቅዶችን ችላ ማለት ብዙውን ጊዜ ደካማ ውጤቶችን ይፈጥራል.

የትግበራ ፍኖተ ካርታ

የሚፈልጉትን ውጤት በግልፅ ቋንቋ ትርጉም ይጀምሩ።

ከመሞከርዎ በፊት አንድ የስኬት መለኪያ እና አንድ የውድቀት ሁኔታ ይምረጡ።

አንድ ትንሽ አብራሪ በተወካይ ውሂብ ያሂዱ እንጂ የተጣራ ማሳያ ስብስብ አይደለም።

ቀጣይነት ያለው ትምህርት እና አስከፊ መርሳት የሚረዳበት እና ቀላል ዘዴዎች የተሻሉበት ሰነድ።

ማሰስዎን ይቀጥሉ

AI ምንድን ነው?

በጥልቀት ከመጥለቅዎ በፊት አስፈላጊ ጽንሰ-ሀሳቦችን ያግኙ።

መመሪያ ያንብቡ

AI እንዴት እንደሚማር

ከዘመናዊ ስርዓቶች በስተጀርባ ያለውን የስልጠና ሂደት ይረዱ.

መመሪያ ያንብቡ

Free newsletter

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Continual Learning and Catastrophic Forgetting quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

ቀጣይ መመሪያ

አስከፊ መርሳት

ቀጣዩን መመሪያ ያንብቡ ሁሉንም ጥያቄዎች ያስሱ

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is Continual Learning and Catastrophic Forgetting?

ቀጣይነት ያለው ትምህርት AI ቀድሞ የሚያውቀውን ሳይሰርዝ በጊዜ ሂደት አዳዲስ ተግባራትን የማሰልጠን ግብ ነው። ማዕከላዊው መሰናክል አስከፊ መርሳት ነው፡ የነርቭ አውታረ መረብ አዲስ ተግባር ሲማር፣ ቀስ በቀስ ማሻሻያዎች ቀደም ሲል የተከናወኑ ተግባራትን በኮድ የያዙትን ክብደቶች ይተካሉ። እና የቆዩ ክህሎቶች ይወድቃሉ።

“አሰቃቂ መርሳት” ምንድን ነው?

አዲስ ነገር እየተማሩ የአውታረ መረብ የጋራ ክብደቶች ሲገለበጡ የድሮውን ተግባር አፈጻጸምን በከፍተኛ ሁኔታ ማጣት ከባድ መርሳት ነው።

Elastic Weight Consolidation (EWC) ምን ያደርጋል?

EWC ለአሮጌ ተግባራት አስፈላጊ ናቸው ተብለው የሚታሰቡትን ክብደቶች መርሳትን የሚቀንስ ቅጣት (የአሳሽ መረጃን በመጠቀም) ይጨምራል።

በድጋሜ ላይ የተመሰረቱ ዘዴዎች መርሳትን እንዴት ይዋጋሉ?

ድጋሚ አጫውት ያለፉትን ምሳሌዎች ወደ አዲስ ባች ያቀላቅላል ስለዚህ ቅልመት ሁለቱንም አሮጌ እና አዲስ ተግባራትን ያንፀባርቃል፣ ይህም የመጀመሪያውን የጋራ ውሂብ ይገመታል።

ከሦስቱ ዋና ዋና ተከታታይ የመማር ዘዴዎች መካከል አንዱ ያልሆነው የትኛው ነው?

ሦስቱ ዋና ዋና ቤተሰቦች መደበኛነት, እንደገና መጫወት እና የስነ-ህንፃ ዘዴዎች ናቸው; መጭመቅ ከእነዚህ ውስጥ አንዱ አይደለም.

በአዲስ ተግባር ላይ የዋህነት ማስተካከያ ለምን ይረሳል?

ያልተገደቡ የግራዲየንት ማሻሻያዎች ለቀደምት ተግባራት ጥሩ የሆኑትን ክልሎችን በመተው ወደ አዲሱ ምቹ አቅጣጫ የጋራ ክብደቶችን እንደገና ይጽፋሉ።