সর্বনাশা ভুলে যাওয়া
বিপর্যয়কর বিস্মৃতি হল যখন একটি নিউরাল নেটওয়ার্ক একটি নতুন কাজ শিখে এবং আকস্মিকভাবে এটি ইতিমধ্যে আয়ত্ত করা কাজগুলি সম্পাদন করার ক্ষমতা হারিয়ে ফেলে।
ওভারভিউ
It is a central obstacle to building AI that learns continually without retraining from scratch.
গভীর ডুব
নিউরাল নেটওয়ার্ক শেয়ার করা ওজনে জ্ঞান সঞ্চয় করে। যখন আপনি একটি মডেলকে একটি নতুন টাস্কের উপর প্রশিক্ষণ দেন, গ্রেডিয়েন্ট আপডেটগুলি আগের দক্ষতাগুলিকে এনকোড করা খুব প্যারামিটারগুলিকে ওভাররাইট করে, তাই পুরানো কার্যকারিতা ভেঙে যেতে পারে। এটি হল বিপর্যয়কর বিস্মরণ, যাকে বিপর্যয়মূলক হস্তক্ষেপও বলা হয়, ম্যাকক্লোস্কি এবং কোহেন 1989 সালে প্রথম নথিভুক্ত করেন। এটি ক্রমাগত বা ক্রমাগত শিক্ষার ক্ষেত্রে তীব্র, যেখানে ডেটা সব একসাথে মিশ্রিত হওয়ার পরিবর্তে পর্যায়ক্রমে আসে। উদাহরণস্বরূপ, আইনী পাঠ্যের উপর একটি চ্যাটবটকে সূক্ষ্মভাবে টিউন করা তার সাধারণ কথোপকথন ক্ষমতাকে হ্রাস করতে পারে। স্ট্যান্ডার্ড ব্রুট-ফোর্স ফিক্স হল যৌথভাবে সমস্ত কাজের পুনরায় প্রশিক্ষণ দেওয়া, তবে এটি ব্যয়বহুল এবং ধরে নেয় যে আপনার কাছে এখনও পুরানো ডেটা রয়েছে। গবেষকরা পরিবর্তে এমন কৌশলগুলি ব্যবহার করেন যা গুরুত্বপূর্ণ ওজনগুলিকে রক্ষা করে, অতীতের উদাহরণগুলিকে পুনরায় প্লে করে বা টাস্ক-নির্দিষ্ট পরামিতিগুলি যোগ করে, যার উদ্দেশ্য হল মডেলগুলিকে মানুষের মতো জ্ঞান সঞ্চয় করতে দেওয়া।
প্রযুক্তিগত অন্তর্দৃষ্টি
ভুলে যাওয়া ঘটছে কারণ একই ওজনগুলি টাস্ক জুড়ে পুনরায় ব্যবহার করা হয় এবং নতুন ডেটাতে সীমাবদ্ধ গ্রেডিয়েন্ট ডিসেন্ট তাদের অবাধে সরানো হয়। প্রশমনের মধ্যে রয়েছে ইলাস্টিক ওয়েট কনসোলিডেশন, যা একটি পেনাল্টি যোগ করে যা পুরানো কাজের জন্য গুরুত্বপূর্ণ বলে বিবেচিত পরামিতিগুলির পরিবর্তনকে ধীর করে দেয় (ফিশার তথ্যের মাধ্যমে অনুমান করা হয়)। অন্যান্য পন্থা হল রিহার্সাল বা এক্সপেরিয়েন্স রিপ্লে (সঞ্চিত বা জেনারেট করা পুরনো উদাহরণ) এবং প্যারামিটার আইসোলেশন পদ্ধতি যেমন অ্যাডাপ্টার বা LoRA যা বেস মডেলকে ফ্রিজ করে এবং ছোট নতুন মডিউল যোগ করে।
কৌশলগত প্রভাব
গতি এবং স্কেল
ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
অ্যাক্সেস এবং পৌঁছানো
এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
সুস্পষ্ট সিদ্ধান্ত
অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।
বিপর্যয়কর ভুলে যাওয়ার ভবিষ্যত
মডেলগুলি এক-শট প্রশিক্ষণ থেকে আজীবন, ক্রমাগত আপডেট হওয়া সিস্টেমের দিকে অগ্রসর হওয়ার সাথে সাথে ভুলে যাওয়া নিয়ন্ত্রণ করা অপরিহার্য হয়ে ওঠে। LoRA অ্যাডাপ্টারের মতো প্যারামিটার-দক্ষ পদ্ধতিগুলি দলগুলিকে বেস মডেলকে বিরক্ত না করে দক্ষতা যোগ করতে দেয় এবং পুনরুদ্ধার-বর্ধিত সিস্টেমগুলি ওজনের পরিবর্তে একটি বাহ্যিক স্টোরে নতুন জ্ঞান রেখে সমস্যাটিকে এড়িয়ে যায়। ক্রমাগত-শিক্ষার মানদণ্ড, মডুলার আর্কিটেকচার, এবং মস্তিষ্ক-অনুপ্রাণিত একত্রীকরণ কৌশলগুলি পরিপক্ক হওয়ার প্রত্যাশা করুন, যা তারা ইতিমধ্যে যা জানে তা নির্ভরযোগ্যভাবে ধরে রেখে নতুন তথ্য সহ আপডেট করে এমন মডেলগুলির দিকে আমাদের নিয়ে যায়।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি সাধারণ চ্যাটবট মেডিক্যাল টেক্সটের উপর খুব বেশি সূক্ষ্ম সুর করা নৈমিত্তিক কথোপকথনে সাবলীলতা হারায়।
ইলাস্টিক ওয়েট কনসোলিডেশন একটি গেম-প্লেয়িং এজেন্টকে পুরানোগুলিকে ভুলে না গিয়ে নতুন আটারি গেম শিখতে দেয়।
দলগুলি হিমায়িত বেস মডেলের ক্ষমতাগুলি অক্ষত রেখে একটি নতুন ডোমেন দক্ষতা যোগ করতে LoRA অ্যাডাপ্টার ব্যবহার করে৷
পুরানো কর্মক্ষমতা সংরক্ষণের জন্য নতুন প্রশিক্ষণের সময় অতীতের উদাহরণগুলি রিপ্লে স্টোর করার অভিজ্ঞতা নিন এবং সেগুলিকে ইন্টারলিভ করুন।
ঝুঁকি এবং প্রহরী
হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।
বাস্তবায়ন রোডম্যাপ
রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Catastrophic Forgetting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
ক্রমাগত শিক্ষা এবং বিপর্যয়কর ভুলে যাওয়া
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Catastrophic Forgetting?
বিপর্যয়কর বিস্মৃতি হল যখন একটি নিউরাল নেটওয়ার্ক একটি নতুন কাজ শিখে এবং আকস্মিকভাবে এটি ইতিমধ্যে আয়ত্ত করা কাজগুলি সম্পাদন করার ক্ষমতা হারিয়ে ফেলে। এটি AI তৈরির জন্য একটি কেন্দ্রীয় বাধা যা স্ক্র্যাচ থেকে পুনরায় প্রশিক্ষণ না দিয়ে ক্রমাগত শেখে।
সর্বনাশা ভুলে যাওয়া কি?
বিপর্যয়মূলক ভুলে যাওয়া হল পুরানো ক্ষমতার আকস্মিক ক্ষতি যখন একটি নেটওয়ার্ককে একটি নতুন কাজের প্রশিক্ষণ দেওয়া হয়, কারণ ভাগ করা ওজনগুলি ওভাররাইট হয়ে যায়।
নিউরাল নেটওয়ার্কে কেন বিপর্যয়কর ভুলে যাওয়া হয়?
জ্ঞান ভাগ করা পরামিতিগুলিতে বাস করে, তাই নতুন ডেটার প্রশিক্ষণ সেই একই ওজনকে পরিবর্তন করে এবং আগের শিক্ষাকে মুছে দেয়।
ইলাস্টিক ওয়েট কনসোলিডেশন (EWC) ভুলে যাওয়া কমাতে কী করে?
EWC একটি নিয়মিতকরণ জরিমানা যোগ করে যা ফিশার তথ্যের মাধ্যমে অনুমান করা পুরানো কাজের জন্য গুরুত্বপূর্ণ হিসাবে বিবেচিত প্যারামিটারগুলির আপডেটগুলিকে ধীর করে দেয়।
কিভাবে অভিজ্ঞতা রিপ্লে (মহড়া) যুদ্ধ ভুলে যাওয়া?
নতুন কাজ শেখার সময় অতীতের উদাহরণে (সংরক্ষিত বা উত্পন্ন) রিহার্সাল মিশ্রিত হয় যাতে পুরানো কর্মক্ষমতা শক্তিশালী হয়।
বিপর্যয়কর ভুলে যাওয়া এড়ানোর জন্য কেন LoRA অ্যাডাপ্টারগুলি দরকারী?
LoRA বেস মডেল হিমায়িত রাখে এবং ছোট অ্যাড-অন প্যারামিটার শিখে, তাই নতুন দক্ষতা বিদ্যমান ক্ষমতাগুলিকে বিরক্ত করে না।