গাইড লিঙ্ক ক্যুইজ · কঠিন স্তর
ব্যাচ স্বাভাবিককরণ কুইজ
ব্যাচের পরিসংখ্যান, অ্যাফাইন স্কেল এবং শিফট, চলমান গড়, ছোট-ব্যাচের অস্থিরতা এবং কীভাবে ব্যাচনর্ম লেয়ারনর্ম থেকে আলাদা তা পরীক্ষা করে।
প্রশ্ন 1 এর 8
ব্যাচ স্বাভাবিককরণ স্বাভাবিককরণ কি?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- ব্যাচ স্বাভাবিককরণ স্বাভাবিককরণ কি?
- বর্তমান মিনি-ব্যাচের উদাহরণ জুড়ে একটি স্তরে ইনপুট
- নেটওয়ার্কের চূড়ান্ত আউটপুট লেবেল
- সময়ের সাথে সাথে শেখার হারের সময়সূচী
- প্রশিক্ষণ ডেটাসেটের আকার
- কেন ব্যাচ স্বাভাবিককরণে শেখার যোগ্য প্যারামিটার গামা এবং বিটা অন্তর্ভুক্ত?
- ডেটাসেটের আকার বাড়ানোর জন্য
- প্রতিনিধিত্বমূলক শক্তি সংরক্ষণ করে নেটওয়ার্ক স্কেল এবং স্বাভাবিক মান পরিবর্তন করতে দিন
- প্রশিক্ষণের সময় এলোমেলোভাবে নিউরন ড্রপ করা
- ক্ষতি ফাংশন গণনা
- ব্যাচ স্বাভাবিককরণের একটি সাধারণভাবে উদ্ধৃত ব্যবহারিক সুবিধা কী?
- এটি যেকোন প্রশিক্ষণের ডেটার প্রয়োজনীয়তা দূর করে
- এটি গ্যারান্টি দেয় যে মডেলটি ওভারফিট করতে পারবে না
- এটি উচ্চতর শিক্ষার হার এবং দ্রুত, আরও স্থিতিশীল অভিসারণের অনুমতি দেয়
- এটি একটি অ্যাক্টিভেশন ফাংশনের প্রয়োজনীয়তা দূর করে
- অনুমান সময়ে (নতুন ডেটার উপর ভবিষ্যদ্বাণী করা), ব্যাচ স্বাভাবিককরণ কোন পরিসংখ্যান ব্যবহার করে?
- শুধুমাত্র বর্তমান একক ইনপুটের গড় এবং প্রকরণ
- এলোমেলোভাবে উত্পন্ন পরিসংখ্যান প্রতিবার
- পরীক্ষার পরিসংখ্যান আগাম গণনা সেট
- প্রশিক্ষণের সময় সঞ্চিত গড় এবং বৈচিত্র্যের চলমান গড়
- কেন ব্যাচ স্বাভাবিককরণ খুব ছোট ব্যাচ আকারের সাথে খারাপ আচরণ করতে পারে?
- ব্যাচ পরিসংখ্যান শোরগোল এবং সত্য বন্টন অবিশ্বস্ত অনুমান হয়ে
- ছোট ব্যাচগুলি মেমরিতে ফিট করার জন্য মডেলটিকে খুব বড় করে তোলে
- এটি সক্রিয়করণ ফাংশন নিষ্ক্রিয় করে
- ছোট ব্যাচগুলি L1 নিয়মিতকরণের ব্যবহার জোর করে
- ব্যাচ স্বাভাবিকীকরণের বিকল্প হিসাবে ট্রান্সফরমার আর্কিটেকচারে কোন স্বাভাবিকীকরণ কৌশলটি সবচেয়ে বেশি ব্যবহৃত হয়?
- ড্রপআউট স্বাভাবিককরণ
- স্তর স্বাভাবিককরণ
- ক্ষতির L2 স্বাভাবিককরণ
- গ্রেডিয়েন্ট ক্লিপিং
- Why does BatchNorm use running averages during inference instead of the current test batch’s statistics?
- To retrain the model on test data
- To make all activations exactly zero
- So a prediction does not depend on which other examples happen to share the batch
- To eliminate learned gamma and beta
- Where is BatchNorm commonly placed within a layer block according to the guide?
- Only after the final prediction
- Before the input data are loaded
- Inside the optimizer update
- Between the linear transformation and its activation function