ওজন প্রাথমিক কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. কেন সমস্ত ওজন শূন্য থেকে শুরু করা একটি মারাত্মক ভুল?
   • সমস্ত নিউরন অভিন্ন গ্রেডিয়েন্ট গ্রহণ করে এবং কখনও পার্থক্য করে না (প্রতিসাম্য ভাঙ্গা হয় না)
   • এটি প্রশিক্ষণকে খুব দ্রুত করে তোলে
   • এতে ক্ষতি নেতিবাচক হয়ে যায়
   • এটি অত্যধিক মেমরি ব্যবহার করে
2. তিনি (কাইমিং) ইনিশিয়ালাইজেশন বিশেষভাবে কোন অ্যাক্টিভেশন ফাংশনের জন্য ডিজাইন করা হয়েছে?
   • সিগমায়েড
   • ReLU
   • তানহ
   • সফটম্যাক্স
3. নীতিগত ওজন প্রারম্ভিক প্রকল্পের প্রধান লক্ষ্য কি?
   • সব ওজন সমান করতে
   • প্রতিটি ওজন এক সেট করতে
   • অ্যাক্টিভেশন এবং গ্রেডিয়েন্টের বৈচিত্র্যকে স্তর জুড়ে মোটামুটিভাবে স্থির রাখতে
   • ডেটার প্রয়োজনীয়তা দূর করতে
4. কোন অ্যাক্টিভেশনগুলি ব্যবহার করে নেটওয়ার্কগুলির জন্য জেভিয়ার (গ্লোরোট) ইনিশিয়ালাইজেশন সবচেয়ে উপযুক্ত?
   • ReLU এবং এর ভেরিয়েন্ট
   • শুধুমাত্র লিনিয়ার অ্যাক্টিভেশন
   • কোনো সক্রিয়তা নেই
   • Tanh এবং sigmoid
5. কেন তিনি সূচনা 1 / fan_in এর পরিবর্তে 2 / fan_in এর একটি বৈচিত্র ব্যবহার করেন?
   • ReLU এর জন্য ক্ষতিপূরণ দিতে এর প্রায় অর্ধেক ইনপুট শূন্যে সেট করে
   • অকারণে ওজন বড় করা
   • পরামিতি সংখ্যা কমাতে
   • ব্যাচ আকার মেলে
6. ওজনগুলি এলোমেলোভাবে শুরু হলে কীভাবে পক্ষপাতগুলি সাধারণত শুরু হয়?
   • খুব বড় ইতিবাচক মান
   • শূন্যে, যেহেতু প্রতিসাম্য ইতিমধ্যেই এলোমেলো ওজন দ্বারা ভেঙে গেছে
   • শেখার হার হিসাবে একই মান
   • ওজনের চেয়ে বড় এলোমেলো মানগুলির জন্য৷
7. Under Xavier initialization, which quantities determine the weight variance in the guide’s formula?
   • The number of training epochs and batch size
   • The output class count alone
   • Fan-in and fan-out
   • The activation’s test accuracy
8. For a ReLU layer with fan-in 64, what variance does the He formula 2/fan_in specify?
   • 1/64
   • 1/16
   • 2/64 squared
   • 1/32