নিউরাল ট্যানজেন্ট কার্নেল থিওরি কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. অসীম-প্রস্থ সীমাতে, প্রশিক্ষণের সময় নিউরাল ট্যানজেন্ট কার্নেল কীভাবে আচরণ করে?
   • এটি মূলত স্থির থাকে
   • এটি প্রতি পদক্ষেপে দ্রুত পরিবর্তন হয়
   • এটা শূন্য হয়ে যায়
   • এটি দ্রুত বৃদ্ধি পায়
2. NTK গাণিতিকভাবে কি?
   • ক্ষতির হেসিয়ান
   • দুটি ইনপুটের জন্য নেটওয়ার্কের প্যারামিটার গ্রেডিয়েন্টের অভ্যন্তরীণ পণ্য
   • আউটপুট এর softmax
   • ওজনের বৈচিত্র
3. নিউরাল ট্যানজেন্ট কার্নেল কে প্রবর্তন করেন?
   • হিন্টন এবং সালাখুতদিনভ
   • লেকুন এবং বেঙ্গিও
   • জ্যাকট, গ্যাব্রিয়েল এবং হংলার (2018)
   • ভাসওয়ানি ও সহকর্মীরা
4. 'অলস প্রশিক্ষণ' ব্যবস্থা কি?
   • যখন প্রশিক্ষণ বিরতি দেওয়া হয়
   • যখন অপ্টিমাইজার কোন গতি ব্যবহার করে না
   • যখন ডেটা ধীরে ধীরে খাওয়ানো হয়
   • যখন প্যারামিটারগুলি সবেমাত্র শুরু থেকে সরে যায় এবং নেটওয়ার্ক রৈখিকভাবে আচরণ করে
5. বাস্তব নেটওয়ার্কগুলির জন্য NTK তত্ত্বের একটি মূল সীমাবদ্ধতা হল এটি মিস করে:
   • সসীম-প্রস্থ নেটওয়ার্কে শিক্ষার বৈশিষ্ট্য
   • গ্রেডিয়েন্ট ডিসেন্টের ভূমিকা
   • ওজনের অস্তিত্ব
   • প্রশিক্ষণ তথ্য ব্যবহার
6. কারণ NTK কার্নেল রিগ্রেশনে প্রশিক্ষণ হ্রাস করে, কী সম্ভব?
   • যেকোন ডেটার প্রয়োজনীয়তা দূর করা
   • সম্পূর্ণ প্রশিক্ষণ ছাড়াই প্রশিক্ষিত আউটপুটের পূর্বাভাস
   • প্যারামিটার ছাড়া মডেল চলমান
   • সর্বদা শূন্য পরীক্ষা ত্রুটি গ্যারান্টি
7. In the infinite-width limit, what probabilistic model are neural networks equivalent to at initialization?
   • লুকানো মার্কভ মডেল
   • একটি সিদ্ধান্ত গাছ ensemble
   • A Gaussian process
   • A finite-state game controller
8. For least-squares regression in the NTK limit, what mathematical form does the network function's training evolution follow?
   • A discrete rule that randomly changes labels
   • A decision tree that grows one branch per epoch
   • A nonlinear search over audio frames
   • A linear differential equation in function space