গাইড লিঙ্ক ক্যুইজ · কঠিন স্তর

RWKV লিনিয়ার অ্যাটেনশন কুইজ

RWKV-এর রিসেপ্টেন্স গেট, সময় ক্ষয়, কী/মূল্যের পুনরাবৃত্তি, ধ্রুব-আকারের অবস্থা এবং ট্রান্সফরমার-এর মতো সমান্তরাল প্রশিক্ষণ ফর্ম অন্বেষণ করুন।

সম্পর্কিত গাইড পাথRwkv রৈখিক মনোযোগ
প্রশ্ন 1 এর 8

RWKV এর শিরোনাম সম্পত্তি কি?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. RWKV এর শিরোনাম সম্পত্তি কি?
    • এটি একটি ট্রান্সফরমারের মতো ট্রেন করে কিন্তু একটি RNN এর মতো অনুমান চালায়
    • এটা শুধুমাত্র ইমেজ প্রশিক্ষিত করা যেতে পারে
    • এটি একটি দ্বিঘাত কী-মান ক্যাশে প্রয়োজন
    • এটা মোটেও সমান্তরাল হতে পারে না
  2. RWKV-এর অক্ষরগুলি কী বোঝায়?
    • পড়ুন, লিখুন, রাখুন, যাচাই করুন
    • গ্রহণ, ওজন, কী, মান
    • পৌনঃপুনিক, প্রশস্ত, কার্নেল, ভেক্টর
    • এলোমেলো, ওজনযুক্ত, জ্ঞান, পরিবর্তন
  3. কিভাবে RWKV প্রজন্মের সময় মেমরি ধ্রুবক রাখে?
    • মডেল ওজন মুছে ফেলার মাধ্যমে
    • ডিস্কে প্রতিটি টোকেন সংরক্ষণ করে
    • ক্রমবর্ধমান ক্যাশের পরিবর্তে একটি ছোট নির্দিষ্ট-আকারের লুকানো অবস্থাকে এগিয়ে নিয়ে যাওয়ার মাধ্যমে
    • দশ টোকেনে আউটপুট সীমাবদ্ধ করে
  4. সময়-ক্ষয় ওজন (W) কী ভূমিকা পালন করে?
    • এটি শেখার হার নির্ধারণ করে
    • এটি টোকেনের সংখ্যা গণনা করে
    • এটি আউটপুট ভাষা বাছাই করে
    • পুরানো তথ্য কত দ্রুত প্রভাব হারায় তা নিয়ন্ত্রণ করে
  5. সফ্টম্যাক্স মনোযোগের তুলনায়, RWKV-এর রৈখিক-মনোযোগের পুনরাবৃত্তি কী এড়ায়?
    • চতুর্মুখী সব-জোড়া টোকেন তুলনা
    • কী এবং মানগুলির যেকোনো ব্যবহার
    • এমবেডিং জন্য প্রয়োজন
    • নিউরাল নেটওয়ার্কের ব্যবহার
  6. কেন RWKV স্ট্রিমিং প্রজন্মের জন্য বিশেষভাবে উপযুক্ত?
    • কারণ এটি যেকোন আউটপুটের আগে সম্পূর্ণ ইনপুট দেখতে হবে
    • কারণ প্রতিটি নতুন টোকেন শুধুমাত্র পূর্ববর্তী ফিক্সড সাইজের অবস্থার উপর নির্ভর করে
    • কারণ এটি পাঠ্য তৈরি করতে পারে না
    • কারণ প্রতিটি টোকেনের জন্য এটির একটি GPU ক্লাস্টার প্রয়োজন
  7. In the guide’s RWKV description, what does the receptance gate control?
    • How many image patches are generated
    • The size of the model vocabulary
    • How much of the accumulated state is read out
    • The amount of GPU memory available
  8. What training property does RWKV retain from Transformers?
    • Full quadratic key-value caching at inference
    • A separate generator and discriminator
    • A fixed top-k token router in every layer
    • Parallelizable training across sequence positions