গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

দীর্ঘ-প্রসঙ্গ মডেলিং কুইজ

প্রসঙ্গ উইন্ডো, মনোযোগ খরচ, অবস্থান-সংবেদনশীল পুনরুদ্ধার, FlashAttention এবং কার্যকর প্রসঙ্গ ব্যবহারের মূল্যায়ন পর্যালোচনা করুন।

সম্পর্কিত গাইড পাথদীর্ঘ প্রসঙ্গ মডেলিং
প্রশ্ন 1 এর 8

একটি মডেলের 'প্রসঙ্গ উইন্ডো' কি উল্লেখ করে?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. একটি মডেলের 'প্রসঙ্গ উইন্ডো' কি উল্লেখ করে?
    • এটি এক পাসে সর্বাধিক সংখ্যক টোকেন ব্যবহার করতে পারে
    • চ্যাট ইন্টারফেসের পর্দার আকার
    • একবারে অনুমোদিত ব্যবহারকারীর সংখ্যা
    • মডেলকে কতদিন প্রশিক্ষণ দেওয়া হয়েছে
  2. কেন দীর্ঘ ইনপুট জন্য মান স্ব-মনোযোগ ব্যয়বহুল হয়ে ওঠে?
    • এটি রৈখিকভাবে বৃদ্ধি পায় এবং সর্বদা সস্তা
    • এর গণনা এবং মেমরি ক্রম দৈর্ঘ্যের সাথে চতুর্মুখীভাবে বৃদ্ধি পায়
    • এটি একাধিক টোকেন পড়তে পারে না
    • এটা শুধুমাত্র ইমেজ উপর কাজ করে
  3. 'মাঝখানে হারিয়ে যাওয়া' সমস্যা কী?
    • মডেলরা তাদের প্রশিক্ষণ সম্পূর্ণভাবে ভুলে যায়
    • মডেলগুলি শুধুমাত্র একটি নথির মাঝখানে পড়তে পারে
    • মডেলগুলি একটি দীর্ঘ ইনপুটের শুরুতে এবং শেষে তথ্যগুলিকে মাঝখানে সমাহিত তথ্যের চেয়ে ভাল মনে করে
    • মডেলরা মধ্যকে অন্য ভাষায় অনুবাদ করে
  4. FlashAttention প্রাথমিকভাবে কি উন্নতি করে?
    • এটি মডেল আউটপুট দীর্ঘ পাঠ্য করে তোলে
    • এটি স্বয়ংক্রিয়ভাবে আরও প্রশিক্ষণ ডেটা যোগ করে
    • এটা কোন মনোযোগ জন্য প্রয়োজন অপসারণ
    • এটি একটি IO-সচেতন, টাইলযুক্ত গণনার সাথে মেমরির বাধা হ্রাস করে
  5. দীর্ঘ-প্রসঙ্গ মডেলগুলিতে রোটারি পজিশন এমবেডিং (RoPE) কী ভূমিকা পালন করে?
    • তারা টোকেন পজিশন এনকোড করে এবং ইন্টারপোলেশনের সাহায্যে লম্বা সিকোয়েন্সে সাধারণীকরণ করতে সাহায্য করে
    • তারা ইনপুট থেকে টোকেন মুছে ফেলে
    • তারা ভাষার মধ্যে পাঠ্য অনুবাদ করে
    • তারা মডেলের ওজন সংরক্ষণ করে
  6. What does prompt-cache research reuse across compatible requests?
    • The final answer regardless of the new query
    • Computed attention state for reusable prompt segments
    • A fixed set of token IDs without model computation
    • The model’s training data
  7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
    • শুধুমাত্র ইমেজ শ্রেণীবিভাগ
    • Audio transcription from waveforms
    • Tasks such as multi-hop tracing and aggregation over long contexts
    • GPU memory allocation benchmarks
  8. Why test several task types when measuring a model’s effective context length?
    • Every task uses the same computation
    • The advertised window guarantees all tasks work
    • Task type never affects context use
    • A model may handle simple retrieval yet fail to combine or track information across a long input