গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
দীর্ঘ-প্রসঙ্গ মডেলিং কুইজ
প্রসঙ্গ উইন্ডো, মনোযোগ খরচ, অবস্থান-সংবেদনশীল পুনরুদ্ধার, FlashAttention এবং কার্যকর প্রসঙ্গ ব্যবহারের মূল্যায়ন পর্যালোচনা করুন।
প্রশ্ন 1 এর 8
একটি মডেলের 'প্রসঙ্গ উইন্ডো' কি উল্লেখ করে?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- একটি মডেলের 'প্রসঙ্গ উইন্ডো' কি উল্লেখ করে?
- এটি এক পাসে সর্বাধিক সংখ্যক টোকেন ব্যবহার করতে পারে
- চ্যাট ইন্টারফেসের পর্দার আকার
- একবারে অনুমোদিত ব্যবহারকারীর সংখ্যা
- মডেলকে কতদিন প্রশিক্ষণ দেওয়া হয়েছে
- কেন দীর্ঘ ইনপুট জন্য মান স্ব-মনোযোগ ব্যয়বহুল হয়ে ওঠে?
- এটি রৈখিকভাবে বৃদ্ধি পায় এবং সর্বদা সস্তা
- এর গণনা এবং মেমরি ক্রম দৈর্ঘ্যের সাথে চতুর্মুখীভাবে বৃদ্ধি পায়
- এটি একাধিক টোকেন পড়তে পারে না
- এটা শুধুমাত্র ইমেজ উপর কাজ করে
- 'মাঝখানে হারিয়ে যাওয়া' সমস্যা কী?
- মডেলরা তাদের প্রশিক্ষণ সম্পূর্ণভাবে ভুলে যায়
- মডেলগুলি শুধুমাত্র একটি নথির মাঝখানে পড়তে পারে
- মডেলগুলি একটি দীর্ঘ ইনপুটের শুরুতে এবং শেষে তথ্যগুলিকে মাঝখানে সমাহিত তথ্যের চেয়ে ভাল মনে করে
- মডেলরা মধ্যকে অন্য ভাষায় অনুবাদ করে
- FlashAttention প্রাথমিকভাবে কি উন্নতি করে?
- এটি মডেল আউটপুট দীর্ঘ পাঠ্য করে তোলে
- এটি স্বয়ংক্রিয়ভাবে আরও প্রশিক্ষণ ডেটা যোগ করে
- এটা কোন মনোযোগ জন্য প্রয়োজন অপসারণ
- এটি একটি IO-সচেতন, টাইলযুক্ত গণনার সাথে মেমরির বাধা হ্রাস করে
- দীর্ঘ-প্রসঙ্গ মডেলগুলিতে রোটারি পজিশন এমবেডিং (RoPE) কী ভূমিকা পালন করে?
- তারা টোকেন পজিশন এনকোড করে এবং ইন্টারপোলেশনের সাহায্যে লম্বা সিকোয়েন্সে সাধারণীকরণ করতে সাহায্য করে
- তারা ইনপুট থেকে টোকেন মুছে ফেলে
- তারা ভাষার মধ্যে পাঠ্য অনুবাদ করে
- তারা মডেলের ওজন সংরক্ষণ করে
- What does prompt-cache research reuse across compatible requests?
- The final answer regardless of the new query
- Computed attention state for reusable prompt segments
- A fixed set of token IDs without model computation
- The model’s training data
- What does the RULER benchmark add beyond locating one isolated “needle” fact?
- শুধুমাত্র ইমেজ শ্রেণীবিভাগ
- Audio transcription from waveforms
- Tasks such as multi-hop tracing and aggregation over long contexts
- GPU memory allocation benchmarks
- Why test several task types when measuring a model’s effective context length?
- Every task uses the same computation
- The advertised window guarantees all tasks work
- Task type never affects context use
- A model may handle simple retrieval yet fail to combine or track information across a long input