گائیڈ سے منسلک کوئز · درمیانہ سطح
لانگ سیاق و سباق ماڈلنگ کوئز
سیاق و سباق کی کھڑکیوں، توجہ کے اخراجات، پوزیشن حساس بازیافت، فلیش توجہ اور موثر سیاق و سباق کے استعمال کی تشخیص کا جائزہ لیں۔
سوال 1 کی 8
ماڈل کی 'سیاق و سباق کی ونڈو' سے کیا مراد ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- ماڈل کی 'سیاق و سباق کی ونڈو' سے کیا مراد ہے؟
- ٹوکن کی زیادہ سے زیادہ تعداد جس میں یہ ایک پاس میں شرکت کر سکتا ہے۔
- چیٹ انٹرفیس کی سکرین کا سائز
- ایک ہی وقت میں اجازت یافتہ صارفین کی تعداد
- ماڈل کو کتنے عرصے سے تربیت دی گئی ہے۔
- طویل معلومات کے لیے معیاری خود توجہ کیوں مہنگی ہو جاتی ہے؟
- یہ لکیری طور پر بڑھتا ہے اور ہمیشہ سستا ہوتا ہے۔
- اس کی گنتی اور میموری ترتیب کی لمبائی کے ساتھ چوکور انداز میں بڑھتے ہیں۔
- یہ ایک سے زیادہ ٹوکن نہیں پڑھ سکتا
- یہ صرف تصاویر پر کام کرتا ہے۔
- 'درمیان میں کھو گیا' مسئلہ کیا ہے؟
- ماڈلز اپنی تربیت کو بالکل بھول جاتے ہیں۔
- ماڈلز صرف دستاویز کے بیچ کو پڑھ سکتے ہیں۔
- ماڈلز ایک طویل ان پٹ کے شروع اور آخر میں معلومات کو درمیان میں دفن حقائق سے بہتر یاد کرتے ہیں۔
- ماڈل درمیان کو دوسری زبان میں ترجمہ کرتے ہیں۔
- FlashAttention بنیادی طور پر کیا بہتر کرتا ہے؟
- یہ ماڈل آؤٹ پٹ کو لمبا متن بناتا ہے۔
- یہ خود بخود مزید تربیتی ڈیٹا شامل کرتا ہے۔
- یہ کسی بھی توجہ کی ضرورت کو دور کرتا ہے۔
- یہ IO- آگاہ، ٹائلڈ کمپیوٹیشن کے ساتھ میموری کی رکاوٹ کو کم کرتا ہے۔
- طویل سیاق و سباق کے ماڈلز میں روٹری پوزیشن ایمبیڈنگز (RoPE) کیا کردار ادا کرتی ہیں؟
- وہ ٹوکن پوزیشنوں کو انکوڈ کرتے ہیں اور انٹرپولیشن کے ساتھ، طویل ترتیب کو عام کرنے میں مدد کرتے ہیں۔
- وہ ان پٹ سے ٹوکن حذف کر دیتے ہیں۔
- وہ زبانوں کے درمیان متن کا ترجمہ کرتے ہیں۔
- وہ ماڈل کے وزن کو ذخیرہ کرتے ہیں۔
- What does prompt-cache research reuse across compatible requests?
- The final answer regardless of the new query
- Computed attention state for reusable prompt segments
- A fixed set of token IDs without model computation
- The model’s training data
- What does the RULER benchmark add beyond locating one isolated “needle” fact?
- صرف تصویر کی درجہ بندی
- Audio transcription from waveforms
- Tasks such as multi-hop tracing and aggregation over long contexts
- GPU memory allocation benchmarks
- Why test several task types when measuring a model’s effective context length?
- Every task uses the same computation
- The advertised window guarantees all tasks work
- Task type never affects context use
- A model may handle simple retrieval yet fail to combine or track information across a long input