PagedAttention اور vLLM کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. ٹیکسٹ جنریشن کے دوران 'KV کیشے' کیا اسٹور کرتا ہے؟
   • ماڈل کی تربیت کا ڈیٹا
   • صارف کے لاگ ان کی اسناد
   • ماضی کے ٹوکنز کے لیے کلیدی اور قدر ویکٹر تاکہ نئے ٹوکن ان میں شرکت کر سکیں
   • ماڈل وزن کی ایک کمپریسڈ کاپی
2. کس آپریٹنگ سسٹم کے تصور نے PagedAttention کو متاثر کیا؟
   • ڈسک ڈیفراگمنٹیشن ٹولز
   • ورچوئل میموری پیجنگ
   • فائل کمپریشن
   • سی پی یو برانچ کی پیشن گوئی
3. روایتی KV کیش ایلوکیشن کے ساتھ کیا مسئلہ PagedAttention حل کرتا ہے؟
   • سست انٹرنیٹ کنیکشن
   • تربیتی ڈیٹا کی کمی
   • کمزور پاس ورڈ سیکیورٹی
   • ہر درخواست کے لیے بڑے ملحقہ بلاکس کو محفوظ کرنے سے میموری کا ضیاع
4. PagedAttention کس طرح ایک سے زیادہ آؤٹ پٹ کو ایک مشترکہ پرامپٹ کے لیے میموری کا اشتراک کرنے دیتا ہے؟
   • مختلف ترتیبیں کاپی آن رائٹ کے ذریعے ایک ہی جسمانی صفحات کی طرف اشارہ کرتی ہیں۔
   • یہ پہلے استعمال کے بعد پرامپٹ کو حذف کر دیتا ہے۔
   • یہ پرامپٹ کو ڈسک پر محفوظ کرتا ہے۔
   • یہ ہر آؤٹ پٹ کے لیے ماڈل کو دوبارہ تربیت دیتا ہے۔
5. vLLM اور PagedAttention اصل میں کہاں تیار کیا گیا تھا؟
   • 1990 کی دہائی کی تعلیمی لیب
   • یو سی برکلے (شائع شدہ 2023)
   • ہارڈ ویئر فروش کی مارکیٹنگ ٹیم
   • ایک گمنام آن لائن فورم
6. LLM کی خدمت کرنے والے کسی کے لیے vLLM کا بنیادی عملی فائدہ کیا ہے؟
   • بینچ مارکس پر ماڈل کی بڑی درستگی
   • خودکار ڈیٹا لیبلنگ
   • مفت GPU ہارڈ ویئر
   • اعلی تھرو پٹ اور فی GPU زیادہ سمورتی درخواستیں۔
7. A sequence’s logical KV block 3 resides in a different physical location. What tells PagedAttention where to read it?
   • The sequence’s block table mapping logical blocks to physical blocks
   • The model’s class-label list
   • The learning-rate scheduler
   • A requirement that every block follow block 2 contiguously
8. A PagedAttention cache ends with a half-filled block. Which statement about memory waste is accurate?
   • Paging guarantees every allocated byte contains a token
   • The entire model must be copied for each unused slot
   • Unused slots can remain in that final block despite reduced allocation fragmentation
   • The block table cannot represent a partial sequence