পেজড অ্যাটেনশন এবং ভিএলএলএম কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. পাঠ্য তৈরির সময় 'কেভি ক্যাশে' কী সঞ্চয় করে?
   • মডেলের প্রশিক্ষণ ডেটা
   • ব্যবহারকারীর লগইন শংসাপত্র
   • অতীতের টোকেনগুলির জন্য কী এবং মান ভেক্টর যাতে নতুন টোকেনগুলি সেগুলিতে উপস্থিত হতে পারে৷
   • মডেল ওজনের একটি সংকুচিত কপি
2. কোন অপারেটিং-সিস্টেম ধারণা পেজডঅ্যাটেনশনকে অনুপ্রাণিত করেছে?
   • ডিস্ক ডিফ্র্যাগমেন্টেশন টুল
   • ভার্চুয়াল মেমরি পেজিং
   • ফাইল কম্প্রেশন
   • CPU শাখার পূর্বাভাস
3. প্রথাগত কেভি ক্যাশে বরাদ্দের সাথে কোন সমস্যা PagedAttention সমাধান করে?
   • ধীর ইন্টারনেট সংযোগ
   • প্রশিক্ষণ তথ্যের অভাব
   • দুর্বল পাসওয়ার্ড নিরাপত্তা
   • প্রতিটি অনুরোধের জন্য বড় সংলগ্ন ব্লক সংরক্ষণ থেকে মেমরি বর্জ্য
4. PagedAttention কিভাবে একটি সাধারণ প্রম্পটের জন্য একাধিক আউটপুট মেমরি শেয়ার করতে দেয়?
   • কপি-অন-রাইটের মাধ্যমে বিভিন্ন সিকোয়েন্স একই ভৌত পৃষ্ঠার দিকে নির্দেশ করে
   • এটি প্রথম ব্যবহারের পরে প্রম্পট মুছে দেয়
   • এটি ডিস্কে প্রম্পট সংরক্ষণ করে
   • এটি প্রতিটি আউটপুটের জন্য মডেলটিকে পুনরায় প্রশিক্ষণ দেয়
5. ভিএলএলএম এবং পেজডঅ্যাটেনশন মূলত কোথায় তৈরি হয়েছিল?
   • একটি 1990 এর একাডেমিক ল্যাব
   • UC বার্কলে (প্রকাশিত 2023)
   • একটি হার্ডওয়্যার বিক্রেতার বিপণন দল
   • একটি বেনামী অনলাইন ফোরাম
6. একজন এলএলএম পরিবেশনকারী ব্যক্তির জন্য ভিএলএলএম-এর প্রধান ব্যবহারিক সুবিধা কী?
   • বেঞ্চমার্কে বৃহত্তর মডেল নির্ভুলতা
   • স্বয়ংক্রিয় ডেটা লেবেলিং
   • ফ্রি জিপিইউ হার্ডওয়্যার
   • GPU প্রতি উচ্চতর থ্রুপুট এবং আরও সমবর্তী অনুরোধ
7. A sequence’s logical KV block 3 resides in a different physical location. What tells PagedAttention where to read it?
   • The sequence’s block table mapping logical blocks to physical blocks
   • The model’s class-label list
   • The learning-rate scheduler
   • A requirement that every block follow block 2 contiguously
8. A PagedAttention cache ends with a half-filled block. Which statement about memory waste is accurate?
   • Paging guarantees every allocated byte contains a token
   • The entire model must be copied for each unused slot
   • Unused slots can remain in that final block despite reduced allocation fragmentation
   • The block table cannot represent a partial sequence