গাইড লিঙ্ক ক্যুইজ · কঠিন স্তর
ক্যাশে-অগমেন্টেড জেনারেশন (CAG) কুইজ
ক্যাশে-অগমেন্টেড জেনারেশন সম্পর্কে আপনার বোঝার পরীক্ষা করুন: কীভাবে কেভি ক্যাশেগুলি প্রিলোড করা হয় এবং পুনরায় ব্যবহার করা হয়, প্রশ্নগুলির মধ্যে ক্যাশে রিসেট করা হয় এবং কর্পাস-আকার সীমা।
প্রশ্ন 1 এর 8
What does CAG use instead of per-query retrieval?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- What does CAG use instead of per-query retrieval?
- A keyword search engine
- Fine-tuning the model on the documents
- A new vector index per question
- Preloading the whole knowledge base into the KV cache once and reusing it
- What is the KV cache in a transformer?
- A database of user accounts
- The stored attention keys and values computed for tokens the model has already read
- A list of document URLs
- The model's trained weights
- Why does a CAG system truncate the cache after each answer?
- To save the answer for training
- To delete the documents permanently
- To restore the documents-only state so the next query does not see the previous question and answer
- To switch to a different model
- What is CAG's main limitation?
- The entire corpus must fit in the model's context window
- It requires a vector database
- It cannot answer questions quickly
- এটি মডেলের ওজন পরিবর্তন করে
- Why does CAG answer faster than pasting the documents into every request?
- It skips generating output tokens
- The model only needs to compute the new question tokens on top of the cached prefix
- এটি একটি ছোট মডেল ব্যবহার করে
- It retrieves fewer documents
- Which knowledge base is the best fit for CAG?
- A news archive updated every hour
- Millions of customer records with per-user permissions
- An entire web crawl
- A small, stable product manual that rarely changes
- Which statement about CAG is a misconception?
- CAG removes retrieval errors because all documents are present
- Changing documents requires rebuilding the cache
- CAG fine-tunes the model's weights on the documents
- Hosted prompt caching is related to the idea
- Which techniques reduce the memory needed for a large KV cache?
- Grouped-query attention and cache quantization
- আরো মনোযোগ মাথা যোগ করা
- Using longer prompts
- Raising the sampling temperature