แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบบริบทแบบยาวเทียบกับแบบทดสอบ RAG

เปรียบเทียบบริบทแบบยาวและ RAG เกี่ยวกับต้นทุน เวลาแฝง ความแม่นยำ และความใหม่ รวมถึงเอฟเฟกต์ที่หายไปตรงกลางและการออกแบบแบบไฮบริด

เส้นทางแนะนำที่เกี่ยวข้องบริบทแบบยาวเทียบกับ RAG
คำถาม 1 ของ 8

เหตุใดวิธีการแบบบริบทยาวจึงมักมีราคาต่อการค้นหามากกว่า RAG

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. เหตุใดวิธีการแบบบริบทยาวจึงมักมีราคาต่อการค้นหามากกว่า RAG
    • Providers charge per input token, and long context sends far more tokens
    • Long-context models require a vector database
    • RAG is always free
    • Long context requires fine-tuning for each question
  2. การศึกษาเรื่อง Lost in the Middle ปี 2023 พบอะไร
    • Models ignore the first sentence of every prompt
    • Retrieval always beats long context
    • Performance dropped when relevant information was placed in the middle of long inputs
    • Context windows cannot exceed 4,000 tokens
  3. ข้อจำกัดที่สำคัญของการทดสอบแบบเข็มในกองหญ้าคืออะไร?
    • ใช้งานได้กับรูปภาพเท่านั้น
    • They measure simple lookup, not reasoning across many scattered facts
    • They cannot be run on long inputs
    • They measure cost, not accuracy
  4. สถานการณ์ใดที่สนับสนุน RAG อย่างชัดเจนที่สุดในบริบทที่ยาว
    • A single short policy document queried a few times
    • Summarizing the themes of one novel
    • Comparing two chapters of one report
    • A large, frequently changing corpus with per-user access permissions
  5. เมื่อใช้การแคชพร้อมท์กับคลังข้อมูลที่ยาว ควรจัดเตรียมพร้อมต์อย่างไร
    • Put the question first and the corpus last
    • Shuffle the corpus on each request
    • Put the stable corpus first and the variable question last
    • Split the corpus across separate requests
  6. Why does time to first token increase with context length?
    • The model must process every input token before it starts answering
    • Longer prompts are sent over slower networks
    • The model retrieves documents from the internet
    • Output tokens are generated in parallel
  7. Which task is long context particularly well suited to?
    • Searching millions of support articles
    • Serving users with different clearance levels
    • Answering from data that changes every hour
    • Summarizing themes across an entire document
  8. What does a common hybrid of long context and RAG look like?
    • Using RAG only for images and long context only for text
    • Retrieving relevant documents generously, then including whole documents in a long window
    • Fine-tuning the model on the retrieved chunks
    • Alternating approaches on odd and even days