Kuis terkait panduan · Keras Tingkat

RAG Spekulatif dan Kuis Drafting Retrieval-Augmented

Memeriksa pengelompokan dokumen, draf jawaban paralel, pembuatan alasan, penilaian verifikator, dan bagaimana spekulasi mengubah latensi pengambilan.

Jalur panduan terkaitRAG Spekulatif Dan Retrieval Augmented Drafting
Pertanyaan 1 dari 8

Dalam RAG Spekulatif, peran apa yang dimainkan oleh model yang lebih kecil?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Dalam RAG Spekulatif, peran apa yang dimainkan oleh model yang lebih kecil?
    • Ini menyusun beberapa jawaban kandidat dari subkumpulan dokumen yang diambil
    • Ini memverifikasi dan memberi peringkat pada jawaban akhir
    • Ini menyimpan database vektor
    • Ini hanya menangani tokenisasi
  2. Mengapa dokumen yang diambil dikelompokkan sebelum disusun?
    • Untuk mengompresnya menjadi satu token
    • Untuk membentuk kumpulan bukti yang beragam dan tidak berlebihan untuk rancangan yang berbeda
    • Untuk menghapus model duplikat
    • Untuk menambah kosakata model
  3. Apa yang terutama dilakukan oleh model 'verifikator' yang lebih besar?
    • Hasilkan dokumen yang diambil
    • Latih model penyematan
    • Nilai draf kandidat dan pilih yang terbaik
    • Kelompokkan dokumen
  4. Bagaimana RAG Spekulatif mengurangi latensi dibandingkan dengan RAG standar?
    • Dengan melewatkan pengambilan sama sekali
    • Dengan menggunakan jendela konteks yang lebih kecil tanpa dokumen
    • Dengan menyimpan pertanyaan pengguna dalam cache
    • Dengan meminta model kecil melakukan penyusunan paralel maka model besar hanya memeriksa rancangan pendek
  5. Setiap draf yang dihasilkan oleh drafter biasanya meliputi:
    • Alasan yang menjelaskan jawabannya
    • Satu set bobot model baru
    • Indeks vektor penuh
    • Daftar semua pengguna
  6. Struktur draf-lalu-verifikasi RAG yang spekulatif secara konseptual mirip dengan teknik decoding yang mana?
    • Pemangkasan pencarian balok
    • Penguraian kode spekulatif
    • Pengambilan sampel serakah
    • Pemfilteran top-k
  7. What information can the Speculative RAG verifier use when ranking candidate drafts?
    • Only the length of each document
    • The GPU type and cluster name
    • Draft consistency, rationale likelihood and a self-reflection signal
    • A random choice among the drafts
  8. Why sample documents from different clusters for separate drafts?
    • To ensure every draft sees identical passages
    • To remove all retrieved evidence
    • To make each drafter use a different tokenizer
    • To give the drafts diverse, less-redundant evidence subsets