Kuiz berkaitan panduan · Keras Tahap

Kuiz Penjanaan Ditambah Cache (CAG).

Uji pemahaman anda tentang penjanaan ditambah cache: cara cache KV dipramuat dan digunakan semula, penetapan semula cache antara pertanyaan dan had saiz korpus.

Laluan panduan yang berkaitanPenjanaan Ditambah Cache
soalan 1 daripada 8

Apakah yang CAG gunakan dan bukannya pengambilan setiap pertanyaan?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah yang CAG gunakan dan bukannya pengambilan setiap pertanyaan?
    • Enjin carian kata kunci
    • Memperhalusi model pada dokumen
    • Indeks vektor baharu bagi setiap soalan
    • Pramuat seluruh pangkalan pengetahuan ke dalam cache KV sekali dan menggunakannya semula
  2. Apakah cache KV dalam pengubah?
    • Pangkalan data akaun pengguna
    • Kunci perhatian yang disimpan dan nilai yang dikira untuk token yang telah dibaca oleh model
    • Senarai URL dokumen
    • Berat terlatih model
  3. Mengapakah sistem CAG memotong cache selepas setiap jawapan?
    • Untuk menyimpan jawapan untuk latihan
    • Untuk memadam dokumen secara kekal
    • Untuk memulihkan keadaan dokumen sahaja supaya pertanyaan seterusnya tidak melihat soalan dan jawapan sebelumnya
    • Untuk bertukar kepada model lain
  4. Apakah had utama CAG?
    • Seluruh korpus mesti dimuatkan dalam tetingkap konteks model
    • Ia memerlukan pangkalan data vektor
    • Ia tidak dapat menjawab soalan dengan cepat
    • Ia mengubah berat model
  5. Mengapa CAG menjawab lebih cepat daripada menampal dokumen ke dalam setiap permintaan?
    • Ia melangkau menjana token output
    • Model hanya perlu mengira token soalan baharu di atas awalan cache
    • Ia menggunakan model yang lebih kecil
    • Ia mengambil lebih sedikit dokumen
  6. Pangkalan pengetahuan manakah yang paling sesuai untuk CAG?
    • Arkib berita dikemas kini setiap jam
    • Berjuta-juta rekod pelanggan dengan kebenaran setiap pengguna
    • Merangkak keseluruhan web
    • Manual produk yang kecil dan stabil yang jarang berubah
  7. Pernyataan yang manakah mengenai CAG adalah salah tanggapan?
    • CAG mengalih keluar ralat mendapatkan semula kerana semua dokumen ada
    • Menukar dokumen memerlukan membina semula cache
    • CAG memperhalusi berat model pada dokumen
    • Caching segera yang dihoskan adalah berkaitan dengan idea
  8. Teknik yang manakah mengurangkan memori yang diperlukan untuk cache KV yang besar?
    • Perhatian pertanyaan berkumpulan dan kuantisasi cache
    • Menambah lebih banyak perhatian
    • Menggunakan gesaan yang lebih panjang
    • Menaikkan suhu pensampelan