Kuiz berkaitan panduan · Keras Tahap
Kuiz Penjanaan Ditambah Cache (CAG).
Uji pemahaman anda tentang penjanaan ditambah cache: cara cache KV dipramuat dan digunakan semula, penetapan semula cache antara pertanyaan dan had saiz korpus.
soalan 1 daripada 8
Apakah yang CAG gunakan dan bukannya pengambilan setiap pertanyaan?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah yang CAG gunakan dan bukannya pengambilan setiap pertanyaan?
- Enjin carian kata kunci
- Memperhalusi model pada dokumen
- Indeks vektor baharu bagi setiap soalan
- Pramuat seluruh pangkalan pengetahuan ke dalam cache KV sekali dan menggunakannya semula
- Apakah cache KV dalam pengubah?
- Pangkalan data akaun pengguna
- Kunci perhatian yang disimpan dan nilai yang dikira untuk token yang telah dibaca oleh model
- Senarai URL dokumen
- Berat terlatih model
- Mengapakah sistem CAG memotong cache selepas setiap jawapan?
- Untuk menyimpan jawapan untuk latihan
- Untuk memadam dokumen secara kekal
- Untuk memulihkan keadaan dokumen sahaja supaya pertanyaan seterusnya tidak melihat soalan dan jawapan sebelumnya
- Untuk bertukar kepada model lain
- Apakah had utama CAG?
- Seluruh korpus mesti dimuatkan dalam tetingkap konteks model
- Ia memerlukan pangkalan data vektor
- Ia tidak dapat menjawab soalan dengan cepat
- Ia mengubah berat model
- Mengapa CAG menjawab lebih cepat daripada menampal dokumen ke dalam setiap permintaan?
- Ia melangkau menjana token output
- Model hanya perlu mengira token soalan baharu di atas awalan cache
- Ia menggunakan model yang lebih kecil
- Ia mengambil lebih sedikit dokumen
- Pangkalan pengetahuan manakah yang paling sesuai untuk CAG?
- Arkib berita dikemas kini setiap jam
- Berjuta-juta rekod pelanggan dengan kebenaran setiap pengguna
- Merangkak keseluruhan web
- Manual produk yang kecil dan stabil yang jarang berubah
- Pernyataan yang manakah mengenai CAG adalah salah tanggapan?
- CAG mengalih keluar ralat mendapatkan semula kerana semua dokumen ada
- Menukar dokumen memerlukan membina semula cache
- CAG memperhalusi berat model pada dokumen
- Caching segera yang dihoskan adalah berkaitan dengan idea
- Teknik yang manakah mengurangkan memori yang diperlukan untuk cache KV yang besar?
- Perhatian pertanyaan berkumpulan dan kuantisasi cache
- Menambah lebih banyak perhatian
- Menggunakan gesaan yang lebih panjang
- Menaikkan suhu pensampelan