Kvíz spojený s průvodcem · Těžko úroveň
Spekulativní RAG a kreslicí kvíz rozšířený o vyhledávání
Kontroluje shlukování dokumentů, návrhy paralelních odpovědí, generování zdůvodnění, bodování ověřovatelů a jak spekulace mění latenci vyhledávání.
Otázka 1 z 8
Jakou roli ve Spekulativní RAG hraje menší model?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jakou roli ve Spekulativní RAG hraje menší model?
- Navrhuje více kandidátských odpovědí z načtených podmnožin dokumentů
- Ověřuje a řadí konečné odpovědi
- Ukládá vektorovou databázi
- Řeší pouze tokenizaci
- Proč jsou načtené dokumenty před vytvořením seskupeny?
- Chcete-li je komprimovat do jednoho tokenu
- Vytvořit různorodé, neredundantní podmnožiny důkazů pro různé koncepty
- Chcete-li odstranit duplicitní modely
- Pro rozšíření slovní zásoby modelky
- Co dělá větší model „ověřovače“ primárně?
- Vygenerujte načtené dokumenty
- Trénujte model vkládání
- Ohodnoťte návrhy kandidátů a vyberte ten nejlepší
- Seskupte dokumenty
- Jak spekulativní RAG snižuje latenci ve srovnání se standardním RAG?
- Úplným vynecháním načítání
- Pomocí menšího kontextového okna bez dokumentů
- Uložením dotazu uživatele do mezipaměti
- Tím, že máte malý model, provádějte paralelní kreslení, takže velký model kontroluje pouze krátké výkresy
- Každý návrh vytvořený autorem návrhu obvykle obsahuje:
- Zdůvodnění vysvětlující odpověď
- Nová sada modelových závaží
- Úplný vektorový index
- Seznam všech uživatelů
- Struktura návrhu a poté ověření spekulativního RAG je koncepčně podobná které dekódovací technice?
- Prořezávání paprskového vyhledávání
- Spekulativní dekódování
- Chamtivé vzorkování
- Top-k filtrování
- What information can the Speculative RAG verifier use when ranking candidate drafts?
- Only the length of each document
- The GPU type and cluster name
- Draft consistency, rationale likelihood and a self-reflection signal
- A random choice among the drafts
- Why sample documents from different clusters for separate drafts?
- To ensure every draft sees identical passages
- To remove all retrieved evidence
- To make each drafter use a different tokenizer
- To give the drafts diverse, less-redundant evidence subsets