Kvíz spojený s průvodcem · Těžko úroveň

Spekulativní RAG a kreslicí kvíz rozšířený o vyhledávání

Kontroluje shlukování dokumentů, návrhy paralelních odpovědí, generování zdůvodnění, bodování ověřovatelů a jak spekulace mění latenci vyhledávání.

Otázka 1 z 8

Jakou roli ve Spekulativní RAG hraje menší model?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jakou roli ve Spekulativní RAG hraje menší model?
    • Navrhuje více kandidátských odpovědí z načtených podmnožin dokumentů
    • Ověřuje a řadí konečné odpovědi
    • Ukládá vektorovou databázi
    • Řeší pouze tokenizaci
  2. Proč jsou načtené dokumenty před vytvořením seskupeny?
    • Chcete-li je komprimovat do jednoho tokenu
    • Vytvořit různorodé, neredundantní podmnožiny důkazů pro různé koncepty
    • Chcete-li odstranit duplicitní modely
    • Pro rozšíření slovní zásoby modelky
  3. Co dělá větší model „ověřovače“ primárně?
    • Vygenerujte načtené dokumenty
    • Trénujte model vkládání
    • Ohodnoťte návrhy kandidátů a vyberte ten nejlepší
    • Seskupte dokumenty
  4. Jak spekulativní RAG snižuje latenci ve srovnání se standardním RAG?
    • Úplným vynecháním načítání
    • Pomocí menšího kontextového okna bez dokumentů
    • Uložením dotazu uživatele do mezipaměti
    • Tím, že máte malý model, provádějte paralelní kreslení, takže velký model kontroluje pouze krátké výkresy
  5. Každý návrh vytvořený autorem návrhu obvykle obsahuje:
    • Zdůvodnění vysvětlující odpověď
    • Nová sada modelových závaží
    • Úplný vektorový index
    • Seznam všech uživatelů
  6. Struktura návrhu a poté ověření spekulativního RAG je koncepčně podobná které dekódovací technice?
    • Prořezávání paprskového vyhledávání
    • Spekulativní dekódování
    • Chamtivé vzorkování
    • Top-k filtrování
  7. What information can the Speculative RAG verifier use when ranking candidate drafts?
    • Only the length of each document
    • The GPU type and cluster name
    • Draft consistency, rationale likelihood and a self-reflection signal
    • A random choice among the drafts
  8. Why sample documents from different clusters for separate drafts?
    • To ensure every draft sees identical passages
    • To remove all retrieved evidence
    • To make each drafter use a different tokenizer
    • To give the drafts diverse, less-redundant evidence subsets