Quiz collegato alla guida · Difficile Livello
RAG speculativo e quiz di drafting potenziato con recupero
Controlla il clustering dei documenti, le bozze di risposte parallele, la generazione delle motivazioni, il punteggio del verificatore e il modo in cui la speculazione modifica la latenza di recupero.
Domanda 1 di 8
In Speculative RAG, che ruolo gioca il modello più piccolo?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- In Speculative RAG, che ruolo gioca il modello più piccolo?
- Elabora più risposte candidate da sottoinsiemi di documenti recuperati
- Verifica e classifica le risposte finali
- Memorizza il database dei vettori
- Gestisce solo la tokenizzazione
- Perché i documenti recuperati vengono raggruppati prima della stesura?
- Per comprimerli in un unico token
- Formare sottoinsiemi di prove diversi e non ridondanti per diverse bozze
- Per eliminare i modelli duplicati
- Per aumentare il vocabolario del modello
- Cosa fa principalmente il modello più ampio del "verificatore"?
- Genera i documenti recuperati
- Addestrare il modello di incorporamento
- Assegna un punteggio alle bozze candidate e seleziona quella migliore
- Raggruppare i documenti
- In che modo Speculative RAG riduce la latenza rispetto al RAG standard?
- Saltando del tutto il recupero
- Utilizzando una finestra di contesto più piccola senza documenti
- Memorizzando nella cache la domanda dell'utente
- Facendo in modo che un modello piccolo esegua il disegno parallelo in modo che il modello grande controlli solo bozze brevi
- Ogni bozza prodotta dal redattore in genere include:
- Una motivazione che spiega la risposta
- Una nuova serie di pesi modello
- L'indice vettoriale completo
- Un elenco di tutti gli utenti
- La struttura draft-then-verify di Speculative RAG è concettualmente simile a quale tecnica di decodifica?
- Potatura di ricerca trave
- Decodifica speculativa
- Campionamento goloso
- Filtraggio topk
- What information can the Speculative RAG verifier use when ranking candidate drafts?
- Only the length of each document
- The GPU type and cluster name
- Draft consistency, rationale likelihood and a self-reflection signal
- A random choice among the drafts
- Why sample documents from different clusters for separate drafts?
- To ensure every draft sees identical passages
- To remove all retrieved evidence
- To make each drafter use a different tokenizer
- To give the drafts diverse, less-redundant evidence subsets