Quiz collegato alla guida · Difficile Livello
Tipico quiz di campionamento
Controlla la sorpresa tipica, la classificazione basata sull'entropia, la soglia di massa critical_p e le differenze rispetto al campionamento top-p classificato in base alla probabilità.
Domanda 1 di 8
Con quale quantità principale il campionamento tipico confronta ciascun token candidato?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Con quale quantità principale il campionamento tipico confronta ciascun token candidato?
- Il contenuto informativo atteso (entropia) della distribuzione
- La dimensione complessiva del vocabolario del modello
- La posizione del token nella frase
- Solo il parametro della temperatura
- In che modo il campionamento tipico tratta il singolo token più probabile?
- Lo seleziona sempre per primo
- Può escluderlo se la sua sorpresa è molto inferiore al valore atteso
- Raddoppia la sua probabilità
- Ignora completamente la probabilità
- Quale idea sul linguaggio umano è stata motivata dal campionamento tipico?
- Gli esseri umani scelgono sempre le parole più rare possibili
- Gli esseri umani non ripetono mai le parole
- Gli esseri umani comunicano con una velocità di informazione pressoché costante
- Gli esseri umani parlano con frasi di lunghezza fissa
- Cosa controlla il parametro tau nel campionamento tipico?
- Il tasso di apprendimento durante la formazione
- Il numero di livelli nel modello
- La durata massima della frase
- La massa di probabilità cumulativa raccolta nell'insieme tipico
- Compared with greedy decoding, what does typical sampling try to change?
- It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
- It always selects the most probable token
- It guarantees every continuation is factually correct
- It removes probability scores from decoding
- In quale tipo di software il campionamento tipico viene comunemente esposto agli sviluppatori?
- Applicazioni per fogli di calcolo
- Librerie di inferenza LLM open source come Hugging Face Transformers
- Strumenti di modifica delle immagini
- Motori di interrogazione del database
- How does typical sampling rank candidate tokens differently from top-p sampling?
- By alphabetical order of token strings
- By token position in the prompt
- By distance between token surprisal and expected surprisal, rather than probability rank alone
- By the model’s training loss
- Which value does typical_p control?
- The model’s vocabulary size
- The number of transformer layers
- The probability that the answer is factually correct
- The target cumulative probability mass collected in the typical set