Quiz collegato alla guida · Difficile Livello

Tipico quiz di campionamento

Controlla la sorpresa tipica, la classificazione basata sull'entropia, la soglia di massa critical_p e le differenze rispetto al campionamento top-p classificato in base alla probabilità.

Percorsi guida correlatiCampionamento tipico
Domanda 1 di 8

Con quale quantità principale il campionamento tipico confronta ciascun token candidato?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Con quale quantità principale il campionamento tipico confronta ciascun token candidato?
    • Il contenuto informativo atteso (entropia) della distribuzione
    • La dimensione complessiva del vocabolario del modello
    • La posizione del token nella frase
    • Solo il parametro della temperatura
  2. In che modo il campionamento tipico tratta il singolo token più probabile?
    • Lo seleziona sempre per primo
    • Può escluderlo se la sua sorpresa è molto inferiore al valore atteso
    • Raddoppia la sua probabilità
    • Ignora completamente la probabilità
  3. Quale idea sul linguaggio umano è stata motivata dal campionamento tipico?
    • Gli esseri umani scelgono sempre le parole più rare possibili
    • Gli esseri umani non ripetono mai le parole
    • Gli esseri umani comunicano con una velocità di informazione pressoché costante
    • Gli esseri umani parlano con frasi di lunghezza fissa
  4. Cosa controlla il parametro tau nel campionamento tipico?
    • Il tasso di apprendimento durante la formazione
    • Il numero di livelli nel modello
    • La durata massima della frase
    • La massa di probabilità cumulativa raccolta nell'insieme tipico
  5. Compared with greedy decoding, what does typical sampling try to change?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. In quale tipo di software il campionamento tipico viene comunemente esposto agli sviluppatori?
    • Applicazioni per fogli di calcolo
    • Librerie di inferenza LLM open source come Hugging Face Transformers
    • Strumenti di modifica delle immagini
    • Motori di interrogazione del database
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • The number of transformer layers
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set