Test legat de ghid · Greu Nivel

Test tipic de eșantionare

Verifică clasarea surprinzătoare tipică, bazată pe entropie, pragul de masă tipic_p și diferențele față de eșantionarea top-p clasificată în funcție de probabilitate.

Căi de ghidare aferenteEșantionare tipică
Întrebare 1 de 8

Cu ce ​​cantitate de bază se compară eșantionarea tipică cu fiecare simbol candidat?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Cu ce ​​cantitate de bază se compară eșantionarea tipică cu fiecare simbol candidat?
    • Conținutul informațional așteptat (entropia) al distribuției
    • Dimensiunea generală a vocabularului modelului
    • Poziția jetonului în propoziție
    • Doar parametrul de temperatură
  2. Cum tratează eșantionarea tipică singurul simbol cel mai probabil?
    • Îl selectează întotdeauna primul
    • Îl poate exclude dacă surpriza sa este mult sub valoarea așteptată
    • Își dublează probabilitatea
    • Ignoră în totalitate probabilitatea
  3. Eșantionarea tipică a fost motivată de ce idee despre limbajul uman?
    • Oamenii aleg întotdeauna cele mai rare cuvinte posibile
    • Oamenii nu repetă niciodată cuvintele
    • Oamenii comunică aproape de o rată aproximativ constantă de informații
    • Oamenii vorbesc în propoziții cu lungime fixă
  4. Ce înseamnă parametrul tau în controlul tipic de eșantionare?
    • Rata de învățare în timpul antrenamentului
    • Numărul de straturi din model
    • Lungimea maximă a propoziției
    • Masa de probabilitate cumulată colectată în mulțimea tipică
  5. Compared with greedy decoding, what does typical sampling try to change?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. În ce fel de software eșantionarea tipică este expusă de obicei dezvoltatorilor?
    • Aplicații pentru foi de calcul
    • Biblioteci de inferențe LLM cu sursă deschisă, cum ar fi Hugging Face Transformers
    • Instrumente de editare a imaginilor
    • Motoare de interogare a bazelor de date
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • The number of transformer layers
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set