Test de eșantionare Nucleus și Top-k

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. Cum limitează eșantionarea top-k alegerile de simboluri?
   • Păstrează doar k jetoane cu cea mai mare probabilitate, apoi eșantioane dintre ele
   • Păstrează jetoanele până când probabilitatea cumulativă depășește k
   • Selectează întotdeauna cel mai probabil jeton
   • Îndepărtează numai k jetoanele cel mai puțin probabile
2. Ce definește „nucleul” în eșantionarea nucleului (sus-p)?
   • Cele mai frecvente k cuvinte din datele de antrenament
   • Cel mai mic set de jetoane ale căror probabilități se însumează cel puțin p
   • Singurul simbol cu cea mai mare probabilitate
   • Toate jetoanele cu probabilitate de peste 50%
3. Care este avantajul cheie al top-p față de top-k?
   • Este întotdeauna mai rapid de calculat
   • Nu produce niciodată rezultate aleatorii
   • Numărul de jetoane candidate se adaptează la încrederea modelului
   • Ignoră probabilitățile simbol
4. Ce face parametrul de temperatură înainte de prelevare?
   • Setează lungimea maximă a secvenței
   • Selectează limba de ieșire
   • Contează dimensiunea vocabularului
   • Redimensionează distribuția de probabilitate pentru a fi mai clară sau mai plată
5. What result did the nucleus-sampling paper report for its tested open-ended generation tasks?
   • It improved diversity without sacrificing fluency and coherence in the reported comparisons
   • It guaranteed factual correctness in every output
   • It eliminated all sampling randomness
   • It improved translation quality on every benchmark
6. For a greedy decoding baseline with no token sampling, how should generation be configured?
   • Disable sampling and use greedy decoding to select the highest-probability token at each step
   • Use high temperature and a large nucleus threshold
   • Randomize the temperature at every step
   • Keep sampling enabled but increase top-p
7. After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
   • They remain assigned their original total mass below one
   • They are replaced with equal probabilities
   • They are renormalized over the retained top-k tokens
   • They are converted into beam-search scores
8. What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
   • It always yields the most diverse human-like passages
   • Elimină necesitatea unui model lingvistic
   • It guarantees factual correctness
   • It can produce bland and repetitive text despite strong likelihood scores