Test legat de ghid · Mediu Nivel
Chestionar pentru penalizări de repetare și decodare
Comparați penalitățile de temperatură, top-k, top-p și repetiție, inclusiv modul în care se schimbă logit-urile înainte de eșantionare în fluxurile de lucru de generare LLM.
Întrebare 1 de 8
Ce face creșterea parametrului „temperatură” la ieșirea unui model?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- Ce face creșterea parametrului „temperatură” la ieșirea unui model?
- Îl face mai aleatoriu și mai divers
- Îl face mai determinist și mai concentrat
- Modifică permanent greutățile modelului
- Accelerează generarea
- Cum decide eșantionarea top-p (nucleu) ce jetoane să ia în considerare?
- Păstrează un număr fix de jetoane, indiferent de probabilitate
- Păstrează cel mai mic set de jetoane ale căror probabilități se însumează la un prag
- Păstrează doar un singur simbol cel mai probabil
- Păstrează jetoane cu probabilitate de peste 50%
- În ce etapă acționează de obicei o penalizare pentru repetiție?
- Pe textul brut după generație
- Pe datele de antrenament
- Pe logits înainte de softmax
- Despre vocabularul tokenizer
- In OpenAI’s text-generation API, how do presence and frequency penalties differ?
- Scale de penalizare de prezență cu număr de jetoane; penalizarea de frecvență este plată
- Sunt identice
- Ambele se aplică doar primului simbol
- Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
- For code completion where deterministic sampling is desired, which setting best matches the guide?
- Temperatura aproape de zero
- Temperatura foarte mare
- Penalizare mare de repetiție peste 2,0
- Top-p de 1,0 cu temperatură ridicată
- Ce face eșantionarea top-k?
- Păstrează jetoanele însumând probabilitatea k
- Păstrează doar k jetoane cele mai probabile ca candidați
- Înmulțiți toți logit-urile cu k
- Elimină cele k jetoane cele mai puțin probabile din antrenament
- With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
- It sets every repeated-token logit to zero
- It adds the penalty to every token equally
- It divides a positive logit by the penalty and multiplies a negative logit by it
- It removes the token from the vocabulary permanently
- How does top-k differ from top-p sampling?
- Top-k uses cumulative probability while top-p fixes a count
- Top-k changes model weights while top-p changes the tokenizer
- They are both deterministic decoding methods
- Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set