Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Ismétlési büntetés és dekódolási vezérlők kvíz
Compare temperature, top-k, top-p, and repetition penalties, including how logits change before sampling in LLM generation workflows.
kérdés 1 -ból 8
Mit tesz a „hőmérséklet” paraméter emelése a modell kimenetével?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mit tesz a „hőmérséklet” paraméter emelése a modell kimenetével?
- Véletlenebbé és változatosabbá teszi
- Determinisztikusabbá és koncentráltabbá teszi
- Véglegesen megváltoztatja a modell súlyát
- Felgyorsítja a generációt
- Hogyan dönti el a top-p (nukleusz) mintavételezés, hogy mely tokeneket vegyük figyelembe?
- Valószínűségtől függetlenül fix számú tokent tart meg
- Megtartja a legkisebb tokenek készletet, amelynek valószínűségei összege egy küszöbértéket jelent
- Csak az egyetlen legvalószínűbb tokent tartja meg
- 50% feletti valószínűséggel tartja a tokeneket
- Általában melyik szakaszban hat az ismétlési büntetés?
- A nyers szövegről nemzedék után
- Az edzésadatokon
- A softmax előtti logitokon
- A tokenizátor szókincséről
- In OpenAI’s text-generation API, how do presence and frequency penalties differ?
- Jelenléti büntetés skálák token számlálással; frekvenciabüntetés sima
- Egyformák
- Mindkettő csak az első tokenre vonatkozik
- Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
- For code completion where deterministic sampling is desired, which setting best matches the guide?
- Hőmérséklet nulla közelében
- Nagyon magas hőmérséklet
- Magas ismétlési büntetés 2.0 felett
- Top-p 1,0 magas hőmérsékleten
- Mit csinál a top-k mintavétel?
- A tokeneket k valószínűségre összegzi
- Csak a k legvalószínűbb tokent tartja meg jelöltként
- Megszorozza az összes logit k-val
- Eltávolítja a k legkevésbé valószínű tokent az edzésből
- With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
- It sets every repeated-token logit to zero
- It adds the penalty to every token equally
- It divides a positive logit by the penalty and multiplies a negative logit by it
- It removes the token from the vocabulary permanently
- How does top-k differ from top-p sampling?
- Top-k uses cumulative probability while top-p fixes a count
- Top-k changes model weights while top-p changes the tokenizer
- They are both deterministic decoding methods
- Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set