Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Ismétlési büntetés és dekódolási vezérlők kvíz

Compare temperature, top-k, top-p, and repetition penalties, including how logits change before sampling in LLM generation workflows.

kérdés 1 -ból 8

Mit tesz a „hőmérséklet” paraméter emelése a modell kimenetével?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mit tesz a „hőmérséklet” paraméter emelése a modell kimenetével?
    • Véletlenebbé és változatosabbá teszi
    • Determinisztikusabbá és koncentráltabbá teszi
    • Véglegesen megváltoztatja a modell súlyát
    • Felgyorsítja a generációt
  2. Hogyan dönti el a top-p (nukleusz) mintavételezés, hogy mely tokeneket vegyük figyelembe?
    • Valószínűségtől függetlenül fix számú tokent tart meg
    • Megtartja a legkisebb tokenek készletet, amelynek valószínűségei összege egy küszöbértéket jelent
    • Csak az egyetlen legvalószínűbb tokent tartja meg
    • 50% feletti valószínűséggel tartja a tokeneket
  3. Általában melyik szakaszban hat az ismétlési büntetés?
    • A nyers szövegről nemzedék után
    • Az edzésadatokon
    • A softmax előtti logitokon
    • A tokenizátor szókincséről
  4. In OpenAI’s text-generation API, how do presence and frequency penalties differ?
    • Jelenléti büntetés skálák token számlálással; frekvenciabüntetés sima
    • Egyformák
    • Mindkettő csak az első tokenre vonatkozik
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. For code completion where deterministic sampling is desired, which setting best matches the guide?
    • Hőmérséklet nulla közelében
    • Nagyon magas hőmérséklet
    • Magas ismétlési büntetés 2.0 felett
    • Top-p 1,0 magas hőmérsékleten
  6. Mit csinál a top-k mintavétel?
    • A tokeneket k valószínűségre összegzi
    • Csak a k legvalószínűbb tokent tartja meg jelöltként
    • Megszorozza az összes logit k-val
    • Eltávolítja a k legkevésbé valószínű tokent az edzésből
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set