Kuiz berkaitan panduan · Keras Tahap

Mirostat Perplexity Kuiz Kawalan

Meliputi kejutan/kebingungan sasaran Mirostat, ambang maklum balas, kadar kemas kini, perbezaan versi dan had sebagai heuristik penyahkodan.

Laluan panduan yang berkaitanMirostat Perplexity Kawalan
soalan 1 daripada 8

What does Mirostat try to control during generation?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. What does Mirostat try to control during generation?
    • A target level of output perplexity or surprise
    • Bilangan parameter model
    • The training dataset size
    • Suhu GPU
  2. Bagaimanakah Mirostat secara asasnya berbeza daripada pensampelan top-k atau top-p standard?
    • Ia tidak pernah menggunakan rawak
    • Ia melaraskan pemangkasan secara dinamik menggunakan maklum balas dan bukannya pemotongan tetap
    • Ia hanya berfungsi pada imej
    • Ia memerlukan latihan semula model
  3. Dalam Mirostat, apakah peranan yang dimainkan oleh parameter eta?
    • Ia menetapkan saiz perbendaharaan kata
    • Ia membetulkan panjang output
    • Ia adalah kadar pembelajaran yang mengawal seberapa cepat ambang menyesuaikan diri
    • Ia melumpuhkan pensampelan
  4. Apakah peningkatan utama Mirostat versi 2 berbanding versi 1?
    • Ia juga menghasilkan imej
    • Ia memerlukan lebih banyak ingatan
    • Ia mengalih keluar parameter tau
    • Ia menjatuhkan andaian pengedaran Zipfian untuk kawalan yang lebih mudah dan lebih mantap
  5. Jika Mirostat mengesan bahawa output menjadi terlalu boleh diramal, ia akan:
    • Longgarkan pemangkasan untuk menerima lebih banyak token yang pelbagai
    • Ketatkan pemangkasan untuk membenarkan lebih sedikit token
    • Berhenti menjana serta-merta
    • Tingkatkan saiz model
  6. Which Mirostat settings does current llama.cpp expose?
    • Tokenizer vocabulary and number of layers
    • Mode, target tau, and learning-rate eta
    • Only the prompt length
    • Training epochs and validation loss
  7. What does eta control in Mirostat’s feedback update?
    • The size of the model vocabulary
    • The target number of output tokens
    • How strongly the threshold changes in response to the observed error
    • The probability of a correct factual answer
  8. What does a Mirostat target not guarantee by itself?
    • That the sampler reads token probabilities
    • That the setting can influence surprise
    • That the output contains tokens
    • That the generated text is factually correct