Kuis terkait panduan · Keras Tingkat

Mirostat Perplexity Kuis Kontrol

Mencakup kejutan/kebingungan target Mirostat, ambang umpan balik, kecepatan pembaruan, perbedaan versi, dan batasan sebagai heuristik decoding.

Jalur panduan terkaitKontrol Mirostat Perplexity
Pertanyaan 1 dari 8

What does Mirostat try to control during generation?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. What does Mirostat try to control during generation?
    • A target level of output perplexity or surprise
    • Jumlah parameter model
    • The training dataset size
    • Suhu GPU
  2. Apa perbedaan mendasar Mirostat dari pengambilan sampel top-k atau top-p standar?
    • Itu tidak pernah menggunakan keacakan
    • Ini secara dinamis menyesuaikan pemotongan menggunakan umpan balik, bukan batas tetap
    • Ini hanya berfungsi pada gambar
    • Hal ini memerlukan pelatihan ulang model
  3. Di Mirostat, peran apa yang dimainkan parameter eta?
    • Ini menentukan ukuran kosakata
    • Ini memperbaiki panjang keluaran
    • Ini adalah kecepatan pembelajaran yang mengontrol seberapa cepat ambang batas beradaptasi
    • Ini menonaktifkan pengambilan sampel
  4. Apa peningkatan utama Mirostat versi 2 dibandingkan versi 1?
    • Ini menghasilkan gambar juga
    • Ini membutuhkan lebih banyak memori
    • Ini menghapus parameter tau
    • Hal ini menghilangkan asumsi distribusi Zipfian untuk kontrol yang lebih sederhana dan kuat
  5. Jika Mirostat mendeteksi bahwa keluaran menjadi terlalu dapat diprediksi, Mirostat akan:
    • Kendurkan pemotongan untuk menerima token yang lebih beragam
    • Kencangkan pemotongan untuk memungkinkan lebih sedikit token
    • Hentikan pembuatan segera
    • Tingkatkan ukuran model
  6. Which Mirostat settings does current llama.cpp expose?
    • Tokenizer vocabulary and number of layers
    • Mode, target tau, and learning-rate eta
    • Only the prompt length
    • Training epochs and validation loss
  7. What does eta control in Mirostat’s feedback update?
    • The size of the model vocabulary
    • The target number of output tokens
    • How strongly the threshold changes in response to the observed error
    • The probability of a correct factual answer
  8. What does a Mirostat target not guarantee by itself?
    • That the sampler reads token probabilities
    • That the setting can influence surprise
    • That the output contains tokens
    • That the generated text is factually correct