Kuis terkait panduan · Keras Tingkat

Kuis Pengambilan Sampel Khas

Memeriksa kejutan tipikal, peringkat berbasis entropi, ambang batas massa tipikal_p, dan perbedaan dari pengambilan sampel p teratas dengan peringkat probabilitas.

Jalur panduan terkaitPengambilan Sampel Khas
Pertanyaan 1 dari 8

Berapa kuantitas inti yang dibandingkan dengan pengambilan sampel tipikal untuk setiap kandidat token?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Berapa kuantitas inti yang dibandingkan dengan pengambilan sampel tipikal untuk setiap kandidat token?
    • Kandungan informasi yang diharapkan (entropi) dari distribusi
    • Ukuran kosakata model secara keseluruhan
    • Posisi token dalam kalimat
    • Parameter suhunya saja
  2. Bagaimana pengambilan sampel tipikal memperlakukan satu-satunya token yang paling mungkin?
    • Itu selalu memilihnya terlebih dahulu
    • Perusahaan mungkin mengecualikannya jika kejutannya jauh di bawah nilai yang diharapkan
    • Ini menggandakan kemungkinannya
    • Ini mengabaikan kemungkinan sepenuhnya
  3. Pengambilan sampel tipikal dimotivasi oleh gagasan apa tentang bahasa manusia?
    • Manusia selalu memilih kata-kata yang paling langka
    • Manusia tidak pernah mengulangi kata-kata
    • Manusia berkomunikasi dengan kecepatan informasi yang stabil
    • Manusia berbicara dalam kalimat yang panjangnya tetap
  4. Apa parameter tau dalam kontrol pengambilan sampel pada umumnya?
    • Kecepatan pembelajaran selama pelatihan
    • Jumlah lapisan dalam model
    • Panjang kalimat maksimum
    • Massa probabilitas kumulatif dikumpulkan ke dalam himpunan tipikal
  5. Compared with greedy decoding, what does typical sampling try to change?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. Jenis perangkat lunak apa yang biasanya dijadikan sampel bagi pengembang?
    • Aplikasi lembar bentang
    • Pustaka inferensi LLM sumber terbuka seperti Hugging Face Transformers
    • Alat pengeditan gambar
    • Mesin kueri basis data
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • The number of transformer layers
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set