Kuiz berkaitan panduan · Keras Tahap

Kuiz Persampelan Biasa

Menyemak kejutan biasa, pemeringkatan berasaskan entropi, ambang jisim typical_p dan perbezaan daripada persampelan top-p berkedudukan kebarangkalian.

Laluan panduan yang berkaitanPersampelan Biasa
soalan 1 daripada 8

Apakah kuantiti teras yang dibandingkan dengan persampelan biasa setiap token calon?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah kuantiti teras yang dibandingkan dengan persampelan biasa setiap token calon?
    • Kandungan maklumat yang dijangkakan (entropi) taburan
    • Saiz perbendaharaan kata keseluruhan model
    • Kedudukan token dalam ayat
    • Parameter suhu sahaja
  2. Bagaimanakah pensampelan biasa merawat token tunggal yang paling berkemungkinan?
    • Ia sentiasa memilihnya dahulu
    • Ia mungkin mengecualikannya jika kejutannya jauh di bawah nilai yang dijangkakan
    • Ia menggandakan kebarangkaliannya
    • Ia mengabaikan kebarangkalian sepenuhnya
  3. Persampelan biasa didorong oleh idea yang manakah tentang bahasa manusia?
    • Manusia sentiasa memilih perkataan yang paling jarang berlaku
    • Manusia tidak pernah mengulang kata-kata
    • Manusia berkomunikasi hampir dengan kadar maklumat yang stabil
    • Manusia bercakap dalam ayat tetap
  4. Apakah parameter tau dalam kawalan pensampelan biasa?
    • Kadar pembelajaran semasa latihan
    • Bilangan lapisan dalam model
    • Panjang ayat maksimum
    • Jisim kebarangkalian terkumpul dikumpul ke dalam set biasa
  5. Berbanding dengan penyahkodan tamak, apakah yang cuba diubah oleh pensampelan biasa?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. Dalam jenis perisian yang manakah pensampelan biasa biasanya terdedah kepada pembangun?
    • Aplikasi hamparan
    • Pustaka inferens LLM sumber terbuka seperti Hugging Face Transformers
    • Alat penyuntingan imej
    • Enjin pertanyaan pangkalan data
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • The number of transformer layers
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set