Kuis terkait panduan · Sedang Tingkat
Kuis Bias Logit
Tinjau bagaimana bias logit token-ID mengubah pengambilan sampel, batasan subkata, dan mengapa kontrol tingkat token dapat memengaruhi lebih banyak teks daripada yang diharapkan.
Pertanyaan 1 dari 8
Apa yang dimodifikasi oleh logit bias?
Pratinjau setiap pertanyaan8 pertanyaan
Jawaban dan penjelasan muncul saat Anda mengikuti kuis.
- Apa yang dimodifikasi oleh logit bias?
- Skor (logit) token tertentu sebelum pengambilan sampel
- Bobot latihan model diberi bobot secara permanen
- Suhu keseluruhan prompt
- Jumlah token di jendela konteks
- Di banyak API, apa yang dicapai oleh bias logit -100 pada sebuah token?
- Membuat token 100 kali lebih mungkin
- Secara efektif melarang pembuatan token
- Menghapus token dari kosakata selamanya
- Menggandakan kecepatan model
- What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
- From 0 to 1 only
- From -1 to 1 only
- From -100 to 100
- Any string value
- Bias logit dikunci pada pengidentifikasi apa?
- Kata teks biasa
- Posisi kalimat
- Nama modelnya
- ID token numerik
- Karena logit dilewatkan melalui softmax, apa efek penambahan bias positif?
- Ini secara eksponensial meningkatkan bobot relatif token sebelum normalisasi
- Ini secara linear menambahkan probabilitas tetap
- Itu tidak berpengaruh sampai pelatihan
- Ini menghilangkan token dari pertimbangan
- Keuntungan utama dari logit bias dibandingkan fine-tuning adalah:
- Meningkatkan pengetahuan model secara permanen
- Tidak memerlukan pelatihan ulang dan berlaku per permintaan
- Meningkatkan ukuran jendela konteks
- Hanya berfungsi pada gambar
- Why should a developer inspect the tokenizer before applying a bias to a visible word?
- Token IDs are assigned only after sampling
- Visible words always equal one token
- The word may be represented by several token IDs, so biasing one ID may not cover all forms
- The tokenizer controls the model’s training data
- What is a practical risk of applying a strong positive bias to one token?
- It increases the context window
- It changes the model weights permanently
- It guarantees the token appears exactly once
- It can distort generation or produce repetitive, awkward text