Kuiz berkaitan panduan · Sederhana Tahap
Kuiz Bias Logit
Semak cara bias logit token-ID mengubah pensampelan, had subkatanya dan sebab kawalan peringkat token boleh mempengaruhi lebih banyak teks daripada yang dimaksudkan.
soalan 1 daripada 8
Apakah yang diubah suai logit bias?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah yang diubah suai logit bias?
- Skor (logit) token tertentu sebelum pensampelan
- Berat latihan model secara kekal
- Suhu keseluruhan gesaan
- Bilangan token dalam tetingkap konteks
- Dalam kebanyakan API, apakah yang dicapai oleh bias logit -100 pada token?
- Menjadikan token 100 kali lebih berkemungkinan
- Berkesan melarang token daripada dijana
- Memadamkan token daripada perbendaharaan kata selama-lamanya
- Menggandakan kelajuan model
- What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
- From 0 to 1 only
- From -1 to 1 only
- From -100 to 100
- Any string value
- Bias logit diutamakan kepada pengecam apa?
- Perkataan teks biasa
- Kedudukan ayat
- Nama model
- ID token berangka
- Kerana logit diluluskan melalui softmax, apakah kesan penambahan bias positif?
- Ia secara eksponen meningkatkan berat relatif token sebelum penormalan
- Ia secara linear menambah kebarangkalian tetap
- Ia tidak mempunyai kesan sehingga latihan
- Ia mengalih keluar token daripada pertimbangan
- Kelebihan utama bias logit berbanding penalaan halus ialah:
- Meningkatkan pengetahuan model secara kekal
- Tidak memerlukan latihan semula dan terpakai setiap permintaan
- Meningkatkan saiz tetingkap konteks
- Berfungsi hanya pada imej
- Why should a developer inspect the tokenizer before applying a bias to a visible word?
- Token IDs are assigned only after sampling
- Visible words always equal one token
- The word may be represented by several token IDs, so biasing one ID may not cover all forms
- The tokenizer controls the model’s training data
- What is a practical risk of applying a strong positive bias to one token?
- It increases the context window
- It changes the model weights permanently
- It guarantees the token appears exactly once
- It can distort generation or produce repetitive, awkward text