Kvíz spojený s průvodcem · Střední úroveň
Kvíz o vzorkování a přehodnocení nejlepších z N
Pochopte výběr nejlepšího z N, omezení skóre, časové náklady a pravděpodobnostní předpoklady za vzorkováním více kandidátů.
Otázka 1 z 8
Jaká je základní myšlenka vzorkování best-of-N?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jaká je základní myšlenka vzorkování best-of-N?
- Vygenerujte N výstupů kandidátů a pomocí bodovače vyberte ten nejlepší
- Trénujte model N-krát a zprůměrujte váhy
- Použijte pouze první výstup, který model vytvoří
- Zredukujte slovní zásobu na N tokenů
- When is best-of-N most likely to help?
- When every output is equally good
- When the model sometimes samples a correct candidate and a reliable verifier can identify it
- When the task has no way to assess candidates
- When sampling is disabled
- Co do značné míry určuje, zda best-of-N skutečně zlepšuje výsledky?
- Barva uživatelského rozhraní
- Pouze délka výzvy
- Kvalita a robustnost bodovače nebo ověřovatele
- Velikost slovní zásoby modelu
- What can happen when N becomes large and the reward model is an imperfect proxy?
- The model’s tokenizer is removed
- The model forgets its training weights
- All candidates become identical
- Selection can favor outputs that exploit scorer errors and reduce true quality
- Která jednoduchá rerankingová strategie je také známá jako sebekonzistence?
- Většinové hlasování mezi ukázkovými odpověďmi
- Výběr nejdelší odpovědi
- Výběr náhodného vzorku
- Vždy brát výstup s nejnižší pravděpodobností
- What mainly drives the generation cost of best-of-N?
- Only the number of vocabulary entries
- The total amount of text generated across the sampled candidates
- The user interface color
- The number of model training runs
- If each independent sample succeeds with probability p and a perfect verifier picks any success, what is the chance at least one of N samples succeeds?
- p/N
- N−p
- 1−(1−p)^N
- 1−p^N
- Which assumption is needed for the simple 1−(1−p)^N success formula?
- Every response has a different length
- The model is retrained after each sample
- The reward model has no parameters
- The candidate samples are independent and the verifier recognizes success perfectly