Gids-gekoppelde quiz · Middelmatig Niveau
Best-of-N-quiz voor bemonstering en herrangschikking
Begrijp de best-of-N-selectie, de beperkingen van de scorer, de kosten voor inferentietijd en de waarschijnlijkheidsaannames achter het samplen van meer kandidaten.
Vraag 1 van 8
Wat is het kernidee van best-of-N-sampling?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is het kernidee van best-of-N-sampling?
- Genereer N-kandidaatoutputs en kies de beste met een scorer
- Train het model N keer en bereken het gemiddelde van de gewichten
- Gebruik alleen de eerste uitvoer die het model produceert
- Reduceer de woordenschat tot N-tokens
- When is best-of-N most likely to help?
- When every output is equally good
- When the model sometimes samples a correct candidate and a reliable verifier can identify it
- When the task has no way to assess candidates
- When sampling is disabled
- Wat bepaalt grotendeels of best-of-N daadwerkelijk de resultaten verbetert?
- De kleur van de gebruikersinterface
- Alleen de lengte van de prompt
- De kwaliteit en robuustheid van de scorer of verificateur
- De woordenschatgrootte van het model
- What can happen when N becomes large and the reward model is an imperfect proxy?
- The model’s tokenizer is removed
- The model forgets its training weights
- All candidates become identical
- Selection can favor outputs that exploit scorer errors and reduce true quality
- Welke eenvoudige herrangschikkingsstrategie wordt ook wel zelfconsistentie genoemd?
- Meerderheidsstemming onder de steekproefantwoorden
- Het langste antwoord kiezen
- Het kiezen van een willekeurig monster
- Neem altijd de uitvoer met de laagste waarschijnlijkheid
- What mainly drives the generation cost of best-of-N?
- Only the number of vocabulary entries
- The total amount of text generated across the sampled candidates
- The user interface color
- The number of model training runs
- If each independent sample succeeds with probability p and a perfect verifier picks any success, what is the chance at least one of N samples succeeds?
- p/N
- N−p
- 1−(1−p)^N
- 1−p^N
- Which assumption is needed for the simple 1−(1−p)^N success formula?
- Every response has a different length
- The model is retrained after each sample
- The reward model has no parameters
- The candidate samples are independent and the verifier recognizes success perfectly