Quiz połączony z przewodnikiem · Średni Poziom

Quiz dotyczący próbkowania i zmiany rankingu najlepszych z N

Zrozum selekcję best-of-N, ograniczenia punktatorów, koszty czasu wnioskowania oraz założenia prawdopodobieństwa stojące za próbkowaniem większej liczby kandydatów.

Powiązane ścieżki prowadząceNajlepsze z N próbkowania i ponownego rankingu
Pytanie 1 z 8

Jaka jest podstawowa idea próbkowania typu best-of-N?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Jaka jest podstawowa idea próbkowania typu best-of-N?
    • Wygeneruj N potencjalnych wyników i wybierz najlepszy z punktacją
    • Trenuj model N razy i uśredniaj wagi
    • Używaj tylko pierwszego wyniku, jaki wygeneruje model
    • Zmniejsz słownictwo do N żetonów
  2. When is best-of-N most likely to help?
    • When every output is equally good
    • When the model sometimes samples a correct candidate and a reliable verifier can identify it
    • When the task has no way to assess candidates
    • When sampling is disabled
  3. Co w dużej mierze decyduje o tym, czy best-of-N rzeczywiście poprawia wyniki?
    • Kolor interfejsu użytkownika
    • Tylko długość podpowiedzi
    • Jakość i solidność osoby oceniającej lub weryfikatora
    • Rozmiar słownictwa modelu
  4. What can happen when N becomes large and the reward model is an imperfect proxy?
    • The model’s tokenizer is removed
    • The model forgets its training weights
    • All candidates become identical
    • Selection can favor outputs that exploit scorer errors and reduce true quality
  5. Która prosta strategia zmiany rankingu jest również nazywana samospójnością?
    • Głosowanie większością spośród próbkowanych odpowiedzi
    • Wybieramy najdłuższą odpowiedź
    • Wybór losowej próbki
    • Zawsze bierzemy wynik o najniższym prawdopodobieństwie
  6. What mainly drives the generation cost of best-of-N?
    • Only the number of vocabulary entries
    • The total amount of text generated across the sampled candidates
    • The user interface color
    • The number of model training runs
  7. If each independent sample succeeds with probability p and a perfect verifier picks any success, what is the chance at least one of N samples succeeds?
    • p/N
    • N−p
    • 1−(1−p)^N
    • 1−p^N
  8. Which assumption is needed for the simple 1−(1−p)^N success formula?
    • Every response has a different length
    • The model is retrained after each sample
    • The reward model has no parameters
    • The candidate samples are independent and the verifier recognizes success perfectly