SıradakiSonraki rehber
Sıcaklık ve Numune Alma
Dil Yapay Zeka
Dil AI KILAVUZU
Best-of-N is an inference-time selection method: sample multiple outputs and use a scorer or verifier to choose one.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
It can improve results when the model sometimes produces a good candidate and the scorer identifies it reliably. More samples cost more generation and can amplify errors in an imperfect scorer.
Best-of-N samples N candidate responses from a model and returns the one with the highest score under a reward model, verifier, or heuristic. Self-consistency is a special case that aggregates final answers by majority vote. If each independent sample has probability p of success and a perfect verifier can recognize success, the chance at least one candidate is correct is 1−(1−p)^N. Real outputs are not necessarily independent and real scorers are imperfect. Research on reward-model overoptimization finds that optimizing against a proxy can eventually reduce gold-standard performance, including in best-of-N selection.
Sampling several math solutions and selecting one that passes a verifier
Generating code candidates and ranking them with unit-test results
Using majority vote when multiple reasoning chains reach the same answer
Comparing quality gains against the additional generated tokens and scorer cost
Inference-time scaling research studies adaptive sample counts, verifiers, and reward-model calibration. The right N depends on the task, sample quality, scorer reliability, and compute budget. Evaluations should report both the selected-answer metric and the added generation/scoring cost.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Best-of-N is an inference-time selection method: sample multiple outputs and use a scorer or verifier to choose one. It can improve results when the model sometimes produces a good candidate and the scorer identifies it reliably. More samples cost more generation and can amplify errors in an imperfect scorer.
Best-of-N birden fazla aday yanıtını alır ve ardından bunları yeniden sıralayarak en yüksek puanı vereni döndürür.
More candidates help only if a good answer sometimes appears and the scorer can recognize it; neither condition is guaranteed.
Seçim yalnızca yeniden sıralama kadar iyidir; zayıf veya önyargılı bir puanlayıcı yanlış yanıtları seçebilir.
Research measures reward-model overoptimization in best-of-N: selecting extreme proxy scores can eventually lower gold-reward performance.
Öz-tutarlılık birçok akıl yürütme zincirini örnekler ve çoğu zincirin üzerinde anlaştığı nihai cevabı seçer.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Sıcaklık ve Numune Alma
Dil Yapay Zeka