Mit dem Guide verknüpftes Quiz · Mittel Ebene
Best-of-N-Sampling- und Reranking-Quiz
Machen Sie sich mit der Best-of-N-Auswahl, den Scorer-Einschränkungen, den Inferenzzeitkosten und den Wahrscheinlichkeitsannahmen vertraut, die hinter der Auswahl weiterer Kandidaten stehen.
Frage 1 von 8
Was ist die Kernidee des Best-of-N-Samplings?
Sehen Sie sich jede Frage in der Vorschau an8 Fragen
Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.
- Was ist die Kernidee des Best-of-N-Samplings?
- Generieren Sie N-Kandidatenausgaben und wählen Sie mit einem Scorer die beste aus
- Trainieren Sie das Modell N-mal und mitteln Sie die Gewichte
- Verwenden Sie nur die erste Ausgabe, die das Modell erzeugt
- Reduzieren Sie den Wortschatz auf N Token
- Wann hilft Best-of-N am ehesten?
- Wenn jede Ausgabe gleich gut ist
- Wenn das Modell manchmal einen richtigen Kandidaten auswählt und ein zuverlässiger Prüfer ihn identifizieren kann
- Wenn die Aufgabe keine Möglichkeit bietet, Kandidaten zu bewerten
- Wenn die Probenentnahme deaktiviert ist
- Was bestimmt maßgeblich, ob Best-of-N tatsächlich zu besseren Ergebnissen führt?
- Die Farbe der Benutzeroberfläche
- Nur die Länge der Eingabeaufforderung
- Die Qualität und Robustheit des Scorers oder Prüfers
- Die Vokabulargröße des Modells
- Was kann passieren, wenn N groß wird und das Belohnungsmodell ein unvollständiger Proxy ist?
- Der Tokenizer des Modells wird entfernt
- Das Modell vergisst seine Trainingsgewichte
- Alle Kandidaten werden identisch
- Die Auswahl kann Ausgaben begünstigen, die Scorer-Fehler ausnutzen und die tatsächliche Qualität verringern
- Welche einfache Reranking-Strategie wird auch als Selbstkonsistenz bezeichnet?
- Mehrheitsentscheidung unter den Stichprobenantworten
- Die längste Antwort auswählen
- Auswahl einer Zufallsstichprobe
- Es wird immer die Ausgabe mit der geringsten Wahrscheinlichkeit genommen
- Was bestimmt hauptsächlich die Erzeugungskosten von Best-of-N?
- Nur die Anzahl der Vokabeleinträge
- Die Gesamtmenge an Text, die bei den Stichprobenkandidaten generiert wurde
- Die Farbe der Benutzeroberfläche
- Die Anzahl der Modelltrainingsläufe
- Wenn jede unabhängige Stichprobe mit der Wahrscheinlichkeit p erfolgreich ist und ein perfekter Verifizierer einen Erfolg auswählt, wie hoch ist dann die Chance, dass mindestens eine von N Stichproben erfolgreich ist?
- p/N
- N−p
- 1−(1−p)^N
- 1−p^N
- Welche Annahme ist für die einfache Erfolgsformel 1−(1−p)^N erforderlich?
- Jede Antwort hat eine andere Länge
- Das Modell wird nach jeder Probe neu trainiert
- Das Belohnungsmodell hat keine Parameter
- Die Kandidatenstichproben sind unabhängig und der Prüfer erkennt den Erfolg perfekt an