Was ist Mitte des Trainings?

Trainingsschritte, die nach dem Vortraining angewendet werden, z. B. Anweisungsoptimierung, Präferenzoptimierung und Sicherheitsoptimierung.

Eine Sammlung strukturierter oder unstrukturierter Beispiele, die für Schulung, Validierung oder Tests verwendet werden.

Ein zurückgehaltener Datensatz, der zur Messung der Modellqualität nach dem Training verwendet wird.

Fortgesetztes Training zu domänenspezifischen Daten, um ein vorab trainiertes Modell an eine bestimmte Aufgabe anzupassen.

Erstes groß angelegtes Modelltraining auf breiten Daten vor der nachgelagerten Anpassung.

Ein Modell, das Ausgaben basierend auf Präferenzsignalen bewertet und häufig in RLHF-Pipelines verwendet wird.