What is Reward Model? Definition | AI Understanding

Definition

Ein Modell, das Ausgaben basierend auf Präferenzsignalen bewertet und häufig in RLHF-Pipelines verwendet wird.

Verwandte Begriffe

Verstärkungslernen aus menschlichem Feedback (RLHF)

Eine Trainingsmethode, die menschliche Präferenzsignale nutzt, um Modellverhalten zu formen.

Verstärkungslernen

Training durch Belohnungssignale, bei dem ein Agent Aktionen lernt, die den langfristigen Ertrag maximieren.

Vertrauenswürdige Referenzlabels zum Trainieren oder Bewerten von Modellausgaben.

DPO (Direct Preference Optimization)

Eine Trainingsmethode, die Modelle direkt anhand von Präferenzpaaren verfeinert, ohne dass ein separates Belohnungsmodell erforderlich ist.

Mitte des Trainings

Eine Zwischentrainingsphase zwischen Pre-Training und Post-Training, die häufig für Leistungs- oder Domänenanpassungen verwendet wird.

Ein Softwaresystem, das beobachten, schlussfolgern und Maßnahmen ergreifen kann, um ein Ziel zu erreichen, häufig unter Einsatz von Werkzeugen und Gedächtnis.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Retrieval Robustness Safety Filter Scaling Law Red Teaming Semantic Search Recommendation System Self-Supervised Learning

Durchsuchen Sie das vollständige KI-Glossar Entdecken Sie alle kostenlosen KI-Anleitungen