What is Reward Model? Definition | AI Understanding

Definicja

Model oceniający wyniki na podstawie sygnałów preferencji, często używany w potokach RLHF.

Powiązane terminy

Uczenie się przez wzmocnienie na podstawie informacji zwrotnej od ludzi (RLHF)

Metoda szkoleniowa wykorzystująca sygnały preferencji ludzkich do kształtowania zachowań modelu.

Uczenie się przez wzmacnianie

Szkolenie za pomocą sygnałów nagrody, podczas którego agent uczy się działań maksymalizujących długoterminowy zwrot.

Prawda gruntowa

Zaufane etykiety referencyjne używane do uczenia lub oceniania wyników modelu.

DPO (bezpośrednia optymalizacja preferencji)

Metoda uczenia, która dostraja modele bezpośrednio na parach preferencji, bez konieczności stosowania osobnego modelu nagrody.

W połowie treningu

Pośrednia faza szkolenia pomiędzy szkoleniem przedtreningowym a szkoleniem poszkoleniowym, często wykorzystywana w celu dostosowania zdolności lub domeny.

System oprogramowania, który potrafi obserwować, rozumować i podejmować działania, aby osiągnąć cel, często przy użyciu narzędzi i pamięci.

Dowiedz się więcej z naszych bezpłatnych przewodników

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

Zobacz także

Retrieval Robustness Safety Filter Scaling Law Red Teaming Semantic Search Recommendation System Self-Supervised Learning

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI