Co je to model odměn? Definice | AI Understanding

Definice

Model, který hodnotí výstupy na základě preferenčních signálů, často používaný v potrubích RLHF.

Související pojmy

Posílení učení z lidské zpětné vazby (RLHF)

Tréninková metoda, která využívá signály lidských preferencí k formování chování modelu.

Posílení učení

Trénink pomocí signálů odměn, kdy se agent učí akce, které maximalizují dlouhodobou návratnost.

Pozemní pravda

Důvěryhodné referenční štítky používané k trénování nebo hodnocení výstupů modelu.

DPO (přímá optimalizace preferencí)

Tréninková metoda, která dolaďuje modely přímo na preferenčních párech bez nutnosti samostatného modelu odměn.

Střední trénink

Střední tréninková fáze mezi předtréninkem a po tréninku, často používaná pro úpravy schopností nebo domény.

Softwarový systém, který dokáže pozorovat, uvažovat a podnikat kroky k dosažení cíle, často pomocí nástrojů a paměti.

Více se dozvíte v našich bezplatných průvodcích

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

Viz také

Retrieval Robustness Safety Filter Scaling Law Red Teaming Semantic Search Recommendation System Self-Supervised Learning

Projděte si celý glosář AI Prozkoumejte všechny bezplatné průvodce AI