What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

Definice

Tréninková metoda, která využívá signály lidských preferencí k formování chování modelu.

Související pojmy

Posílení učení

Trénink pomocí signálů odměn, kdy se agent učí akce, které maximalizují dlouhodobou návratnost.

Model, který hodnotí výstupy na základě preferenčních signálů, často používaný v potrubích RLHF.

DPO (přímá optimalizace preferencí)

Tréninková metoda, která dolaďuje modely přímo na preferenčních párech bez nutnosti samostatného modelu odměn.

Průběžné učení

Tréninkové přístupy, které umožňují modelu neustále se učit z nových dat, aniž by zapomínal na předchozí znalosti.

Učení několika výstřelů

Naučit se nebo přizpůsobit chování pouze z malého počtu příkladů.

Snižování výkonu v průběhu času s tím, jak se podmínky v reálném světě liší od tréninkových předpokladů.

Více se dozvíte v našich bezplatných průvodcích

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Viz také

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

Projděte si celý glosář AI Prozkoumejte všechny bezplatné průvodce AI