What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

Определение

Метод на обучение, който използва сигнали за човешки предпочитания, за да оформи поведението на модела.

Свързани термини

Обучение с подсилване

Обучение чрез сигнали за възнаграждение, при което агент научава действия, които максимизират дългосрочната възвръщаемост.

Модел на възнаграждение

Модел, който оценява резултатите въз основа на сигнали за предпочитания, често използвани в RLHF тръбопроводи.

DPO (директна оптимизация на предпочитанията)

Метод на обучение, който прецизира моделите директно върху двойки предпочитания, без да е необходим отделен модел на възнаграждение.

Непрекъснато обучение

Подходи за обучение, които позволяват на модела да продължи да се учи от нови данни, без да забравя предишни знания.

Малкократно обучение

Учене или адаптиране на поведение само от малък брой примери.

Модел Дрифт

Влошаване на производителността с течение на времето, тъй като условията в реалния свят се различават от допусканията за обучение.

Научете повече в нашите безплатни ръководства

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI