What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

Визначення

Метод навчання, який використовує сигнали переваг людини для формування модельної поведінки.

Споріднені терміни

Навчання з підкріпленням

Навчання за сигналами винагороди, коли агент навчається діям, які максимізують довгострокову віддачу.

Модель винагороди

Модель, яка оцінює результати на основі сигналів переваги, часто використовується в конвеєрах RLHF.

DPO (пряма оптимізація переваг)

Метод навчання, який точно налаштовує моделі безпосередньо на пари переваг без необхідності окремої моделі винагороди.

Постійне навчання

Підходи до навчання, які дозволяють моделі продовжувати навчатися на нових даних, не забуваючи попередні знання.

Невелике навчання

Вивчення або адаптація поведінки лише на невеликій кількості прикладів.

Модельний дрейф

Зниження продуктивності з часом, оскільки реальні умови відрізняються від припущень щодо навчання.

Дізнайтеся більше в наших безкоштовних посібниках

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту