Навчання Новини Інструм.Вакансії Місія

Термін глосарію AI

Що таке Навчання з підкріпленням на основі зворотного зв’язку людини (RLHF)?

Визначення

Метод навчання, який використовує сигнали переваг людини для формування модельної поведінки.

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту

Навчання з підкріпленнямНавчання за сигналами винагороди, коли агент навчається діям, які максимізують довгострокову віддачу.Модель винагородиМодель, яка оцінює результати на основі сигналів переваги, часто використовується в конвеєрах RLHF.DPO (пряма оптимізація переваг)Метод навчання, який точно налаштовує моделі безпосередньо на пари переваг без необхідності окремої моделі винагороди.Постійне навчанняПідходи до навчання, які дозволяють моделі продовжувати навчатися на нових даних, не забуваючи попередні знання.Невелике навчанняВивчення або адаптація поведінки лише на невеликій кількості прикладів.Модельний дрейфЗниження продуктивності з часом, оскільки реальні умови відрізняються від припущень щодо навчання.

Дізнайтеся більше в наших безкоштовних посібниках

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Дивіться також

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law