What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

Definisi

Kaedah latihan yang menggunakan isyarat keutamaan manusia untuk membentuk tingkah laku model.

Istilah berkaitan

Pembelajaran Pengukuhan

Latihan melalui isyarat ganjaran di mana ejen mempelajari tindakan yang memaksimumkan pulangan jangka panjang.

Model yang menjaringkan output berdasarkan isyarat keutamaan, sering digunakan dalam saluran paip RLHF.

DPO (Pengoptimuman Keutamaan Langsung)

Kaedah latihan yang memperhalusi model secara langsung pada pasangan pilihan tanpa memerlukan model ganjaran yang berasingan.

Pembelajaran Berterusan

Pendekatan latihan yang membolehkan model terus belajar daripada data baharu tanpa melupakan pengetahuan terdahulu.

Pembelajaran Sedikit Pukulan

Mempelajari atau menyesuaikan tingkah laku daripada hanya sebilangan kecil contoh.

Kemerosotan prestasi dari semasa ke semasa kerana keadaan dunia sebenar menyimpang daripada andaian latihan.

Ketahui lebih lanjut dalam panduan percuma kami

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma