Apa itu Pembelajaran Penguatan dari Umpan Balik Manusia (RLHF)?

Pelatihan dengan imbalan memberi sinyal saat agen mempelajari tindakan yang memaksimalkan keuntungan jangka panjang.

Model yang menilai keluaran berdasarkan sinyal preferensi, sering digunakan dalam saluran RLHF.

Metode pelatihan yang menyempurnakan model secara langsung pada pasangan preferensi tanpa memerlukan model imbalan terpisah.

Pendekatan pelatihan yang memungkinkan model terus belajar dari data baru tanpa melupakan pengetahuan sebelumnya.

Mempelajari atau mengadaptasi perilaku hanya dari sejumlah kecil contoh.

Penurunan kinerja seiring berjalannya waktu karena kondisi dunia nyata berbeda dari asumsi pelatihan.