คืออะไร การเรียนรู้การเสริมกำลังจากผลตอบรับของมนุษย์ (RLHF)?

การฝึกอบรมโดยให้รางวัลเป็นสัญญาณว่าตัวแทนเรียนรู้การกระทำที่เพิ่มผลตอบแทนในระยะยาวสูงสุด

แบบจำลองที่ให้คะแนนเอาต์พุตตามสัญญาณการตั้งค่า ซึ่งมักใช้ในไปป์ไลน์ RLHF

วิธีการฝึกอบรมที่ปรับแต่งโมเดลโดยตรงตามคู่ความชอบ โดยไม่ต้องใช้โมเดลรางวัลแยกต่างหาก

แนวทางการฝึกอบรมที่ช่วยให้โมเดลสามารถเรียนรู้จากข้อมูลใหม่โดยไม่ลืมความรู้เดิม

การเรียนรู้หรือปรับพฤติกรรมจากตัวอย่างเพียงเล็กน้อย

ประสิทธิภาพลดลงเมื่อเวลาผ่านไปเนื่องจากเงื่อนไขในโลกแห่งความเป็นจริงแตกต่างจากสมมติฐานในการฝึกอบรม