학습 뉴스 도구 채용 미션

AI 용어집

인간 피드백을 통한 강화 학습(RLHF)(이)란?

정의

인간의 선호 신호를 사용하여 모델 행동을 형성하는 훈련 방법입니다.

전체 AI 용어집 찾아보기 무료 AI 가이드 모두 살펴보기

강화 학습에이전트가 장기적인 수익을 극대화하는 행동을 학습하는 보상 신호를 통한 교육입니다.보상 모델RLHF 파이프라인에서 자주 사용되는 선호 신호를 기반으로 출력에 점수를 매기는 모델입니다.DPO(직접 선호도 최적화)별도의 보상 모델이 필요 없이 선호 쌍에 대해 직접 모델을 미세 조정하는 학습 방법입니다.지속적인 학습모델이 사전 지식을 잊지 않고 새로운 데이터로부터 계속 학습할 수 있도록 하는 훈련 접근 방식입니다.퓨샷 학습소수의 사례를 통해 행동을 학습하거나 적용합니다.모델 드리프트실제 조건이 훈련 가정과 다르기 때문에 시간이 지남에 따라 성능이 저하됩니다.

무료 가이드에서 자세히 알아보세요

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

또한보십시오

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law