AI 용어집

매개변수 효율적인 미세 조정(PEFT)(이)란?

정의

추가된 매개변수의 작은 하위 집합을 훈련하여 모델을 조정하는 방법입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

미세 조정사전 훈련된 모델을 특정 작업에 맞게 조정하기 위해 도메인별 데이터에 대한 지속적인 훈련입니다.LoRA(낮은 순위 적응)낮은 순위의 어댑터 행렬을 추가하는 매개변수 효율적인 미세 조정 방법입니다.훈련 후명령어 튜닝, 선호도 최적화, 안전 튜닝 등 사전 학습 이후 적용되는 학습 단계입니다.명령어 튜닝작업 추적을 개선하기 위해 지시-응답 쌍에 대한 모델을 미세 조정합니다.학습률매개변수가 각 업데이트 단계를 얼마나 변경하는지 제어하는 훈련 하이퍼파라미터입니다.DPO(직접 선호도 최적화)별도의 보상 모델이 필요 없이 선호 쌍에 대해 직접 모델을 미세 조정하는 학습 방법입니다.

무료 가이드에서 자세히 알아보세요

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

또한보십시오

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining