AI 용어집

사전 훈련(이)란?

정의

다운스트림 적응 전 광범위한 데이터에 대한 초기 대규모 모델 교육.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

훈련 후명령어 튜닝, 선호도 최적화, 안전 튜닝 등 사전 학습 이후 적용되는 학습 단계입니다.빅데이터확장 가능한 저장 및 처리 기술이 필요한 매우 크고 복잡한 데이터 세트입니다.지속적인 학습모델이 사전 지식을 잊지 않고 새로운 데이터로부터 계속 학습할 수 있도록 하는 훈련 접근 방식입니다.데이터 증대모델 일반화를 개선하기 위해 수정된 훈련 예제를 생성하는 기술.미세 조정사전 훈련된 모델을 특정 작업에 맞게 조정하기 위해 도메인별 데이터에 대한 지속적인 훈련입니다.기초 모델다양한 다운스트림 작업에 적용할 수 있는 사전 학습된 대규모 모델입니다.

무료 가이드에서 자세히 알아보세요

ELECTRA PretrainingContinued Pretraining vs Fine-TuningCLAP: Contrastive Language-Audio Pretraining

또한보십시오

PrecisionPromptPipelinePrompt EngineeringPerplexityPrompt InjectionParameter-Efficient Fine-Tuning (PEFT)Pruning