학습 뉴스 도구 채용 미션

AI 용어집

학습률(이)란?

정의

매개변수가 각 업데이트 단계를 얼마나 변경하는지 제어하는 훈련 하이퍼파라미터입니다.

전체 AI 용어집 찾아보기 무료 AI 가이드 모두 살펴보기

그라데이션손실을 줄이기 위해 각 매개변수를 얼마나 변경해야 하는지 보여주는 벡터입니다.초매개변수학습률, 배치 크기, 깊이 등 훈련 전에 설정되는 구성 값입니다.일반화훈련 세트 외부에서 볼 수 없는 새로운 데이터에 대해 모델이 얼마나 잘 수행되는지입니다.매개변수 효율적인 미세 조정(PEFT)추가된 매개변수의 작은 하위 집합을 훈련하여 모델을 조정하는 방법입니다.빔 검색더 높은 확률의 출력을 찾기 위해 각 단계에서 상위 여러 후보 시퀀스를 유지하는 디코딩 알고리즘입니다.손실 함수훈련 중 예측 오류를 수량화하는 수학적 목표입니다.

무료 가이드에서 자세히 알아보세요

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

또한보십시오

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation