AI 용어집

무엇입니까? 증류된 모델?

정의

추론 시 더 적은 컴퓨팅을 사용하면서 더 큰 모델의 동작을 모방하도록 훈련된 더 작은 모델입니다.

관련 용어

추론 시간 계산
각 응답을 생성하는 동안 소비된 처리 능력의 양입니다.
지식 증류
더 큰 모델의 출력을 모방하기 위해 더 작은 모델을 훈련합니다.
추론
훈련된 모델이 예측 또는 출력을 생성하는 런타임 단계입니다.
가지치기
덜 중요한 모델 가중치나 뉴런을 제거하여 크기와 계산을 줄입니다.
테스트 시간 컴퓨팅
품질이나 추론을 개선하기 위해 응답 생성 중에 사용되는 추가 추론 계산입니다.
사용량 기반 청구
API 호출, 토큰, 추론 시간 또는 소비된 컴퓨팅에 따라 비용이 조정되는 가격입니다.

무료 가이드에서 자세히 알아보세요

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

See also

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기