AI 용어집

증류된 모델(이)란?

정의

추론 시 더 적은 컴퓨팅을 사용하면서 더 큰 모델의 동작을 모방하도록 훈련된 더 작은 모델입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

추론 시간 계산각 응답을 생성하는 동안 소비된 처리 능력의 양입니다.지식 증류더 큰 모델의 출력을 모방하기 위해 더 작은 모델을 훈련합니다.추론훈련된 모델이 예측 또는 출력을 생성하는 런타임 단계입니다.가지치기덜 중요한 모델 가중치나 뉴런을 제거하여 크기와 계산을 줄입니다.테스트 시간 컴퓨팅품질이나 추론을 개선하기 위해 응답 생성 중에 사용되는 추가 추론 계산입니다.사용량 기반 청구API 호출, 토큰, 추론 시간 또는 소비된 컴퓨팅에 따라 비용이 조정되는 가격입니다.

무료 가이드에서 자세히 알아보세요

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

또한보십시오

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness