AI 용어집

탑케이 샘플링(이)란?

정의

가장 가능성이 높은 k개의 다음 토큰에서만 샘플링하는 디코딩 전략입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

Top-p(핵) 샘플링확률의 합이 p인 가장 작은 토큰 세트에서 샘플링하는 디코딩 전략입니다.보호된 디코딩출력 토큰을 유효한 구조 또는 정책 준수 선택으로 제한하는 생성 전략입니다.퓨샷 학습소수의 사례를 통해 행동을 학습하거나 적용합니다.Perplexity모델이 실제 다음 토큰에 얼마나 놀랐는지 측정하는 언어 모델 측정항목입니다.추측적 디코딩작은 초안 모델이 더 큰 모델이 병렬로 검증하는 토큰을 제안하는 추론 가속화 방법입니다.KV 캐시변환기가 과거 주의를 다시 계산하지 않고 새 토큰을 생성할 수 있도록 하는 이전 토큰의 저장된 키 및 값 텐서입니다.

무료 가이드에서 자세히 알아보세요

Typical SamplingSpeculative Sampling VerificationEntropy-Based SamplingEarly Stopping

또한보십시오

Tool UseTokenizationTransfer LearningTokenTransformerTemperatureTraining LossSystem Prompt