AI 용어집

반복 페널티(이)란?

정의

루프를 줄이기 위해 모델이 이미 생성한 토큰의 확률을 낮추는 디코딩 설정입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

빈도 페널티지금까지 토큰이 나타난 빈도에 비례하여 토큰의 확률을 줄이는 디코딩 설정입니다.출석 페널티토큰이 전혀 등장할 확률을 줄여 새로운 화제를 불러일으키는 디코딩 설정입니다.탑케이 샘플링가장 가능성이 높은 k개의 다음 토큰에서만 샘플링하는 디코딩 전략입니다.보호된 디코딩출력 토큰을 유효한 구조 또는 정책 준수 선택으로 제한하는 생성 전략입니다.추측적 디코딩작은 초안 모델이 더 큰 모델이 병렬로 검증하는 토큰을 제안하는 추론 가속화 방법입니다.슬라이딩 윈도우 주의계산을 줄이기 위해 각 토큰이 근처 토큰의 고정 크기 창에만 주의를 기울이는 주의 패턴입니다.

무료 가이드에서 자세히 알아보세요

Repetition Penalty and Decoding ControlsAI Flashcards and Spaced Repetition

또한보십시오

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking