개요
전문가가 알고 있는 것과 아마추어가 놓친 것을 증폭시켜 반복과 단조로운 출력을 줄입니다.
심층 분석
Contrastive decoding scores candidate tokens using an expert model and an amateur model, subtracting a weighted amateur log-probability from the expert score. It can suppress tokens that both models favor, including some generic or repetitive continuations. An adaptive plausibility constraint filters out tokens whose expert probability is too small relative to the expert’s highest-probability token. This constraint limits candidates; it does not guarantee coherent, grammatical, or truthful output. Output quality depends on the models, coefficient, threshold, prompt, and task, so evaluate the full generation. The method runs at inference time with two models and requires no additional training.
실제 구현
핵 샘플링이 루프로 표류하는 길고 비반복적인 이야기 또는 기사 연속 생성
65B 전문가와 1.5B 아마추어를 결합하여 미세 조정 없이 개방형 세대 개선
요약 및 대화 출력의 퇴화된 반복 감소
사실적 환각을 낮추기 위한 DoLa 스타일 자기 대조의 기초 역할을 합니다.
대비 디코딩의 미래
대조 디코딩은 DoLa(환각을 줄이기 위해 모델 자체의 초기 레이어와 후기 레이어를 대조) 및 검색된 문서와 대조되는 상황 인식 변형을 포함하는 '추론 시 대비' 방법 계열에 영감을 주었습니다. 검색, 사실성 채점, 소규모 아마추어 증류와의 더욱 긴밀한 통합과 추론적 디코딩의 결합을 기대하여 아마추어가 품질을 조정하고 생성을 동시에 가속화할 수 있습니다.
실천에 옮기기
왜 중요한가요?
- 속도와 규모. 일관성을 유지하면서 언어 워크플로를 더 빠르게 진행할 수 있습니다.
- 접근 및 도달. 언어와 의사소통 스타일 전반에 걸쳐 접근성을 확장합니다.
- 더 명확한 결정들. 자동화가 반복을 처리하는 동안 팀은 판단에 더 많은 시간을 할애할 수 있습니다.
조심하세요
- 환각 사실은 보고서, 지원 흐름 또는 연구 결과에 조용히 포함될 수 있습니다.
- 신속한 민감도는 유사한 요청 간에 일관되지 않은 결과를 초래할 수 있습니다.
- 액세스 제어가 약한 경우 민감한 텍스트 데이터가 노출될 수 있습니다.
다음 단계
- 출시 전에 출력 형식, 톤, 품질 표준을 정의하세요.
- 정확성이 중요할 때마다 신뢰할 수 있는 출처를 통해 대응하세요.
- 고위험 결과물에 대한 인적 검토 체크포인트를 유지합니다.
- 실패 패턴을 추적하고 프롬프트나 워크플로를 정기적으로 재교육하세요.
계속 탐색하세요
무료 뉴스레터
일일 AI 브리핑 받기
매주 평일 아침마다 3개의 검증된 AI 스토리를 일반 영어로 작성합니다. 무료이며, 광고 없음.
매주 평일마다 한 번 이메일을 받습니다. 한 번 클릭으로 구독 해지. 주소를 판매하거나 공유하지 않습니다.
자신을 테스트해 보세요
Take the Contrastive Decoding quiz
모든 답변에 즉각적인 피드백과, 과정을 통과하면 검증 가능한 ID가 있는 공유 가능한 인증서를 제공합니다.
무료 AI 교육을 지원합니다. AI Understanding는 501(c)(3) 비영리 단체입니다 — 광고 없음, 유료 장벽 없음, 영원히. 기부하기
자주 묻는 질문
대조 디코딩이란 무엇입니까?
대조 디코딩은 크고 강한 언어 모델의 경향에서 작고 약한 언어 모델의 경향을 빼서 더 높은 품질의 텍스트를 생성합니다. 전문가가 알고 있는 것과 아마추어가 놓친 것을 증폭시켜 반복과 단조로운 출력을 줄입니다.
대조 디코딩에서 작은 '아마추어' 모델은 어떤 역할을 합니까?
전문가의 로그 확률에서 아마추어의 로그 확률을 빼면 두 모델이 공유하는 체계적인 오류(빈번한 토큰 선호 등)가 제거됩니다.
아마추어의 확률을 빼면 반복과 단조로운 출력이 줄어드는 이유는 무엇입니까?
두 모델 모두 빈도가 높고 반복적인 토큰을 과도하게 선호하는 경향이 있습니다. 아마추어를 빼면 공유된 편견이 제거되고 단조로운 선택이 낮아집니다.
What does the adaptive plausibility constraint do in contrastive decoding?
The constraint removes low-expert-probability tokens before contrastive scoring; it does not certify the coherence or truth of the final output.
대조 디코딩의 채점 공식은 대략 무엇입니까?
각 후보자는 전문가의 로그 확률에서 가중 아마추어 로그 확률을 뺀 값으로 점수가 매겨져 전문가가 고유하게 선호하는 토큰을 보상받습니다.
대조 아이디어를 단일 모델의 자체 레이어로 확장하는 최신 방법은 무엇입니까?
DoLa는 모델의 조기(초기 계층) 예측과 성숙(후기 계층) 예측을 대조하여 환각을 줄이고 하나의 모델 내에서 대조 개념을 적용합니다.