가이드 연계 퀴즈 · 중간 레벨
제한된 디코딩 퀴즈
토큰 수준 제약 조건, 증분 구문 분석, 구조화된 출력 제한, 유효한 형식과 올바른 콘텐츠 간의 차이를 검토하세요.
질문 1 의 8
제한된 디코딩은 기본적으로 각 생성 단계에서 무엇을 수행합니까?
모든 질문 미리보기8 질문
퀴즈를 풀면 정답과 설명이 나타납니다.
- 제한된 디코딩은 기본적으로 각 생성 단계에서 무엇을 수행합니까?
- 샘플링 전에 필수 구조를 위반하는 토큰을 마스크 처리합니다.
- 구조화된 예시를 바탕으로 모델을 재교육합니다.
- 온도를 0으로 낮춥니다.
- 프롬프트에 더 많은 훈련 데이터를 추가합니다.
- What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
- The model silently gains new training data
- The request can be rejected with an error
- All outputs become valid SQL
- The schema is automatically converted to natural language
- 제한된 디코딩을 구현하기 어렵게 만드는 기술적 문제는 무엇입니까?
- 모델이 없으면 모델은 텍스트를 전혀 출력할 수 없습니다.
- 100GB 이상의 메모리를 갖춘 GPU가 필요합니다.
- 하위 단어 토큰이 문법 기호와 정확하게 일치하지 않습니다.
- JSON에는 문법을 작성할 수 없습니다.
- 다음 중 디코딩에 대한 제약 조건을 지정하는 데 사용되는 실제 형식은 무엇입니까?
- 가중치 스프레드시트
- GPU 온도 목록
- 임의의 시드 값
- JSON 스키마 또는 컨텍스트 프리 문법
- 제약 조건 마스크는 일반적으로 파이프라인의 어느 지점에 적용됩니까?
- 소프트맥스/샘플링 단계 전의 로짓으로
- 프롬프트 토큰화 전
- 텍스트가 이미 사용자에게 인쇄된 후
- 모델 훈련 중에만
- 단순히 '유효한 JSON을 출력하세요'라는 프롬프트에서 모델을 요청하는 것과 비교하여 제한된 디코딩은 어떤 이점을 제공합니까?
- 전기를 덜 먹거든요
- 모델의 협조에 의존하기보다는 확실한 보증을 제공합니다.
- 모델을 더욱 창의적으로 만들어줍니다.
- 토크나이저가 필요하지 않습니다.
- What does PICARD do with a candidate token that would make a partial SQL query unparsable?
- Accepts it and repairs the query after generation
- Retrains the language model immediately
- Rejects that token during incremental parsing before it is emitted
- Deletes the user’s database schema
- What does a schema-conforming output guarantee by itself?
- Every value is true in the external world
- The model used the right source documents
- No refusal or incomplete response can occur
- The output matches the supported structure, not that its values are factually correct