引導式測驗 · 中等 等級
約束解碼測驗
檢查令牌級約束、增量解析、結構化輸出限制以及有效格式和正確內容之間的差異。
問題 1 的 8
約束解碼在每個生成步驟中的作用是什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 約束解碼在每個生成步驟中的作用是什麼?
- 在採樣之前屏蔽掉違反所需結構的標記
- 在結構化範例上重新訓練模型
- 將溫度降至零
- 在提示中加入更多訓練數據
- What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
- The model silently gains new training data
- The request can be rejected with an error
- All outputs become valid SQL
- The schema is automatically converted to natural language
- 哪些技術挑戰使得受限解碼難以實施?
- 如果沒有它,模型根本無法輸出文本
- 需要100GB以上顯存的GPU
- 子詞標記與語法符號沒有完全對齊
- 無法為 JSON 編寫語法
- 下列哪一個是用來指定解碼約束的真實格式?
- 權重電子表格
- GPU 溫度列表
- 隨機種子值
- JSON 模式或上下文無關語法
- 通常在管道中的哪個點應用約束遮罩?
- 到 logits,在 softmax/採樣步驟之前
- 在提示標記化之前
- 文字已列印給使用者後
- 僅在模型訓練期間
- 與簡單地在提示中要求模型「輸出有效的 JSON」相比,約束解碼有什麼優點?
- 它用電量更少
- 提供了硬保障而不是依賴模型的配合
- 讓模型更有創意
- 它消除了對分詞器的需要
- What does PICARD do with a candidate token that would make a partial SQL query unparsable?
- Accepts it and repairs the query after generation
- Retrains the language model immediately
- Rejects that token during incremental parsing before it is emitted
- Deletes the user’s database schema
- What does a schema-conforming output guarantee by itself?
- Every value is true in the external world
- The model used the right source documents
- No refusal or incomplete response can occur
- The output matches the supported structure, not that its values are factually correct