Cuestionario vinculado a una guía · Medio Nivel
Prueba de decodificación restringida
Revise las restricciones a nivel de token, el análisis incremental, los límites de salida estructurados y la distinción entre formato válido y contenido correcto.
Pregunta 1 de 8
¿Qué hace fundamentalmente la decodificación restringida en cada paso de generación?
Vista previa de cada pregunta8 preguntas
Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.
- ¿Qué hace fundamentalmente la decodificación restringida en cada paso de generación?
- Enmascara los tokens que violarían la estructura requerida antes del muestreo.
- Vuelve a entrenar el modelo en ejemplos estructurados.
- Baja la temperatura a cero.
- Agrega más datos de entrenamiento al mensaje
- What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
- The model silently gains new training data
- The request can be rejected with an error
- All outputs become valid SQL
- The schema is automatically converted to natural language
- ¿Qué desafío técnico hace que la decodificación restringida sea difícil de implementar?
- Los modelos no pueden generar ningún texto sin él.
- Requiere una GPU con más de 100 GB de memoria
- Los tokens de subpalabras no se alinean claramente con los símbolos gramaticales
- Las gramáticas no se pueden escribir para JSON
- ¿Cuál de estos es un formato real utilizado para especificar restricciones para la decodificación?
- Una hoja de cálculo de pesos.
- Una lista de temperaturas de GPU
- Un valor inicial aleatorio
- Un esquema JSON o gramática libre de contexto
- ¿En qué punto del proceso se suele aplicar la máscara de restricción?
- A los logits, antes del paso softmax/sampling
- Antes de la tokenización del mensaje
- Después de que el texto ya esté impreso para el usuario.
- Sólo durante el entrenamiento del modelo
- En comparación con simplemente pedirle a un modelo en el mensaje que "genere un JSON válido", ¿qué ventaja ofrece la decodificación restringida?
- Utiliza menos electricidad
- Proporciona una garantía sólida en lugar de depender de la cooperación del modelo.
- Hace que el modelo sea más creativo.
- Elimina la necesidad de un tokenizador.
- What does PICARD do with a candidate token that would make a partial SQL query unparsable?
- Accepts it and repairs the query after generation
- Retrains the language model immediately
- Rejects that token during incremental parsing before it is emitted
- Deletes the user’s database schema
- What does a schema-conforming output guarantee by itself?
- Every value is true in the external world
- The model used the right source documents
- No refusal or incomplete response can occur
- The output matches the supported structure, not that its values are factually correct