Test legat de ghid · Mediu Nivel
Test de decodare constrânsă
Review token-level constraints, incremental parsing, structured output limits and the distinction between valid format and correct content.
Întrebare 1 de 8
Ce face fundamental decodarea constrânsă la fiecare pas de generație?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- Ce face fundamental decodarea constrânsă la fiecare pas de generație?
- Maschează jetoanele care ar încălca structura necesară înainte de eșantionare
- Reantrenează modelul pe exemple structurate
- Scade temperatura la zero
- Adaugă mai multe date de antrenament la prompt
- What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
- The model silently gains new training data
- The request can be rejected with an error
- All outputs become valid SQL
- The schema is automatically converted to natural language
- Ce provocare tehnică face decodarea restrânsă dificil de implementat?
- Modelele nu pot scoate deloc text fără el
- Necesita un GPU cu mai mult de 100 GB de memorie
- Indicatoarele subcuvinte nu se aliniază clar cu simbolurile gramaticale
- Gramaticile nu pot fi scrise pentru JSON
- Care dintre acestea este un format real folosit pentru a specifica constrângerile pentru decodare?
- O foaie de calcul cu greutăți
- O listă cu temperaturile GPU-ului
- O valoare de semințe aleatoare
- O schemă JSON sau o gramatică fără context
- În ce moment în conductă este aplicată de obicei masca de constrângere?
- La logits, înainte de pasul softmax/sampling
- Înainte de tokenizarea promptului
- După ce textul este deja imprimat utilizatorului
- Doar în timpul antrenamentului de model
- În comparație cu pur și simplu solicitarea unui model în promptul de a „emite JSON valid”, decodificarea constrânsă oferă ce avantaj?
- Consumă mai puțină energie electrică
- Oferă o garanție solidă, mai degrabă decât să se bazeze pe cooperarea modelului
- Face modelul mai creativ
- Îndepărtează necesitatea unui tokenizer
- What does PICARD do with a candidate token that would make a partial SQL query unparsable?
- Accepts it and repairs the query after generation
- Retrains the language model immediately
- Rejects that token during incremental parsing before it is emitted
- Deletes the user’s database schema
- What does a schema-conforming output guarantee by itself?
- Every value is true in the external world
- The model used the right source documents
- No refusal or incomplete response can occur
- The output matches the supported structure, not that its values are factually correct