Test legat de ghid · Mediu Nivel

Test de decodare constrânsă

Review token-level constraints, incremental parsing, structured output limits and the distinction between valid format and correct content.

Căi de ghidare aferenteDecodare constrânsă
Întrebare 1 de 8

Ce face fundamental decodarea constrânsă la fiecare pas de generație?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Ce face fundamental decodarea constrânsă la fiecare pas de generație?
    • Maschează jetoanele care ar încălca structura necesară înainte de eșantionare
    • Reantrenează modelul pe exemple structurate
    • Scade temperatura la zero
    • Adaugă mai multe date de antrenament la prompt
  2. What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
    • The model silently gains new training data
    • The request can be rejected with an error
    • All outputs become valid SQL
    • The schema is automatically converted to natural language
  3. Ce provocare tehnică face decodarea restrânsă dificil de implementat?
    • Modelele nu pot scoate deloc text fără el
    • Necesita un GPU cu mai mult de 100 GB de memorie
    • Indicatoarele subcuvinte nu se aliniază clar cu simbolurile gramaticale
    • Gramaticile nu pot fi scrise pentru JSON
  4. Care dintre acestea este un format real folosit pentru a specifica constrângerile pentru decodare?
    • O foaie de calcul cu greutăți
    • O listă cu temperaturile GPU-ului
    • O valoare de semințe aleatoare
    • O schemă JSON sau o gramatică fără context
  5. În ce moment în conductă este aplicată de obicei masca de constrângere?
    • La logits, înainte de pasul softmax/sampling
    • Înainte de tokenizarea promptului
    • După ce textul este deja imprimat utilizatorului
    • Doar în timpul antrenamentului de model
  6. În comparație cu pur și simplu solicitarea unui model în promptul de a „emite JSON valid”, decodificarea constrânsă oferă ce avantaj?
    • Consumă mai puțină energie electrică
    • Oferă o garanție solidă, mai degrabă decât să se bazeze pe cooperarea modelului
    • Face modelul mai creativ
    • Îndepărtează necesitatea unui tokenizer
  7. What does PICARD do with a candidate token that would make a partial SQL query unparsable?
    • Accepts it and repairs the query after generation
    • Retrains the language model immediately
    • Rejects that token during incremental parsing before it is emitted
    • Deletes the user’s database schema
  8. What does a schema-conforming output guarantee by itself?
    • Every value is true in the external world
    • The model used the right source documents
    • No refusal or incomplete response can occur
    • The output matches the supported structure, not that its values are factually correct