Kvíz spojený s průvodcem · Střední úroveň

Omezený kvíz dekódování

Zkontrolujte omezení na úrovni tokenů, přírůstkovou analýzu, limity strukturovaného výstupu a rozdíl mezi platným formátem a správným obsahem.

Související vodicí cestyOmezené dekódování
Otázka 1 z 8

Co v podstatě dělá omezené dekódování v každém generačním kroku?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Co v podstatě dělá omezené dekódování v každém generačním kroku?
    • Před vzorkováním maskuje tokeny, které by porušovaly požadovanou strukturu
    • Přeškolí model na strukturovaných příkladech
    • Sníží teplotu na nulu
    • Přidá do výzvy další tréninková data
  2. What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
    • The model silently gains new training data
    • The request can be rejected with an error
    • All outputs become valid SQL
    • The schema is automatically converted to natural language
  3. Jaká technická výzva způsobuje, že je implementace omezeného dekódování složitá?
    • Modely bez něj nemohou vytisknout text
    • Vyžaduje GPU s více než 100 GB paměti
    • Tokeny podslov nejsou zcela v souladu s gramatickými symboly
    • Gramatiky nelze psát pro JSON
  4. Který z těchto formátů je skutečný formát používaný ke specifikaci omezení pro dekódování?
    • Tabulka vah
    • Seznam teplot GPU
    • Náhodná hodnota semene
    • Schéma JSON nebo bezkontextová gramatika
  5. V jakém bodě potrubí se obvykle aplikuje maska omezení?
    • K logitům před krokem softmax/vzorkování
    • Před tokenizací výzvy
    • Poté, co je text již vytištěn uživateli
    • Pouze při modelovém výcviku
  6. Jakou výhodu nabízí omezené dekódování ve srovnání s jednoduchým dotazem na model ve výzvě, aby „vydal platný JSON“?
    • Spotřebovává méně elektřiny
    • Poskytuje spíše tvrdou záruku než spoléhání na spolupráci modelu
    • Díky tomu je model kreativnější
    • Odstraňuje potřebu tokenizéru
  7. What does PICARD do with a candidate token that would make a partial SQL query unparsable?
    • Accepts it and repairs the query after generation
    • Retrains the language model immediately
    • Rejects that token during incremental parsing before it is emitted
    • Deletes the user’s database schema
  8. What does a schema-conforming output guarantee by itself?
    • Every value is true in the external world
    • The model used the right source documents
    • No refusal or incomplete response can occur
    • The output matches the supported structure, not that its values are factually correct