Kvíz spojený s průvodcem · Střední úroveň
Omezený kvíz dekódování
Zkontrolujte omezení na úrovni tokenů, přírůstkovou analýzu, limity strukturovaného výstupu a rozdíl mezi platným formátem a správným obsahem.
Otázka 1 z 8
Co v podstatě dělá omezené dekódování v každém generačním kroku?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co v podstatě dělá omezené dekódování v každém generačním kroku?
- Před vzorkováním maskuje tokeny, které by porušovaly požadovanou strukturu
- Přeškolí model na strukturovaných příkladech
- Sníží teplotu na nulu
- Přidá do výzvy další tréninková data
- What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
- The model silently gains new training data
- The request can be rejected with an error
- All outputs become valid SQL
- The schema is automatically converted to natural language
- Jaká technická výzva způsobuje, že je implementace omezeného dekódování složitá?
- Modely bez něj nemohou vytisknout text
- Vyžaduje GPU s více než 100 GB paměti
- Tokeny podslov nejsou zcela v souladu s gramatickými symboly
- Gramatiky nelze psát pro JSON
- Který z těchto formátů je skutečný formát používaný ke specifikaci omezení pro dekódování?
- Tabulka vah
- Seznam teplot GPU
- Náhodná hodnota semene
- Schéma JSON nebo bezkontextová gramatika
- V jakém bodě potrubí se obvykle aplikuje maska omezení?
- K logitům před krokem softmax/vzorkování
- Před tokenizací výzvy
- Poté, co je text již vytištěn uživateli
- Pouze při modelovém výcviku
- Jakou výhodu nabízí omezené dekódování ve srovnání s jednoduchým dotazem na model ve výzvě, aby „vydal platný JSON“?
- Spotřebovává méně elektřiny
- Poskytuje spíše tvrdou záruku než spoléhání na spolupráci modelu
- Díky tomu je model kreativnější
- Odstraňuje potřebu tokenizéru
- What does PICARD do with a candidate token that would make a partial SQL query unparsable?
- Accepts it and repairs the query after generation
- Retrains the language model immediately
- Rejects that token during incremental parsing before it is emitted
- Deletes the user’s database schema
- What does a schema-conforming output guarantee by itself?
- Every value is true in the external world
- The model used the right source documents
- No refusal or incomplete response can occur
- The output matches the supported structure, not that its values are factually correct