Quiz zur eingeschränkten Dekodierung

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

1. Was bewirkt die eingeschränkte Dekodierung grundsätzlich bei jedem Generationsschritt?
   • Maskiert Token, die die erforderliche Struktur verletzen würden, vor dem Sampling
   • Trainiert das Modell anhand strukturierter Beispiele neu
   • Senkt die Temperatur auf Null
   • Fügt der Eingabeaufforderung weitere Trainingsdaten hinzu
2. What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
   • The model silently gains new training data
   • The request can be rejected with an error
   • All outputs become valid SQL
   • The schema is automatically converted to natural language
3. Welche technische Herausforderung macht die Implementierung einer eingeschränkten Dekodierung schwierig?
   • Modelle können ohne sie überhaupt keinen Text ausgeben
   • Es erfordert eine GPU mit mehr als 100 GB Speicher
   • Unterwort-Tokens stimmen nicht sauber mit Grammatiksymbolen überein
   • Grammatiken können nicht für JSON geschrieben werden
4. Welches davon ist ein echtes Format, das zur Festlegung von Einschränkungen für die Dekodierung verwendet wird?
   • Eine Tabelle mit Gewichten
   • Eine Liste der GPU-Temperaturen
   • Ein zufälliger Startwert
   • Ein JSON-Schema oder eine kontextfreie Grammatik
5. An welcher Stelle in der Pipeline wird die Einschränkungsmaske normalerweise angewendet?
   • Zu den Protokollen vor dem Softmax-/Sampling-Schritt
   • Vor der Tokenisierung der Eingabeaufforderung
   • Nachdem der Text bereits an den Benutzer gedruckt wurde
   • Nur während des Modelltrainings
6. Welchen Vorteil bietet die eingeschränkte Dekodierung gegenüber der einfachen Aufforderung an ein Modell in der Eingabeaufforderung, „gültiges JSON auszugeben“?
   • Es verbraucht weniger Strom
   • Es bietet eine harte Garantie, anstatt sich auf die Zusammenarbeit des Modells zu verlassen
   • Es macht das Modell kreativer
   • Dadurch entfällt die Notwendigkeit eines Tokenizers
7. What does PICARD do with a candidate token that would make a partial SQL query unparsable?
   • Accepts it and repairs the query after generation
   • Retrains the language model immediately
   • Rejects that token during incremental parsing before it is emitted
   • Deletes the user’s database schema
8. What does a schema-conforming output guarantee by itself?
   • Every value is true in the external world
   • The model used the right source documents
   • No refusal or incomplete response can occur
   • The output matches the supported structure, not that its values are factually correct