Was ist Geschützte Dekodierung?

Eine Dekodierungsstrategie, die nur die k wahrscheinlichsten nächsten Token abtastet.

Eine Dekodierungsstrategie, die Stichproben aus dem kleinsten Token-Satz macht, dessen Wahrscheinlichkeiten sich zu p summieren.

Logik, die die Modellausgabe validiert und in stark typisierte, maschinenverwendbare Strukturen umwandelt.

Eine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.

Eine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token verringert, die das Modell bereits produziert hat, um Schleifen zu reduzieren.

Eine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token proportional dazu verringert, wie oft sie bisher aufgetaucht sind.