Was ist Frequenzstrafe?

Eine Dekodierungseinstellung, die die Wahrscheinlichkeit verringert, dass Token überhaupt aufgetaucht sind, und so neue Themen anregt.

Eine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token verringert, die das Modell bereits produziert hat, um Schleifen zu reduzieren.

Eine Sprachmodellmetrik, die misst, wie überrascht das Modell von echten nächsten Token ist.

Eine Dekodierungsstrategie, die nur die k wahrscheinlichsten nächsten Token abtastet.

Eine Generierungsstrategie, die Ausgabetokens auf gültige Strukturen oder richtlinienkonforme Auswahlmöglichkeiten beschränkt.

Eine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.