KI-Glossarbegriff

Was ist Frequenzstrafe?

Definition

Eine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token proportional dazu verringert, wie oft sie bisher aufgetaucht sind.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

AnwesenheitsstrafeEine Dekodierungseinstellung, die die Wahrscheinlichkeit verringert, dass Token überhaupt aufgetaucht sind, und so neue Themen anregt.WiederholungsstrafeEine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token verringert, die das Modell bereits produziert hat, um Schleifen zu reduzieren.PerplexityEine Sprachmodellmetrik, die misst, wie überrascht das Modell von echten nächsten Token ist.Top-K-ProbenahmeEine Dekodierungsstrategie, die nur die k wahrscheinlichsten nächsten Token abtastet.Geschützte DekodierungEine Generierungsstrategie, die Ausgabetokens auf gültige Strukturen oder richtlinienkonforme Auswahlmöglichkeiten beschränkt.Spekulative DekodierungEine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Repetition Penalty and Decoding ControlsMel-Frequency Cepstral CoefficientsTime-Frequency Masking for Source SeparationHigh-Frequency Trading Explained

Siehe auch

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking