KI-Glossarbegriff

Was ist Geschützte Dekodierung?

Definition

Eine Generierungsstrategie, die Ausgabetokens auf gültige Strukturen oder richtlinienkonforme Auswahlmöglichkeiten beschränkt.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

Top-K-ProbenahmeEine Dekodierungsstrategie, die nur die k wahrscheinlichsten nächsten Token abtastet.Top-p (Kern)-ProbenahmeEine Dekodierungsstrategie, die Stichproben aus dem kleinsten Token-Satz macht, dessen Wahrscheinlichkeiten sich zu p summieren.AusgabeparserLogik, die die Modellausgabe validiert und in stark typisierte, maschinenverwendbare Strukturen umwandelt.Spekulative DekodierungEine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.WiederholungsstrafeEine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token verringert, die das Modell bereits produziert hat, um Schleifen zu reduzieren.FrequenzstrafeEine Dekodierungseinstellung, die die Wahrscheinlichkeit von Token proportional dazu verringert, wie oft sie bisher aufgetaucht sind.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

Siehe auch

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space