Vad är Frekvensstraff?

En avkodningsinställning som minskar sannolikheten för tokens som överhuvudtaget har dykt upp, vilket uppmuntrar till nya ämnen.

En avkodningsinställning som sänker sannolikheten för tokens som modellen redan har producerat för att minska loopar.

Ett språkmodellmått som mäter hur överraskad modellen är av sanna nästa tokens.

En avkodningsstrategi som endast samplar från de k mest sannolika nästa tokens.

En genereringsstrategi som begränsar utdatatokens till giltiga strukturer eller policykompatibla val.

En inferensaccelerationsmetod där ett litet utkast till modell föreslår tokens som en större modell verifierar parallellt.