Vad är Perplexity?

Ett kodutvärderingsmått som mäter chansen att minst ett av k genererade sampel klarar testerna.

Den maximala mängden inmatningstoken en språkmodell kan bearbeta på en gång.

En avkodningsstrategi som endast samplar från de k mest sannolika nästa tokens.

Ett statistiskt intervall som sannolikt innehåller det sanna värdet av ett uppmätt modellmått.

En avkodningsinställning som minskar sannolikheten för tokens proportionellt mot hur ofta de har dykt upp hittills.

En avkodningsinställning som minskar sannolikheten för tokens som överhuvudtaget har dykt upp, vilket uppmuntrar till nya ämnen.