Wat is Top-k-sampling?

Een decoderingsstrategie die monsters neemt van de kleinste tokenset waarvan de kansen optellen tot p.

Een generatiestrategie die uitvoertokens beperkt tot geldige structuren of beleidsconforme keuzes.

Gedrag leren of aanpassen vanuit slechts een klein aantal voorbeelden.

Een taalmodelstatistiek die meet hoe verrast het model is door echte volgende tokens.

Een gevolgtrekkingsversnellingsmethode waarbij een klein conceptmodel tokens voorstelt die een groter model parallel verifieert.

Opgeslagen sleutel- en waardetensoren van eerdere tokens waarmee transformatoren nieuwe tokens kunnen genereren zonder de aandacht uit het verleden opnieuw te berekenen.