Wat is Contextvenster?

Het proces waarbij tekst in tokens wordt gesplitst voor modelinvoer.

Een verschuiving in reële invoergegevens in de loop van de tijd die de modelprestaties kan verslechteren.

Een model dat meerdere gegevenstypen, zoals tekst, afbeeldingen en audio, kan verwerken of genereren.

Een taalmodelstatistiek die meet hoe verrast het model is door echte volgende tokens.

De invoerinstructies en context die aan een generatief model worden verstrekt.

Een aandachtspatroon waarbij elk token alleen betrekking heeft op een venster met een vaste grootte van nabijgelegen tokens om de rekenkracht te verminderen.