Vad är BPE (byteparkodning)?

Processen att dela upp text i tokens för modellinmatning.

Teknik som konverterar text i bilder eller skannar till maskinläsbar text.

En avkodningsstrategi som endast samplar från de k mest sannolika nästa tokens.

Grundträningsalgoritmen som uppdaterar modellvikter genom att sprida prediktionsfel bakåt genom nätverket.

En modell som kodar frågor och dokument till separata vektorer så att de snabbt kan jämföras i skala.

En avkodningsalgoritm som håller de översta flera kandidatsekvenserna vid varje steg för att hitta utdata med högre sannolikhet.