Hva er BPE (byteparkoding)?

Prosessen med å dele opp tekst i tokens for modellinndata.

Teknologi som konverterer tekst i bilder eller skanner til maskinlesbar tekst.

En dekodingsstrategi som prøver bare fra de k mest sannsynlig neste tokene.

Kjernetreningsalgoritmen som oppdaterer modellvekter ved å spre prediksjonsfeil bakover gjennom nettverket.

En modell som koder forespørsler og dokumenter i separate vektorer slik at de kan sammenlignes raskt i skala.

En dekodingsalgoritme som holder de øverste flere kandidatsekvensene ved hvert trinn for å finne utganger med høyere sannsynlighet.