Vad är Backpropagation?

Ett matematiskt mål som kvantifierar prediktionsfel under träning.

Ett inlärt numeriskt värde som skalar signaler som passerar genom ett neuralt nätverk.

En optimerad uppmärksamhetsalgoritm som minskar minnesanvändningen och påskyndar transformatorträning och slutledning.

Ett träningsupplägg där en modell förbättras genom att generera data genom interaktioner eller tävlingar med kopior av sig själv.

När benchmarktestexempel eller närliggande varianter finns i träningsdata, ökar rapporterad prestation.

En underordstokeniseringsalgoritm som slår samman de vanligaste karaktärsparen till återanvändbara tokens.