Wat is Terugpropagatie?

Een wiskundig doel dat de voorspellingsfout tijdens de training kwantificeert.

Een geleerde numerieke waarde die signalen schaalt die door een neuraal netwerk gaan.

Een geoptimaliseerd aandachtsalgoritme dat het geheugengebruik vermindert en de training en gevolgtrekking van transformatoren versnelt.

Een trainingsopstelling waarbij een model verbetert door gegevens te genereren via interacties of wedstrijden met kopieën van zichzelf.

Wanneer benchmarktestvoorbeelden of sterk gelijkende varianten aanwezig zijn in trainingsgegevens, worden de gerapporteerde prestaties verhoogd.

Een tokenisatie-algoritme voor subwoorden dat de meest voorkomende tekenparen samenvoegt tot herbruikbare tokens.