Co jest Propagacja wsteczna?

Cel matematyczny, który określa ilościowo błąd przewidywania podczas uczenia.

Wyuczona wartość liczbowa skalująca sygnały przechodzące przez sieć neuronową.

Zoptymalizowany algorytm uwagi, który zmniejsza zużycie pamięci i przyspiesza uczenie i wnioskowanie transformatora.

Konfiguracja szkoleniowa, w której model jest ulepszany poprzez generowanie danych w drodze interakcji lub konkursów z jego kopiami.

Gdy w danych szkoleniowych znajdują się przykłady testów porównawczych lub zbliżone warianty, co zawyża raportowaną wydajność.

Algorytm tokenizacji podsłów, który łączy najczęstsze pary znaków w tokeny wielokrotnego użytku.