Apa itu Penyebaran balik?

Objektif matematik yang mengukur ralat ramalan semasa latihan.

Nilai berangka yang dipelajari yang menskalakan isyarat yang melalui rangkaian saraf.

Algoritma perhatian yang dioptimumkan yang mengurangkan penggunaan memori dan mempercepatkan latihan dan inferens transformer.

Persediaan latihan di mana model bertambah baik dengan menjana data melalui interaksi atau pertandingan dengan salinan dirinya sendiri.

Apabila contoh ujian penanda aras atau varian hampir hadir dalam data latihan, meningkatkan prestasi yang dilaporkan.

Algoritma tokenisasi subkata yang menggabungkan pasangan aksara yang paling kerap menjadi token boleh guna semula.