co je Zpětná propagace?

Matematický cíl, který kvantifikuje chybu predikce během tréninku.

Naučená číselná hodnota, která škáluje signály procházející neuronovou sítí.

Optimalizovaný algoritmus pozornosti, který snižuje využití paměti a urychluje trénování a vyvozování transformátorů.

Tréninkové nastavení, kde se model zlepšuje generováním dat prostřednictvím interakcí nebo soutěží se svými kopiemi.

Jsou-li v tréninkových datech přítomny příklady srovnávacích testů nebo blízké varianty, dochází ke zvýšení vykazovaného výkonu.

Algoritmus tokenizace podslov, který spojuje nejčastější dvojice znaků do znovu použitelných tokenů.