Apakah Penalti Ulangan?

Tetapan penyahkodan yang mengurangkan kebarangkalian token secara berkadar dengan kekerapan token itu muncul setakat ini.

Tetapan penyahkodan yang mengurangkan kebarangkalian token yang telah muncul sama sekali, menggalakkan topik baharu.

Strategi penyahkodan yang hanya mengambil sampel daripada k kemungkinan besar token seterusnya.

Strategi penjanaan yang mengekang token output kepada struktur yang sah atau pilihan yang mematuhi dasar.

Kaedah pecutan inferens di mana model draf kecil mencadangkan token yang disahkan oleh model yang lebih besar secara selari.

Corak perhatian di mana setiap token hadir hanya pada tetingkap saiz tetap token berdekatan untuk mengurangkan pengiraan.