Apa itu Penalti Kekerapan?

Tetapan penyahkodan yang mengurangkan kebarangkalian token yang telah muncul sama sekali, menggalakkan topik baharu.

Tetapan penyahkodan yang mengurangkan kebarangkalian token yang telah dihasilkan oleh model untuk mengurangkan gelung.

Metrik model bahasa yang mengukur betapa terkejutnya model dengan token seterusnya yang benar.

Strategi penyahkodan yang hanya mengambil sampel daripada k kemungkinan besar token seterusnya.

Strategi penjanaan yang mengekang token output kepada struktur yang sah atau pilihan yang mematuhi dasar.

Kaedah pecutan inferens di mana model draf kecil mencadangkan token yang disahkan oleh model yang lebih besar secara selari.