Apa itu Penalti Frekuensi?

Pengaturan decoding yang mengurangi kemungkinan munculnya token, mendorong topik baru.

Pengaturan decoding yang menurunkan kemungkinan token yang telah dihasilkan model untuk mengurangi loop.

Metrik model bahasa yang mengukur seberapa terkejut model tersebut dengan token berikutnya yang sebenarnya.

Strategi decoding yang mengambil sampel hanya dari k kemungkinan besar token berikutnya.

Strategi pembangkitan yang membatasi token keluaran pada struktur yang valid atau pilihan yang sesuai dengan kebijakan.

Metode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.