Apa itu Decoding yang Dilindungi?

Strategi decoding yang mengambil sampel hanya dari k kemungkinan besar token berikutnya.

Strategi decoding yang mengambil sampel dari kumpulan token terkecil yang probabilitasnya berjumlah p.

Logika yang memvalidasi dan mengubah keluaran model menjadi struktur yang diketik dengan kuat dan dapat digunakan mesin.

Metode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.

Pengaturan decoding yang menurunkan kemungkinan token yang telah dihasilkan model untuk mengurangi loop.

Pengaturan decoding yang mengurangi kemungkinan token secara proporsional dengan seberapa sering token tersebut muncul sejauh ini.