Apa itu Pengambilan Sampel Top-p (Inti).?

Strategi decoding yang mengambil sampel hanya dari k kemungkinan besar token berikutnya.

Strategi pembangkitan yang membatasi token keluaran pada struktur yang valid atau pilihan yang sesuai dengan kebijakan.

Model yang menyusun ulang kumpulan awal hasil yang diambil untuk menempatkan item yang paling relevan di urutan teratas.

Algoritme penguraian kode yang menyimpan beberapa urutan kandidat teratas di setiap langkah untuk menemukan keluaran dengan probabilitas lebih tinggi.

Pengaturan pengambilan sampel yang mengontrol keacakan dalam keluaran yang dihasilkan.

Sepotong teks yang diproses oleh model bahasa, seperti potongan kata atau simbol.