Belajar Berita Alat Lowongan Misi

Istilah Glosarium AI

Apa itu Decoding yang Dilindungi?

Definisi

Strategi pembangkitan yang membatasi token keluaran pada struktur yang valid atau pilihan yang sesuai dengan kebijakan.

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis

Pengambilan Sampel Top-kStrategi decoding yang mengambil sampel hanya dari k kemungkinan besar token berikutnya.Pengambilan Sampel Top-p (Inti).Strategi decoding yang mengambil sampel dari kumpulan token terkecil yang probabilitasnya berjumlah p.Pengurai KeluaranLogika yang memvalidasi dan mengubah keluaran model menjadi struktur yang diketik dengan kuat dan dapat digunakan mesin.Penguraian Kode SpekulatifMetode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.Penalti PengulanganPengaturan decoding yang menurunkan kemungkinan token yang telah dihasilkan model untuk mengurangi loop.Penalti FrekuensiPengaturan decoding yang mengurangi kemungkinan token secara proporsional dengan seberapa sering token tersebut muncul sejauh ini.

Pelajari lebih lanjut di panduan gratis kami

Contrastive Decoding Minimum Bayes Risk Decoding Self-Consistency Decoding Medusa Decoding Heads

Lihat juga

Groundedness Human Preference Model Feature Store Inference Endpoint Eval Harness Knowledge Base Embedding Model Latent Space