Istilah Glosari AI

Apakah Penyahkodan Terkawal?

Definisi

Strategi penjanaan yang mengekang token output kepada struktur yang sah atau pilihan yang mematuhi dasar.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

Persampelan Top-kStrategi penyahkodan yang hanya mengambil sampel daripada k kemungkinan besar token seterusnya.Persampelan atas-p (Nukleus).Strategi penyahkodan yang mengambil sampel daripada set token terkecil yang kebarangkaliannya berjumlah p.Penghurai KeluaranLogik yang mengesahkan dan menukar output model kepada struktur yang ditaip kuat dan boleh digunakan oleh mesin.Penyahkodan SpekulatifKaedah pecutan inferens di mana model draf kecil mencadangkan token yang disahkan oleh model yang lebih besar secara selari.Penalti UlanganTetapan penyahkodan yang mengurangkan kebarangkalian token yang telah dihasilkan oleh model untuk mengurangkan gelung.Penalti KekerapanTetapan penyahkodan yang mengurangkan kebarangkalian token secara berkadar dengan kekerapan token itu muncul setakat ini.

Ketahui lebih lanjut dalam panduan percuma kami

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

Lihat juga

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space