Belajar Berita Alat Pekerjaan Misi

Istilah Glosari AI

Apakah Penalti Kehadiran?

Definisi

Tetapan penyahkodan yang mengurangkan kebarangkalian token yang telah muncul sama sekali, menggalakkan topik baharu.

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma

Penalti KekerapanTetapan penyahkodan yang mengurangkan kebarangkalian token secara berkadar dengan kekerapan token itu muncul setakat ini.Penalti UlanganTetapan penyahkodan yang mengurangkan kebarangkalian token yang telah dihasilkan oleh model untuk mengurangkan gelung.Persampelan Top-kStrategi penyahkodan yang hanya mengambil sampel daripada k kemungkinan besar token seterusnya.Penyahkodan TerkawalStrategi penjanaan yang mengekang token output kepada struktur yang sah atau pilihan yang mematuhi dasar.Penyahkodan SpekulatifKaedah pecutan inferens di mana model draf kecil mencadangkan token yang disahkan oleh model yang lebih besar secara selari.Cache KVTensor kunci dan nilai yang disimpan daripada token sebelumnya yang membolehkan transformer menjana token baharu tanpa mengira semula perhatian masa lalu.

Ketahui lebih lanjut dalam panduan percuma kami

Repetition Penalty and Decoding Controls

Lihat juga

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking