Belajar Berita Alat Lowongan Misi

Istilah Glosarium AI

Apa itu Penalti Kehadiran?

Definisi

Pengaturan decoding yang mengurangi kemungkinan munculnya token, mendorong topik baru.

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis

Penalti FrekuensiPengaturan decoding yang mengurangi kemungkinan token secara proporsional dengan seberapa sering token tersebut muncul sejauh ini.Penalti PengulanganPengaturan decoding yang menurunkan kemungkinan token yang telah dihasilkan model untuk mengurangi loop.Pengambilan Sampel Top-kStrategi decoding yang mengambil sampel hanya dari k kemungkinan besar token berikutnya.Decoding yang DilindungiStrategi pembangkitan yang membatasi token keluaran pada struktur yang valid atau pilihan yang sesuai dengan kebijakan.Penguraian Kode SpekulatifMetode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.Tembolok KVTensor kunci dan nilai tersimpan dari token sebelumnya yang memungkinkan transformator menghasilkan token baru tanpa menghitung ulang perhatian sebelumnya.

Pelajari lebih lanjut di panduan gratis kami

Repetition Penalty and Decoding Controls

Lihat juga

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking