Belajar Berita Alat Lowongan Misi

Istilah Glosarium AI

Apa itu Penalti Pengulangan?

Definisi

Pengaturan decoding yang menurunkan kemungkinan token yang telah dihasilkan model untuk mengurangi loop.

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis

Penalti FrekuensiPengaturan decoding yang mengurangi kemungkinan token secara proporsional dengan seberapa sering token tersebut muncul sejauh ini.Penalti KehadiranPengaturan decoding yang mengurangi kemungkinan munculnya token, mendorong topik baru.Pengambilan Sampel Top-kStrategi decoding yang mengambil sampel hanya dari k kemungkinan besar token berikutnya.Decoding yang DilindungiStrategi pembangkitan yang membatasi token keluaran pada struktur yang valid atau pilihan yang sesuai dengan kebijakan.Penguraian Kode SpekulatifMetode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.Perhatian Jendela GeserPola perhatian di mana setiap token hanya memperhatikan jendela berukuran tetap dari token terdekat untuk mengurangi komputasi.

Pelajari lebih lanjut di panduan gratis kami

Repetition Penalty and Decoding Controls AI Flashcards and Spaced Repetition

Lihat juga

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking