What is Learning Rate? Definition | AI Understanding

Definisi

Hyperparameter pelatihan yang mengontrol seberapa banyak parameter berubah setiap langkah pembaruan.

Istilah terkait

Vektor yang menunjukkan seberapa banyak setiap parameter harus diubah untuk mengurangi kerugian.

Nilai konfigurasi yang ditetapkan sebelum pelatihan, seperti kecepatan pembelajaran, ukuran batch, atau kedalaman.

Seberapa baik performa model pada data baru yang tidak terlihat di luar set pelatihan.

Penyempurnaan Efisien Parameter (PEFT)

Metode yang mengadaptasi model dengan melatih sebagian kecil parameter tambahan.

Pencarian Sinar

Algoritme penguraian kode yang menyimpan beberapa urutan kandidat teratas di setiap langkah untuk menemukan keluaran dengan probabilitas lebih tinggi.

Fungsi Kerugian

Tujuan matematika yang mengukur kesalahan prediksi selama pelatihan.

Pelajari lebih lanjut di panduan gratis kami

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis