What is Learning Rate? Definition | AI Understanding

Definisi

Hiperparameter latihan yang mengawal berapa banyak parameter mengubah setiap langkah kemas kini.

Istilah berkaitan

Vektor yang menunjukkan berapa banyak setiap parameter harus berubah untuk mengurangkan kerugian.

Nilai konfigurasi yang ditetapkan sebelum latihan, seperti kadar pembelajaran, saiz kelompok atau kedalaman.

Seberapa baik prestasi model pada data baharu yang tidak kelihatan di luar set latihan.

Penalaan Halus Cekap Parameter (PEFT)

Kaedah yang menyesuaikan model dengan melatih subset kecil parameter tambahan.

Algoritma penyahkodan yang mengekalkan beberapa jujukan calon teratas pada setiap langkah untuk mencari output berkemungkinan lebih tinggi.

Fungsi Kehilangan

Objektif matematik yang mengukur ralat ramalan semasa latihan.

Ketahui lebih lanjut dalam panduan percuma kami

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma